Eine neue Studie von Google DeepMind Allerdings verstehen Chatbots Moralvorstellungen möglicherweise nicht wirklich – selbst wenn ihre Antworten ethisch erscheinen.
Aktuelle Tests der KI-Ethik konzentrieren sich auf die „ethische Leistung“ und bewerten, ob ein Modell akzeptable Antworten liefert. Forscher von DeepMind argumentieren jedoch, dass dieser Ansatz die grundlegendere Frage außer Acht lässt: Kann KI ethisch denken oder ahmt sie lediglich korrekte Wörter nach?
Kann künstliche Intelligenz Ethik wirklich verstehen?
في Eine Forschungsarbeit, die veröffentlicht wurde in NaturDas Team entwickelt einen Leitfaden zur Beurteilung von „ethischer Kompetenz“ – der Fähigkeit, auf der Grundlage ethisch relevanter Überlegungen ethisch angemessene Ergebnisse zu erzielen. Wie die Zusammenfassung ausführt, ist die Beurteilung dieser Kompetenz „entscheidend, um das zukünftige Verhalten des Modells vorherzusagen, angemessenes öffentliches Vertrauen aufzubauen und eine ethische Zuordnung zu rechtfertigen“.
Zu den aktuellen Projekten von Google im Bereich der künstlichen Intelligenz gehören: Gemini-Sprachmodelle, و Zwillinge-Bild Zum Erstellen und Bearbeiten von Bildern, und Lyrien Um Musik zu erschaffen, Gemini Audio Für Echtzeit-Audio und Veo für die Videoerstellung.
Die Forscher heben drei zentrale Herausforderungen hervor:
- Kopierproblem: LLM-Modelle können ethisches Denken nachahmen, ohne es wirklich zu verstehen.
- Ethische Multidimensionalität: Entscheidungen in der realen Welt erfordern komplexe und kontextabhängige Überlegungen, die über ein einfaches Richtig oder Falsch hinausgehen.
- Ethischer Pluralismus: Ethische Standards variieren je nach Kultur und Fachgebiet, weshalb künstliche Intelligenz mehrere gültige Perspektiven berücksichtigen muss.
Um diese Mängel zu beheben, schlägt DeepMind vor, Angreifer anhand ungewöhnlicher oder brisanter Szenarien zu testen. Sie schlagen außerdem vor, zu evaluieren, ob KI zwischen verschiedenen ethischen Rahmen wechseln und konsistent auf subtile Kontextänderungen reagieren kann.
Das Team betont, dass trotz der aktuellen Einschränkungen des Modells „Fortschritte möglich sind“ und dass eine sorgfältige Evaluierung unerlässlich ist, wenn künstliche Intelligenz Aufgaben in der medizinischen Beratung, Behandlung und anderen Bereichen mit realen Auswirkungen auf den Menschen übernimmt.
Die Studie zeigt, dass KI derzeit bei der Abfrage ethischer Fragen zwar Worte, aber keine ethischen Argumente liefert. „Unser Fahrplan weist auf eine Zukunft hin, in der KI anhand ihres echten ethischen Verständnisses bewertet werden kann.“
Chatbots und ethische Risiken
KI-gestützte Chatbots demonstrieren zunehmend ihre Fähigkeit, das menschliche Verhalten zu beeinflussen – zum Guten wie zum Schlechten. Die New York Times vor kurzem Ein Bericht beschreibt Dutzende Fälle, in denen Patienten nach der Interaktion mit künstlicher Intelligenz Psychosen, Wahnvorstellungen oder selbstschädigendes Verhalten zeigten. Psychiater beschrieben Chatbots als Verstärker ungewöhnlicher Überzeugungen, die die Isolation verstärken und in manchen Fällen zu Suizidgedanken oder sogar Gewalt beitragen.
Diese Tools können zwar Menschen beim Üben von Therapietechniken oder bei der Unterstützung helfen, doch derselbe Bericht der Times hebt die ethischen Risiken der Überzeugungskraft von KI hervor. Experten warnen davor, dass Chatbots bei gefährdeten Nutzern schädliche Verhaltensmuster verstärken können, was schwierige Fragen hinsichtlich Verantwortung, Gestaltung und Aufsicht dieser zunehmend nutzerorientierten Systeme aufwirft.
Google wurde in dem Artikel aufgrund der psychologischen Auswirkungen seines Chatbots Gemini direkt erwähnt. Ein Unternehmenssprecher erklärte, Gemini leite Nutzer bei gesundheitsbezogenen Fragen an professionelle medizinische Beratung weiter. Dr. Monmon de Choudhury betonte jedoch die umfassendere Herausforderung und sagte: „Ich glaube nicht, dass eines dieser Unternehmen eine Lösung gefunden hat.“
