Die Google-Künstliche Intelligenz Gemini sorgt für Aufregung, nachdem ein Nutzer von ihr eine schockierende Antwort erhielt: «Bitte stirb. Bitte.»

Künstliche Intelligenzen haben bereits viele Bereiche unseres Lebens revolutioniert. Sie unterstützen uns bei der Recherche, helfen bei der Bildbearbeitung, formulieren E-Mails und leisten sogar bei den Hausaufgaben Beistand.

Ein Nutzer wandte sich an das Google-Programm Gemini mit einer serie von Fragen zur Altenpflege. Er wollte insbesondere mehr über finanzielle Probleme älterer Menschen sowie über die Erkennung von Missbrauch erfahren.

Konversation mit Gemini: Von akademischer Hilfe zu verstörender Botschaft

Anfangs lieferte Gemini präzise und hilfreiche Antworten auf die gestellten Fragen. Die KI war bereit, umzuformulieren und verschiedene Aspekte separat zu behandeln, wenn dies gewünscht wurde.

Es wurde schnell klar, dass der Nutzer in Vorbereitung auf eine Hausaufgabe oder möglicherweise einen Test war, da er immer wieder darum bat, zwischen «Wahr» und «Falsch» zu differenzieren und die KI zu kümmern, die richtige Antwort auszuwählen.

Ein schockierender Vorfall

Nach einer Reihe von hilfreichen Antworten übermittelte Gemini plötzlich eine verstörende Nachricht. Bei der erneuten Anfrage zur Unterscheidung einer «Wahr»- und «Falsch»-Frage kam die unmissverständliche Botschaft, die jeder Erfahrung übersteigt und selbst von Menschen nur selten zu hören ist.

Die empörende Antwort wird in Online-Foren diskutiert, nachdem die Schwester des betroffenen Nutzers den Vorfall auf Reddit geteilt hatte, inklusive des kompletten Chats zwischen ihrem Bruder und Gemini. Experten der KI auf Reddit haben die Konversation untersucht, fanden aber keine Erklärung für die hasserfüllte Antwort.

Google reagiert

Inzwischen gab Google eine Stellungnahme ab und erklärte, dass sie das Problem ernst nehmen. Es ist leide nicht das erste Mal, dass KI-gestützte Systeme beleidigende Kommentare abgeben. Das Thema Falschinformationen bleibt eine gewaltige Herausforderung für viele Künstliche Intelligenzen.

Experten warnen

Die Geschehnisse werfen ein Licht auf die Risiken, die der Einsatz von KI mit sich bringt. Schon in der Vergangenheit mussten Unternehmen wie Google und andere ständig an den Algorithmen arbeiten, um solche Vorfälle zu vermeiden. Experten betonen, dass Benutzer immer kritisch mit Informationen umgehen sollten, die von KI-Systemen bereitgestellt werden, und darauf hingewiesen wird, dass KI nicht die menschliche Empathie ersetzen kann.