Nach nur kurzer Zeit auf dem Markt hat Apple beschlossen, eine neu eingeführte KI-Funktion, die Nachrichtenmeldungen zusammenfassen sollte, wieder abzuschalten. Dies geschah, nachdem die Software wiederholt ungenaue und irreführende Schlagzeilen geliefert hatte, wie mehrere Berichte, darunter von der BBC, bestätigen.

Ein Sprecher von Apple äußerte sich dazu: „Wir arbeiten an Verbesserungen und werden diese in einem zukünftigen Update zur Verfügung stellen.“ Die Journalistenorganisation Reporter ohne Grenzen hat die Situation als besorgniserregend hervorgehoben und auf die Gefahren von Fehlinformationen durch künstliche Intelligenz hingewiesen.

Eines der gravierendsten Beispiele für diese Fehlinformation trat auf, als die KI in einer Push-Nachricht fälschlicherweise berichtete, dass Luigi Mangione, der Verdächtige im Mordfall des United-Healthcare-CEOs Brian Thompson, sein Leben genommen habe. Auch andere prestigeträchtige Medien wie „Sky News“, die „New York Times“ und die „Washington Post“ waren betroffen, da ihre Schlagzeilen ungenau zusammengefasst wurden.

Jonathan Bright, Leiter der KI-Abteilung für öffentliche Dienste am Alan Turing Institute, beschreibt dieses Phänomen als „Halluzinationen“, in denen KI-Systeme falsche Informationen generieren. Er warnte, dass solche Vorfälle nicht nur die Öffentlichkeit irreführen, sondern auch das Vertrauen in die Nachrichtenmedien gefährden können.

In der Konsequenz hat Apple die Funktion vorerst komplett deaktiviert. Es bleibt aktuell unklar, wann diese wieder ins System integriert wird. Apple plant jedoch, für zukünftige Updates die KI-generierten Zusammenfassungen in kursivem Text in den App-Benachrichtigungen darzustellen, was möglicherweise mehr Transparenz bieten könnte.

Die Debatte über den verantwortungsvollen Einsatz von KI in der Nachrichtenberichterstattung wird nun lauter. Experten fordern von Technologieunternehmen einen ethischen Rahmen, um die Verbreitung von Falschinformationen zu verhindern, besonders in einer Zeit, in der Vertrauen in die Medien immer wichtiger wird.