Black-Swan-Ereignisse sind äußerst selten, aber ihre Auswirkungen sind enorm. Unter einem "Black Swan"-Event versteht man ein unvorhergesehenes Ereignis, das dramatische Konsequenzen hat. Ein Beispiel hierfür könnte das CrowdStrike-Desaster des letzten Sommers sein, als ein fehlerhaftes Update Flughäfen, Unternehmen und Krankenhäuser lahmlegte. Laut Experten wird das Jahr 2025 auch von unvorhersehbaren Momenten geprägt werden, und Künstliche Intelligenz (KI) wird von vielen als eine der größten Bedrohungen angesehen.

Gary Marcus, ein angesehener KI-Experte und emeritierter Professor für Neurowissenschaften an der New York University, thematisiert insbesondere die Gefahren von generativer KI. Er ist ein entschiedener Kritiker des gegenwärtigen Hypes um diese Technologie und warnt davor, dass Cyberkriminelle die Möglichkeiten der KI für schädliche Zwecke nutzen könnten. Künstlich erzeugte Texte können für Phishing-Angriffe eingesetzt werden, während Deepfakes dazu verwendet werden könnten, um Menschen in die Irre zu führen. Ein alarmierendes Beispiel ist ein Vorfall, bei dem ein Mitarbeiter einer Bank in Hongkong auf ein Deepfake-Video hereingefallen ist und dadurch 25 Millionen US-Dollar verloren hat.

Ein weiteres besorgniserregendes Thema sind Large Language Models, die anfällig für Manipulationen wie Jailbreaking und Prompt Injections sind. Diese Angriffe könnten dazu führen, dass Chatbots unerwünschte oder gefährliche Antworten geben oder sogar sensible Daten stehlen. Marcus betont auch, dass viele Entwickler, die generative KI-Tools beim Programmieren einsetzen, die von der KI generierten Ergebnisse möglicherweise nicht vollständig verstehen oder überprüfen, was zu gravierenden Sicherheitslücken führen kann. Seine größte Sorge liegt darin, dass die US-Behörden dazu neigen, regulierende Maßnahmen abzubauen, was die Situation weiter verschärfen könnte.

Ein weiterer prominenter Experte, Amy Webb, CEO des Future Today Institute und Professorin an der New York University Stern School of Business, sieht ein potenzielles Risiko für die Finanzmärkte. Sie weist darauf hin, dass die Deregulierung und der Abbau von Institutionen, vorangetrieben durch die Regierung des wiedergewählten Präsidenten Donald Trump, gefährliche Rückwirkungen haben werden. Webb warnt, dass böswillige Akteure und nationale Unzufriedene im Jahr 2025 die Finanzmärkte ins Ziel nehmen könnten. KI könnte dabei helfen, Echtzeitdaten und Wirtschaftsindikatoren auszuwerten und durch gezielte Falschinformationen die Märkte ins Wanken zu bringen.

Im Jahr 2025 könnte Künstliche Intelligenz nicht nur gezielte Desinformation verbreiten, sondern ebenfalls strategisch die besten Zeitpunkte für die Verbreitung solcher Informationen bestimmen. Dies könnte dazu führen, dass die Stabilität der Märkte gefährdet wird, während Akteure mit finanziellen Interessen gezielt deren Dynamik manipulieren.

Die Zukunft ist ungewiss, und während KI das Potenzial hat, zahlreiche Branchen zu revolutionieren, bestehen auch erhebliche Risiken. Die Frage bleibt: Sind wir bereit, die Kontrolle über diese Technologie zu übernehmen, bevor sie uns übermannt?