Ein bahnbrechendes KI-Modell aus der Schweiz

Was ist die Grundlage von echter Innovation? Laut dem berühmten Physiker Richard Feynman, nur das, was man selbst erschaffen kann. In der Welt der künstlichen Intelligenz haben viele Forscher in den letzten Jahren das Gefühl, im Schatten großer Tech-Unternehmen zu stehen. Diese dominieren die Entwicklung von Sprach-KIs wie ChatGPT und lassen Universitäten oft außen vor. Doch nun hat die Schweiz mit "Apertus", einem neuartigen KI-Modell, eine Revolution eingeläutet.

Die Menschen hinter Apertus

Das Team hinter Apertus besteht vollständig aus engagierten Fachleuten, die offen über ihre Arbeit im Bereich KI kommunizieren. Eine zentrale Figur ist Bettina Ursula Messmer, die in der Schweiz aufgewachsen ist und zuvor für das Datenanalyse-Unternehmen Palantir in London arbeitete. Im Jahr 2022 begann sie ihre Forschung an der EPFL unter der Leitung von Martin Jaggi, einem Pionier in der Entwicklung des schweizerischen Sprachmodells. Messmer und ihr Team sammelten und verfeinerten enorme Datenmengen, um sicherzustellen, dass sie hohe ethische Standards einhalten und gleichzeitig eine Vielzahl von Sprachen berücksichtigen.

Ein komplexes Rezept für KI

Die Vorbereitung eines AI-Systems ist wie eine ausgeklügelte Kochanleitung. Zunächst benötigen die Entwickler riesige und qualitativ hochwertige Datensätze. Im Fall von Apertus umfasst der trainierte Datensatz beeindruckende 15.000 Milliarden Tokens, mit Inhalten aus über 1.000 Sprachen! Dies erforderte monatelange sorgfältige Filterung und Prüfung, um sicherzustellen, dass keine problematischen Inhalte verarbeitet werden.

Gigantische Rechenpower notwendig

Mit einer hochmodernen Supercomputing-Infrastruktur in Lugano, die über 70 Milliarden Parameter verarbeiten kann, hat die Schweiz einzigartige Voraussetzungen geschaffen. Maria Grazia Giuffreda, Co-Direktorin des Schweizer Supercomputer-Zentrums CSCS, hebt hervor, dass ohne diese leistungsstarke Technologie Apertus nicht möglich gewesen wäre. Das Pre-Training der KI, das entscheidend für den Erfolg des Modells ist, erfolgt durch komplexe Berechnungen und bleibt oft hinter den Kulissen der Zuschauer.

Das Verhalten der KI trainieren

Nach dem Pre-Training steht das Verhalten der KI an erster Stelle. Forscher wie Ido Hakimi müssen sicherstellen, dass die KI nicht nur antwortet, sondern auch auf die Fragen der Nutzer angemessen reagiert. Dafür werden Daten genutzt, die echte Gespräche und Dialoge enthalten, um der KI beizubringen, einen natürlichen Austausch zu fördern.

Die Herausforderung der Mehrsprachigkeit

Angesichts der globalen Vernetzung ist Mehrsprachigkeit ein Schlüsselfaktor für den Erfolg von KI-Modellen. Angelika Romanou, eine Forscherin im Evaluationsteam, teilte mit, dass es für sie entscheidend war, Tests zu entwickeln, um die Mehrsprachigkeit von Apertus in der Praxis zu bewerten. Dabei wurden zahlreiche Fragen aus verschiedenen kulturellen Kontexten gesammelt und auf ihre Übertragbarkeit geprüft.

Die letzten Schliffe und das große Finale

Mit dem Erreichen des nächsten Entwicklungsstadiums wurden die entsprechenden Fähigkeiten des Modells angepasst und verfeinert. Eduard Durech, ein Mitwirkender, zeigt sich begeistert von der Ressourcennutzung und den Fortschritten, die das Team in puncto Sprachverarbeitung erzielt hat.

Der Enthusiasmus um Apertus

Jetzt ist Apertus bereit, der Öffentlichkeit präsentiert zu werden. In einer Zeit, in der die Diskussion um offene und zugängliche KI-Technologien immer drängender wird, hoffen die Entwickler, dass Apertus nicht nur in der Schweiz, sondern weltweit großen Anklang finden wird. Durch Initiativen wie die "Swiss AI Weeks" soll die Bevölkerung dazu ermutigt werden, Apertus auszuprobieren und seine Möglichkeiten zu erkunden.

Die Zukunft ist offen

Ob Apertus als Erfolg oder Misserfolg angesehen wird, hängt nicht nur von technischen Rankings ab, sondern auch von der Akzeptanz in der Wissenschaft und Wirtschaft. Die Zukunft der offenen KI in der Schweiz könnte davon geprägt sein, wie gut dieses innovative Modell verankert wird. Eines ist sicher: Die Pioniere hinter Apertus haben den Grundstein für eine vielversprechende und inklusive AI-Zukunft gelegt.