Chef von PauseAI: KI kann in wenigen Monaten globale Cyberkatastrophe auslösen

KI-Systeme stellten eine globale katastrophale Bedrohung für globale Finanznetzwerke und für die militärische Sicherheit dar, erklärte der Geschäftsführer von PauseAI Maxime Fournes am Montag im Interview mit der türkischen Nachrichtenagentur Anadolu. Sofern nicht eingegriffen werde, schätze er die Wahrscheinlichkeit einer schweren KI-bedingten Cybersicherheitskatastrophe innerhalb des nächsten Jahres auf 50 Prozent. Der Geschäftsführer und ehemalige Ingenieur für maschinelles Lernen warnte:

"Dies ist eine globale katastrophale Bedrohung, etwas, das uns sehr schnell ins Mittelalter zurückversetzen könnte, wenn es erst einmal einsetzt."

Analyse

Neue Krise vor der Tür: Die KI-Blase steht kurz vor dem Platzen

Ihm zufolge könnten Banken, Kommunikationsnetze und systemrelevante Infrastruktur innerhalb weniger Monate verheerenden Cyberangriffen ausgesetzt sein. Grund dafür sei, dass künstliche Intelligenz die Schwachstellen der Systeme und Programme immer leichter finden und ausnutzen könne. Dabei gehe die Gefahr sowohl von Menschen aus, die die KI-Technologie für Angriffe nutzen könnten, als auch von KI-Systemen, die über ihre Anweisungen hinaus handelten.

Solche Angriffe könnten sich über einzelne Unternehmen hinaus ausbreiten und bedeutende Systeme der gesellschaftlichen Infrastruktur stören. Gegenüber Anadolu machte Fournes deutlich: "Die besten Computerhacker auf diesem Planeten sind keine Menschen mehr. Es sind KIs." Der technologische Fortschritt habe die Fähigkeit der Menschheit, die Technologie zu kontrollieren bereits überholt. Jüngste Vorfälle zeugten davon. Die türkische Nachrichtenagentur berichtete folgende Beispiele:

"Im Oktober meldeten mindestens neun KI-Entwicklungsplattformen Sicherheitsvorfälle in einer Welle, die das Cybersicherheitsunternehmen Wiz als 'Black October' bezeichnete. Die KI-Entwicklungsplattform Warp habe Anzeichen eines 'Agent Swarm'-Angriffs gemeldet, bei dem mehrere automatisierte Systeme zusammenarbeiteten, um Schwachstellen zu identifizieren und ihren Zugriff auszuweiten. Zu den weiteren schwerwiegenden Cybersicherheitsvorfällen zählten ein Angriff auf die Kryptowährungsbörse Binance, bei dem nach eigenen Angaben digitale Vermögenswerte im Wert von rund 6,34 Milliarden US-Dollar betroffen waren, sowie der unbefugte Zugriff auf fast 11,8 Millionen Kundendatensätze beim japanischen Videospielhersteller Capcom."

Frankreich: Angriff auf Kühlschränke in Supermärkten kam aus Iran

Ferner habe OpenAI bekannt gegeben, dass seine Modelle bei internen Cybersicherheitstests im Juli Einschränkungen umgangen hätten. Auf diese Weise seien Teile der Forschungsinfrastruktur und der KI-Plattform Hugging Face kompromittiert worden.

Aktuell hätten jüngste Cyberangriffe auf gewerbliche Kühlsysteme in ganz Europa gezeigt, welche physischen Schäden durch digitale Schwachstellen verursacht werden könnten. Je leistungsfähiger die KI-Systeme würden, je schwieriger könnte es werden, Angriffe auf kritische Infrastruktur zu verhindern. Bedenklich sei auch die Entwicklung von KI-Systemen, die eigenständig Forschung betreiben können. Damit könnte sich die technologische Entwicklung jenseits menschlicher Kontrolle beschleunigen.

Auswirkung von KI bei militärischem Einsatz

Weitere Bedenken äußerte Fournes hinsichtlich der zunehmenden Einbindung von KI in militärische Operationen. Der Wettbewerb zwischen Ländern rivalisierender Streitkräfte führe zum Einsatz von immer autonomeren Systemen, um den jeweiligen technologischen Vorsprung zu bewahren. Schließlich könnten Länder militärische Aufgaben zunehmend an Systeme delegieren, deren Verhalten sie möglicherweise nicht vollständig verstehen. Fournes kommentierte: 

"Man gerät in einen Teufelskreis, in dem man immer mehr Teile der Befehlskette an KI delegiert."

So sei beispielsweise der israelische KI-Einsatz im Gazastreifen in die Kritik geraten. Im Dokumentarfilm "NAZA" gebe es Aussagen von Insidern des israelischen Militärs über KI-Zielerfassungssysteme und zivile Todesopfer. Die Insider hätten in der Doku erklärt, dass KI-gestützte Systeme Massenmorde im Gazastreifen ermöglichten. Das israelische Militär habe die Vorwürfe zurückgewiesen.

Analyse

Die totale Aufklärung: Eine neue Epoche der Kriegsführung

Drohende Massenarbeitslosigkeit

Auch die wirtschaftlichen Folgen wären gewaltig. KI-Systeme könnten zum Beispiel einen erheblichen Teil der Büroarbeitsplätze ersetzen. Zum aktuellen Stand dieser Technik erklärte er: "Wir glauben, dass die derzeit in den Labors vorhandenen KIs bereits in der Lage sind, etwa 80 Prozent der Büroarbeitsplätze zu automatisieren." Nach seiner Schätzung könnte es noch zwischen ein bis drei Jahre dauern, bis sich weitreichende Umbrüche auf dem Arbeitsmarkt konkretisierten. Die Regierungen müssten sich auf potenziell schwerwiegende wirtschaftliche Folgen einschließlich Massenarbeitslosigkeit vorbereiten.

Notwendigkeit einer internationaler Regelung zur Entschleunigung der KI-Entwicklung

Trotz des technologischen Wettbewerbs zwischen Washington und Peking hält Fournes eine internationale Vereinbarung zur Einschränkung der Entwicklung fortschrittlicher KI nach wie vor für realisierbar. Er halte das für weitaus realistischer, als die meisten Menschen es glauben würden. Seine Begründung lautete: 

"Wenn die USA und China eine Art Vereinbarung treffen würden, würde der Rest der Welt folgen."

Fournes betonte, dass PauseAI nicht dafür eintrete, die gesamte Forschung im Bereich der künstlichen Intelligenz einzustellen. Stattdessen unterstütze das Unternehmen einen international koordinierten Stopp der Entwicklung immer leistungsfähigerer Allzwecksysteme. Fournes forderte verbindliche internationale Vorschriften sowie Sanktionen gegen Unternehmen, die sich nicht daran hielten.

Mehr zum Thema – Mutmaßliche chinesische Spionage im Herzen der US-KI-Industrie