Können KI-Systeme jetzt komplette Viren erschaffen? US-Forscher zeigen es

US-Wissenschaftler haben erstmals künstliche Intelligenz (KI) genutzt, um funktionsfähige Viren zu erzeugen, die in der Natur nicht vorkommen. Damit demonstrieren sie eine Fähigkeit, die nach Einschätzung der Forscher die Medizin voranbringen, aber auch ernste Risiken für die Biosicherheit bergen könnte.

Forscher der Universität Stanford und des Broad Institute von MIT und Harvard haben mit KI Tausende vollständiger viraler Genome entworfen, wie aus einer am Donnerstag in der Fachzeitschrift Science veröffentlichten Studie hervorgeht.

Ethische Zensur: KI-Entwickler stellen verstärkt Philosophen ein

Fast 300 der Entwürfe wurden chemisch synthetisiert und in Laboren getestet – dabei entstanden 16 lebensfähige Viren.

Bei den Viren handelt es sich um Bakteriophagen – Organismen, die Bakterien und nicht Menschen infizieren. Sie basieren auf einem natürlich vorkommenden Phagen namens ΦX174. Einige der KI-entworfenen Varianten erwiesen sich als wirksamer als natürliche Phagen beim Abtöten von E.-coli-Stämmen, die Resistenzen entwickelt hatten.

KI war zuvor bereits ausgiebig zum Design einzelner Gene und Proteine eingesetzt worden. Die Forscher erklärten jedoch, hier werde zum ersten Mal gezeigt, dass generative Modelle ein gesamtes funktionsfähiges virales Genom entwerfen können.

Fatemeh Vafaee, Professorin für Biotechnologie an der Universität von New South Wales in Australien, betonte, dass die Phagen keine Gefahr für Menschen darstellten, die neue Fähigkeit aber künftige Sicherheitsbedenken aufwerfe.

"Es geht weniger darum, ob wir uns um dieses Virus Sorgen machen sollten, sondern darum, dass KI das überhaupt kann", sagte sie gegenüber Al Jazeera und forderte eine stärkere Aufsicht.

Experten wiesen allerdings darauf hin, dass das Design gefährlicher humanpathogener Erreger weitaus schwieriger bleibe als die Erzeugung relativ einfacher Bakteriophagen.

EU verschärft Regeln für KI-Inhalte – Kennzeichnung wird Pflicht

Der Durchbruch fällt in eine Zeit wachsender Besorgnis über autonome KI-Systeme, die außerhalb ihrer vorgesehenen Anweisungen handeln. Modelle von OpenAI, Anthropic und Meta haben bei Sicherheitstests kürzlich unautorisierte Cyberaktivitäten durchgeführt.

Auch das britische AI Security Institute berichtete in dieser Woche, dass KI-Agenten bei Evaluierungen reale Personen und Organisationen anvisiert, gefälschte Identitäten erstellt und versucht hatten, schädlichen Code einzuschleusen.

Keiner dieser Vorfälle betraf biologische Forschung. Dennoch haben sie Bedenken geweckt, dass immer leistungsfähigere KI-Systeme Zugang zu mächtigen Werkzeugen erhalten – einschließlich solcher, die zum Design von Viren eingesetzt werden.

Das Experiment fällt zudem in eine Zeit erneuter Debatten in den USA über riskante Virusforschung und die Ursprünge von COVID-19.

Die Möglichkeit, dass die Pandemie durch einen Laborunfall am US-finanzierten Wuhan Institute of Virology begann, ist nach der jüngsten Anhörung des ehemaligen Weißen-Haus-Beraters Anthony Fauci vor dem US-Kongress erneut zu einem zentralen politischen Thema in den USA geworden.

Fauci wurde am Donnerstag von einem US-Senatsausschuss wegen Missachtung der Senatsautorität verurteilt, nachdem er Fragen zu den COVID-19-Ursprüngen und zur US-Finanzierung von Coronavirus-Forschung in Wuhan nicht beantwortet hatte.

Meinung

Biolabore, DNA-Proben und KI: Warum Moskau Alarm schlägt

Auch die US-finanzierte biologische Forschung im Ausland steht unter verstärkter Beobachtung, nachdem die ehemalige Direktorin der nationalen Nachrichtendienste, Tulsi Gabbard, Dokumente veröffentlicht hatte. Diese zeigten, dass Washington biologische Labore in der Ukraine unterstützt hatte, die an gefährlichen Pathogenen forschten – darunter Einrichtungen mit Gain-of-Function-Forschung.

Russland wirft den USA seit Langem vor, über Pentagon-verbundene Programme ein Netzwerk von Biolaboren in ehemaligen Sowjetstaaten aufgebaut zu haben. Moskau hat wiederholt auf US-finanzierte Einrichtungen in der Ukraine hingewiesen, in denen an gefährlichen Pathogenen wie Anthrax, Pest und Vogelgrippe geforscht wurde.

Mehr zum Thema - Tödliches Geschäft: Ukraine als Testgelände für Silicon Valleys militärische KI