In einer entscheidenden Initiative haben führende Akteure aus der KI-Branche, darunter die CEOs von OpenAI und Anthropic, eine ehrgeizige Erklärung an die Gesetzgeber unterzeichnet. Diese Erklärung zielt darauf ab, die Regulierung und Nachverfolgung synthetischer DNA-Sequenzen streng zu verbessern, die potenziell für die Entwicklung biologischer Waffen missbraucht werden könnten. Wenn wir uns in einer Zeit rasanten technologischen Wandels befinden, werden die Risiken, die mit der Kombination von Künstlicher Intelligenz (KI) und biologischen Waffen verbunden sind, immer offensichtlicher. Diese Bedenken werden nicht nur von den Unterzeichnern der Erklärung, sondern auch von einer breiten Palette von Wissenschaftlern und nationalen Sicherheitsexperten geteilt.
Der Aufruf zur Gesetzgebung
Die Initiative wird von der nicht parteiischen Organisation Institute for Progress und der Foundation for American Innovation koordiniert. In ihrem Brief fordern die Unterzeichner von KI-Unternehmen, dass neue Gesetze eingeführt werden, die die Anforderungen an Unternehmen, die synthetische DNA und RNA verkaufen, verbindlich machen. Insbesondere sollen diese Unternehmen dazu verpflichtet werden, ihre Kunden und Bestellungen zu überprüfen, um einen Missbrauch genetischer Materialien zu verhindern.
Veränderte Landschaft der synthetischen Biologie
Die Technologie zur Synthese von DNA hat erhebliche Fortschritte gemacht, seit Wissenschaftler Arthur Kornberg in den 1950er Jahren als Erster DNA synthetisierte. Heutzutage ermöglicht die Automatisierung diesen Prozess, sodass viele Unternehmen weltweit maßgeschneiderte genetische Sequenzen für Forschung, Arzneimittelentwicklung und Diagnostik anbieten. Trotz dieser Fortschritte warnt die Branche, dass dies auch Missbrauch ermöglichen könnte.
Im Jahr 2017 sorgten kanadische Forscher für Aufregung, als sie mit Hilfe von 100.000 Dollar teurem, bestelltem DNA-Material das ausgestorbene Virus Horsepox rekonstruierten. Kritiker wiesen darauf hin, dass eine ähnliche Methodik auch zur Konstruktion des eng verwandten und tödlichen Pockenvirus verwendet werden könnte. Dies öffnet die Tür zu einer potenziell verheerenden Bedrohung, insbesondere wenn man bedenkt, dass sachdienliche Informationen und Materialien für die Synthese mittlerweile sowohl billiger als auch zugänglicher geworden sind.
Die Gefahren durch KI
Mit den Fortschritten in der KI-Technologie wird es zunehmend einfacher, gefährliche neue Toxine und Erreger mit Hilfe von großen Sprachmodellen zu entwerfen. Wie einige Experten anmerken, benötigen Benutzer zwar ein gewisses biologisches Wissen, um aus einer Grundsubstanz ein funktionierendes Virus zu erstellen, aber der Zugang zu den notwendigen Werkzeugen und Ressourcen wird durch KI erleichtert. Die Realität ist, dass die Gefahren, die von KI-entwickelten Pathogenen ausgehen, sowohl absichtlich als auch unbeabsichtigt zu einer globalen Pandemie führen könnten.
Expertenmeinungen
Experten wie David Relman, Mikrobiologe und Fachmann für Biowicherheit an der Stanford University, haben die Bedenken geäußert, dass KI-Tools einen potenziellen Missbrauch erleichtern können. Sie weisen darauf hin, dass, wenn Nutzer richtig angestoßen werden, diese Werkzeuge helfen können, die notwendigen Informationen zu sammeln und sogar zu modifizieren, um Entdeckungen vor Screening-Prozessen zu verbergen. Dies könnte dazu führen, dass Bestellungen, die nicht mehr als risikobehaftet erscheinen, ebenfalls durchrutschen.
Die unterzeichnenden Unternehmen, darunter die Gene-Synthese-Unternehmen Twist Bioscience und Ansa Biotechnologies, betonen die Notwendigkeit einer verantwortlichen Nutzung dieser Technologien. Sie gehören dem International Gene Synthesis Consortium an, das 2009 gegründet wurde, um freiwillige Screening-Praktiken umzusetzen.
Bereits bestehende Richtlinien
Die Biden-Administration hat bereits Richtlinien eingeführt, die von Forschern und Unternehmen, die öffentliche Fördermittel erhalten, eine Überprüfung der synthetischen Gene erfordern. Ein aktuelles bipartisan eingereichtes Gesetz würde sogar verlangen, dass alle in den USA tätigen Gene-Syntheseanbieter Bestellungen auf mögliche schlechte Akteure oder gefährliche Pathogene überprüfen.
Die Herausforderungen bei Screening-Tools
Trotz dieser Schritte gibt es noch Herausforderungen. Eine Studie, die letztes Jahr von Microsoft-Forschern veröffentlicht wurde, zeigte, dass KI-gestützte Protein-Design-Tools sequenzgenerierende Anfragen erstellen konnten, die die Screenings nicht bestanden. Diese Studien zeigen, dass die Screening-Tools aktualisiert werden müssen, um mit den sich ständig weiterentwickelnden Technologien Schritt zu halten und potenzielle Bedrohungen zu erkennen.
Der Weg nach vorn
Experten wie Geoff Ralston, ein ehemaliger Präsident von Y Combinator, der ebenfalls den Brief unterzeichnet hat, argumentieren, dass KI-Entwicklungsfirmen eigene Screening-Prozesse für ihre Nutzer implementieren sollten. Dies könnte eine zusätzliche Sicherheitsebene bieten, um sicherzustellen, dass Benutzer nicht an gefährlichen oder bösartigen Projekten arbeiten können.
Um diese Herausforderungen zu bewältigen, sind koordinierte Anstrengungen zwischen der Technologiebranche und den Gesetzgebern erforderlich. Der Dialog über Sicherheit und Gesetze muss kontinuierlich sein, um die Technologien, die unsere Welt gestalten, verantwortungsvoll zu nutzen. Die Kombination aus KI und biologischer Forschung stellt sowohl eine aufregende als auch eine angsteinflößende Aussicht dar und erfordert daher eine sorgfältige Betrachtung der ethischen Implikationen und der regulatorischen Möglichkeiten.
Fazit
Die Bemühungen von OpenAI und Anthropic, zusammen mit anderen gewichtigen Stimmen in der KI-Branche, sind der richtige Schritt in die richtige Richtung. Indem sie sich aktiv dafür einsetzen, dass Gesetze zum Schutz vor den Gefahren von KI-entwickelten Technologien, insbesondere im Bereich der biologischen Waffen, aufgelegt werden, helfen sie, eine wachsamere und sicherere Welt zu schaffen.
Quelle: Wired
