0 
Die KI-Firma Anthropic hat nach eigenen Angaben in den vergangenen Monaten mehrere Versuche gestoppt, ihre Claude-Modelle im Zusammenhang mit möglicher Biowaffenforschung einzusetzen. Das Unternehmen betonte zugleich, dass sich die Absicht hinter solchen Anfragen nicht immer eindeutig bewerten lasse, weil entsprechende Arbeiten sowohl medizinischen als auch militärischen Zwecken dienen könnten.
Nach Darstellung von Anthropic zeigen die Vorfälle jedoch, dass Forscher aus gesperrten Regionen sowie mit mutmaßlichen Verbindungen zu staatlichen Stellen versucht hätten, verdeckt auf KI-Systeme von US-Anbietern zuzugreifen. Namen von Einrichtungen oder Herkunftsländern nannte das Unternehmen nicht.
In einem ausführlichen Bericht zum versuchten Missbrauch seiner Modelle beschreibt Anthropic fünf Fälle mit Bezug zu potenzieller Biowaffenforschung. Demnach baten die beteiligten Wissenschaftler weniger um konkrete fachliche Unterstützung, sondern eher um organisatorische Hilfe, etwa beim Verfassen von Dokumenten. Grundsätzlich seien KI-Modelle darauf ausgelegt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Gerade bei Forschung mit doppeltem Verwendungszweck sei die Grenze zwischen legitimer Wissenschaft und gefährlicher Absicht aber oft schwer zu ziehen, erklärte das Unternehmen.
Heikle Forschung an Viren
In einem der blockierten Fälle sei versucht worden, Claude zum Schreiben eines Förderantrags für ein Forschungsprojekt an einem Virus zu nutzen. Dabei ging es laut Anthropic um sogenannte Gain-of-Function-Forschung, bei der Eigenschaften eines Erregers wie seine Übertragbarkeit verstärkt werden. Solche Methoden gelten in Laboren als üblich, wenn nach Gegenmaßnahmen gesucht wird, bergen aber zugleich Missbrauchspotenzial.
In einem weiteren Fall habe jemand mit Hilfe von Claude einen Forschungsplan für eine Vogelgrippe-Variante erstellen wollen, die auf Säugetiere übertragbar wäre. Anthropic hob hervor, dass solche Arbeiten zwar der Vorsorge und Prävention dienen könnten, gleichzeitig aber Wissen erzeugten, das auch für die Entwicklung biologischer Waffen missbraucht werden könne.
Darüber hinaus habe ein Forscher versucht, Claude für die Erstellung vierteljährlicher Fortschrittsberichte im Rahmen von Untersuchungen an einem Toxin einzusetzen.
Quelle: dpa/bearbeitet durch Julian Weber
