0 
Die KI-Firma Anthropic kann nach dem jüngsten Streit mit dem Pentagon zwar wieder auf ein entspannteres Verhältnis zur US-Regierung hoffen. Präsident Donald Trump sagte dem Sender CNBC, inzwischen komme man gut miteinander aus. Vertreter des Unternehmens seien zudem erst vor wenigen Tagen zu Gesprächen im Weißen Haus gewesen.
Zuvor hatte Anthropic einen ernsten Konflikt mit Washington riskiert. Das Unternehmen hielt trotz erheblichen Drucks an seiner Linie fest, dass seine KI-Modelle weder in autonomen Waffensystemen noch zur Massenüberwachung in den USA eingesetzt werden dürfen. Daraufhin stufte das Pentagon Anthropic als Risiko für die Lieferkette ein. Trump ordnete an, dass Bundesbehörden keine neuen Geschäfte mit der Firma abschließen sollten. Anthropic wehrte sich juristisch dagegen.
Zuletzt hatte das Unternehmen aber auch den strategischen Wert seiner Technologie für staatliche Stellen hervorgehoben. Dabei geht es vor allem um das neue Modell Claude Mythos Preview, das nach Angaben von Anthropic in der Lage ist, teilweise seit Jahrzehnten unentdeckte Schwachstellen in unterschiedlichster Software aufzuspüren. In missbräuchlicher Nutzung könnte ein solches System zu einer gefährlichen Cyberwaffe werden. Zugleich könnte es Behörden dabei helfen, eigene Programme besser zu schützen und Sicherheitslücken im Ausland für Aufklärungszwecke zu erkennen.
Eine öffentliche Freigabe von Mythos Preview ist nach Angaben des Unternehmens weiterhin nicht geplant. Zugang erhalten bislang nur ausgewählte Unternehmen und Organisationen, damit sie Lücken in ihrer Software schließen können. Die Entwickler des Webbrowsers Firefox teilten erst kürzlich mit, mithilfe von Mythos 271 Schwachstellen behoben zu haben.
Allerdings wirft nun ein Medienbericht neue Fragen zur Absicherung des Modells auf. Wie der Finanzdienst Bloomberg berichtet, sollen sich einige wenige Unbefugte mit Kenntnissen über interne Anthropic-Systeme Zugang zu Claude Mythos Preview verschafft haben. Anthropic erklärte dazu, man prüfe den Bericht.
Bloomberg zufolge soll unter den unberechtigten Nutzern auch ein Mitarbeiter eines externen Dienstleisters gewesen sein, der Zugriff auf Systeme von Anthropic hatte. Begünstigt worden sei der Zugriff demnach auch durch Wissen darüber, wie frühere Modelle des Unternehmens gespeichert wurden. Laut Bloomberg teilte Anthropic mit, bislang gebe es keine Hinweise darauf, dass außerhalb der Systeme des Dienstleisters auf das Modell zugegriffen worden sei.
Bundesbank-Präsident warnt vor Folgen für den Finanzsektor
Mit Blick auf die Debatte um Mythos warnte Bundesbank-Präsident Joachim Nagel inzwischen vor erheblichen Risiken durch Künstliche Intelligenz für Banken und den Finanzsektor. In einer Rede in Rom verwies er darauf, dass mit dem Einsatz solcher Systeme neue und komplexe Cybergefahren entstünden, etwa wenn autonome KI-Agenten schädliches Verhalten entwickelten.
Die aktuelle Diskussion um Anthropic zeige, wie wichtig die frühe Erkennung und Eindämmung solcher Risiken für die Finanzstabilität sei, sagte Nagel. Nach seiner Einschätzung ist Mythos offenbar in der Lage, Sicherheitslücken in der Software von Finanzinstituten schnell zu finden und potenziell auch auszunutzen.
Damit werde das Modell zu einem zweischneidigen Werkzeug: Es könne helfen, digitale Schutzsysteme zu verbessern, zugleich aber auch für böswillige Angriffe missbraucht werden. Nagel mahnte daher, den Missbrauch der Technologie zu verhindern. Gleichzeitig müssten relevante Institutionen Zugang zu solchen Systemen erhalten, um Wettbewerbsverzerrungen zu vermeiden.
Quelle: dpa/bearbeitet durch Topaktuell Redaktion
