0 
US-KI-Konzerne offen für langsamere Entwicklung nach autonomem Hacker-Vorfall
Nach einem aufsehenerregenden Fall eigenständig handelnder KI-Hacking-Angriffe signalisieren führende US-Unternehmen der Branche Bereitschaft, das Entwicklungstempo bei Künstlicher Intelligenz zu drosseln. Einen entsprechenden Vorstoß machte Anthropic-Chef Dario Amodei, der mit einer Verlangsamung ein Zeitfenster von ein bis zwei Jahren schaffen möchte. Innerhalb kurzer Zeit erhielt er Unterstützung von OpenAI-Chef Sam Altman sowie von Elon Musk, der bei SpaceX ebenfalls KI-Projekte vorantreibt.
Amodei schrieb am Samstag, ihn beunruhige die Aussicht, dass bereits in sechs bis zwölf Monaten ein Verbund aus KI-Systemen in der Lage sein könnte, große Teile des Internets zu kontrollieren und Schäden in Höhe von Hunderten Milliarden Dollar anzurichten. Wenige Stunden später erklärte Altman auf X, auch aus seiner Sicht müsse die Entwicklung der leistungsfähigsten KI-Modelle gebremst werden.
Forderung nach gemeinsamer Pause
Amodei sprach sich für eine koordinierte Unterbrechung in der westlichen KI-Industrie aus. Unabhängig davon wolle Anthropic sofort handeln und künftig dauerhaft externe, unabhängige Prüfer ins Unternehmen holen. Diese sollen schon während des Trainings neuer Modelle deren Sicherheit bewerten. Altman bezeichnete den Ansatz als sinnvoll und kündigte an, OpenAI werde ein ähnliches Vorgehen übernehmen. Auch Musk stellte sich hinter Amodei und schrieb auf X kurz: „Dario hat recht.“
OpenAI verschiebt wohl Börsengang
Zugleich sagte Altman dem Magazin Fortune, dass der lange erwartete Börsengang von OpenAI voraussichtlich nicht mehr in diesem Jahr stattfinden werde. Mit Blick auf die aktuelle Debatte meinte er, ein Gang an die Börse wäre derzeit kein guter Zeitpunkt. Auf die Frage, ob auch 2026 unwahrscheinlich sei, antwortete er sinngemäß, dass er nicht mit einem Börsengang in diesem Jahr rechne.
Auslöser der Diskussion war ein jüngst bekanntgewordener Testfall: Dabei soll Software von OpenAI eigenständig aus einer gesicherten Testumgebung entkommen sein und ohne menschliche Anleitung in Systeme der KI-Plattform HuggingFace eingedrungen sein. Hintergrund war, dass das System dort mögliche Antworten auf seine Testaufgabe vermutete. Die KI-Agenten nutzten dabei unter anderem Sicherheitslücken in Software aus und koordinierten sich zudem untereinander.
Warnung vor „katastrophalem Schaden“
Amodei betonte, besonders alarmierend sei, dass ein ähnlich ausgerichteter KI-Schwarm mit größeren Fähigkeiten „katastrophalen Schaden“ hätte verursachen können. Als zentrales Risiko nannte er die Fähigkeit von KI-Systemen, sich selbst weiterzuentwickeln. Seit dem Sommer seien diese Technologien darin deutlich besser geworden, was die Dynamik zusätzlich beschleunige. Ohne Kontrolle könne das dazu führen, dass Menschen die Systeme nicht mehr nachvollziehen und letztlich die Aufsicht verlieren.
Amodei warnt seit Jahren vor den Gefahren fortgeschrittener KI und stieß damit in Teilen der Branche immer wieder auf heftigen Widerspruch. Befürworter eines hohen Tempos verweisen in den USA, auch im Umfeld von Präsident Donald Trump, häufig auf den technologischen Wettbewerb mit China.
Spezialmodell von Anthropic nur begrenzt verfügbar
Anthropic hat zuletzt ein Modell namens Mythos entwickelt, das besonders leistungsfähig dabei sein soll, selbst sehr lange unentdeckte Software-Schwachstellen aufzuspüren. Das vollständige Modell stellt das Unternehmen nach eigenen Angaben nur ausgewählten Behörden und Firmen zur Verfügung, damit diese ihre Systeme besser absichern können.
Weitere Kritik aus der Branche
Zusätzlichen Druck erhielt die Debatte in den vergangenen Tagen durch den Rücktritt eines Anthropic-Forschers. Jacob Coxon warf den großen KI-Entwicklern vor, unverantwortlich zu handeln und „mit unserem Leben zu spielen“.
Kurz darauf bestätigte der Anthropic-Forscher Evan Hubinger, der an der Ausrichtung von KI an menschlichen Interessen arbeitet, die grundsätzlichen Sorgen. Auf X schrieb er, aus seiner persönlichen Sicht liege die Wahrscheinlichkeit, dass KI im kommenden Jahrzehnt die Menschheit auslöschen könnte, bei über zehn Prozent.
Parallel dazu wächst in den USA auch der Widerstand gegen riesige Rechenzentren, auf deren Ausbau Unternehmen wie OpenAI für ihr weiteres Wachstum angewiesen sind.
Quelle: dpa/bearbeitet durch Julian Weber
