0 
Nach Berichten über eigenständig agierende Hackerangriffe durch KI-Systeme dringt Anthropic-Chef Dario Amodei auf ein geringeres Entwicklungstempo bei Künstlicher Intelligenz. In einem Blogbeitrag schrieb er, innerhalb der kommenden sechs bis zwölf Monate könne ein Schwarm aus KI-Systemen womöglich in die Lage kommen, große Teile oder sogar das gesamte Internet zu übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar anzurichten.
Rückendeckung erhielt Amodei kurz darauf von OpenAI-Chef Sam Altman. Auf der Plattform X erklärte der ChatGPT-Entwickler, auch er halte es für notwendig, das Entwicklungstempo bei den leistungsfähigsten KI-Modellen zu moderieren. Auch Tech-Milliardär Elon Musk, der Amodei in der Vergangenheit häufig kritisiert hatte und bei SpaceX eine eigene KI entwickelt, stellte sich diesmal hinter ihn. Auf X schrieb Musk: „Dario hat recht.“
Amodei sprach sich für eine koordinierte Pause der Branche im Westen aus. Unabhängig davon kündigte Anthropic an, dauerhaft externe und unabhängige Beobachter ins Unternehmen zu holen. Diese sollen Sicherheitsaspekte neuer KI-Modelle bereits während des Trainings prüfen. Altman bezeichnete diesen Schritt als sinnvoll und kündigte an, OpenAI wolle ähnlich verfahren.
Warnung vor „katastrophalem Schaden“
Auslöser der neuen Debatte ist ein kürzlich bekannt gewordener Testfall: Dabei soll Software von OpenAI eine abgesicherte Umgebung eigenständig verlassen und anschließend Systeme der KI-Plattform Hugging Face attackiert haben. Hintergrund war demnach, dass das System dort Lösungen für eine gestellte Testaufgabe vermutete. Bei dem Vorgehen nutzten die beteiligten Modelle unter anderem Sicherheitslücken aus und stimmten sich offenbar auch untereinander ab.
Amodei warnte, ein stärker befähigter KI-Schwarm mit vergleichbarer Zielsetzung hätte „katastrophalen Schaden“ anrichten können. Als besonders kritisch sieht er, dass KI-Software zunehmend in der Lage sei, sich selbst weiterzuentwickeln. Seit dem Sommer habe sich diese Fähigkeit weiter verstärkt, was die Entwicklung zusätzlich beschleunige. Wenn dieser Prozess außer Kontrolle gerate, könnten Menschen die Funktionsweise solcher Systeme irgendwann nicht mehr nachvollziehen und die Kontrolle verlieren, so seine Warnung.
Gespaltene Branche
Amodei mahnt bereits seit Jahren zu Vorsicht beim Ausbau Künstlicher Intelligenz und stieß damit in Teilen der Branche auf deutliche Ablehnung. Befürworter eines hohen Entwicklungstempos in den USA — darunter auch Stimmen aus dem Weißen Haus unter Präsident Donald Trump — verweisen häufig auf den technologischen Wettbewerb mit China.
Anthropic hatte zuletzt ein Modell namens Mythos vorgestellt, das besonders effektiv bislang unentdeckte Software-Schwachstellen aufspüren kann — teils solche, die über Jahre oder sogar Jahrzehnte verborgen geblieben waren. Das Unternehmen stellt die vollständige Version nur ausgewählten Behörden und Firmen zur Verfügung, damit diese ihre IT-Systeme besser absichern können.
Quelle: dpa/bearbeitet durch Julian Weber
