0 
Anthropic-Chef fordert staatliche Eingriffsmöglichkeiten bei riskanter KI
Der Chef des KI-Unternehmens Anthropic, Dario Amodei, plädiert dafür, Regierungen die Möglichkeit zu geben, gefährliche Systeme der Künstlichen Intelligenz notfalls zu stoppen. In einem Blogeintrag verlangt er, besonders leistungsfähige KI-Modelle systematisch auf mögliche Gefahren zu überprüfen.
Dabei gehe es unter anderem um Risiken in der Cybersicherheit, den möglichen Einsatz bei Biowaffen sowie um Szenarien, in denen Menschen die Kontrolle über solche Systeme verlieren könnten. Auch die Fähigkeit von KI, Software eigenständig weiterzuentwickeln und damit Gefahren noch zu verschärfen, müsse berücksichtigt werden.
Nach Amodeis Vorstellung könnten solche Prüfungen entweder von einer staatlichen Behörde übernommen werden, die etwa nach dem Vorbild einer Luftfahrtaufsicht arbeitet, oder von privaten Prüforganisationen im staatlichen Auftrag. Anthropic wirbt bereits seit längerer Zeit für strengere Regeln in der KI-Branche und stieß damit sowohl in Teilen der Industrie als auch im Weißen Haus auf Kritik.
Mit seinem KI-Assistenten Claude gilt Anthropic als wichtigster Rivale von OpenAI, dem Unternehmen hinter ChatGPT. Zuletzt sorgte die Firma mit dem Modell Mythos für Aufmerksamkeit, weil es teils jahrzehntelang unentdeckte Schwachstellen in weit verbreiteter Software identifizieren kann. Das hat die Sorge verstärkt, dass KI künftig für besonders schwere Cyberangriffe missbraucht werden könnte.
Quelle: dpa/bearbeitet durch Topaktuell Redaktion
