0 
Kalifornien prüft Not-Aus für KI-Systeme
Im Streit über mögliche existenzielle Gefahren durch Künstliche Intelligenz erwägt Kalifornien neue Eingriffe. Der US-Bundesstaat könnte Entwickler von KI-Software künftig dazu verpflichten, eine Art Notabschaltung bereitzuhalten. Das ist Teil eines Maßnahmenkatalogs, zu dem Gouverneur Gavin Newsom bis Mitte November konkrete Vorschläge erhalten soll.
Aus einer von Newsom unterzeichneten Anordnung geht außerdem hervor, dass auch andere Schritte diskutiert werden: etwa unabhängige Prüfer in großen KI-Unternehmen sowie schärfere Meldepflichten bei Sicherheitsvorfällen.
Über einen sogenannten „Kill Switch“ für KI wird schon länger gesprochen. Ob eine solche technische Notbremse tatsächlich praktikabel wäre, ist allerdings weiterhin offen.
Kalifornien nimmt bei der KI-Entwicklung eine Schlüsselrolle ein. Viele der wichtigsten Firmen der Branche sitzen in San Francisco und im Silicon Valley, darunter OpenAI, Anthropic und Google. Deshalb dürfte der Bundesstaat auch bei der Regulierung besonderes Gewicht haben. Newsoms zweite und letzte Amtszeit endet Anfang nächsten Jahres. Der 58-Jährige wird zudem als möglicher demokratischer Kandidat für die US-Präsidentschaftswahl 2028 gehandelt.
Fachleute verlangen stärkere externe Kontrolle
Die Diskussion über KI-Risiken hat sich zuletzt deutlich verschärft. Auslöser waren unter anderem Berichte über eigenständig durchgeführte Hacking-Angriffe mithilfe von KI-Software. Beschäftigte in KI-Laboren warnten erneut davor, dass Menschen die Kontrolle über fortgeschrittene Systeme verlieren könnten – im Extremfall mit katastrophalen Folgen.
Auch Anthropic-Chef Dario Amodei sprach sich dafür aus, die Entwicklung besonders leistungsfähiger KI langsamer voranzutreiben und die Aufsicht auszubauen. OpenAI-Chef Sam Altman unterstützte diese Forderung.
In einem offenen Brief drängen inzwischen zahlreiche namhafte Branchenexperten führende KI-Labore dazu, unabhängige Kontrolleure in ihre Organisationen zu lassen. Diese müssten ähnlich weitreichenden Zugang wie Topmanager erhalten, also Systeme einsehen und mit zuständigen Mitarbeitern sprechen können. Zu den Unterzeichnern zählt auch der Physik-Nobelpreisträger Geoffrey Hinton, früherer Google-Forscher und einer der prägenden Köpfe moderner KI. Anthropic benannte mit Faculty bereits einen ersten externen Aufsichtspartner; das Unternehmen gehört zum Beratungskonzern Accenture.
Bericht: Anthropic plant Börsengang nun für November
Unterdessen soll sich der mit Spannung verfolgte Börsengang von Anthropic laut einem Bericht des Wall Street Journal auf November verschieben. Zuvor war am Markt noch mit einer Platzierung im Oktober gerechnet worden. Nach Informationen aus informierten Kreisen fiel die Entscheidung für den späteren Termin bereits vor den jüngsten Warnungen zur KI-Sicherheit. Ein Grund könnte sein, Investoren noch die Geschäftszahlen für das dritte Quartal präsentieren zu können.
OpenAI-Chef Sam Altman hatte kürzlich im Magazin Fortune erklärt, dass sein Unternehmen in diesem Jahr voraussichtlich nicht mehr an die Börse gehen werde. Als Begründung verwies er auf die derzeitige Lage.
Quelle: dpa/bearbeitet durch Julian Weber
