0 
US-Präsident Donald Trump will die Aufsicht über Künstliche Intelligenz trotz Warnungen vor teils existenziellen Gefahren weitgehend den Entwicklern selbst überlassen. Nach einem Treffen mit Spitzenvertretern der Branche in Washington sagte er, die Unternehmen würden sich im Kern selbst kontrollieren.
Trump verwies dabei auf die wirtschaftlichen Eigeninteressen der Firmen. Wenn etwas schieflaufe, stehe ihr Geschäft auf dem Spiel. Deshalb würden die Unternehmen aus seiner Sicht nicht nur sich selbst, sondern auch einander im Blick behalten.
Zuletzt hatten Berichte über eigenständig ausgeführte Hackerangriffe durch KI-Modelle die Debatte über mögliche Gefahren erneut angeheizt. Zugleich warnten einige Stimmen aus der Branche, dass sich langfristig selbst extreme Szenarien bis hin zu einer Bedrohung für die Menschheit nicht vollständig ausschließen ließen.
Warnungen vor greifbaren Risiken
Anthropic-Chef Dario Amodei hatte sich dafür ausgesprochen, die Entwicklung besonders leistungsfähiger KI-Modelle notfalls zu verlangsamen. So solle verhindert werden, dass die Kontrolle über die Technologie verloren geht. Trump hatte zusätzliche staatliche Eingriffe schon zuvor abgelehnt und stattdessen betont, die USA dürften ihren Vorsprung gegenüber China nicht verspielen.
Nach dem Treffen sagte Amodei, KI biete enormes Potenzial, bringe aber auch „sehr reale Risiken“ mit sich. Wie man diesen Gefahren wirksam begegnen solle, sei weiter Gegenstand von Beratungen.
Freiwillige Zusagen der Branche
Bei dem Treffen verständigten sich die Unternehmen auf eine freiwillige Selbstverpflichtung. Aus dem von Trump veröffentlichten Papier geht hervor, dass dazu unter anderem robuste interne Kontrollmechanismen gehören. Diese sollen helfen, Risiken etwa im Zusammenhang mit Bio- und Chemiewaffen sowie Cyberangriffen zu begrenzen.
Darüber hinaus wollen die Firmen externe Beobachter beziehungsweise Prüfer zulassen. Das greift einen Vorschlag auf, den Amodei vor einigen Wochen vorgestellt hatte und der unter anderem von OpenAI-Chef Sam Altman sowie Elon Musk unterstützt wurde. Zusätzlich sollen die Verwaltungsräte der KI-Firmen unabhängige Gremien einsetzen, die interne und externe Berichte gesondert auswerten.
In dem Dokument heißt es außerdem, dass es später sinnvoll sein könnte, solche Schritte in Gesetze oder verbindliche Regeln zu überführen. Unterzeichnet wurde das Papier unter anderem von Dario Amodei, Elon Musk, Meta-Gründer Mark Zuckerberg, Google-Chef Sundar Pichai und Nvidia-Chef Jensen Huang.
Experte: Washington lässt der KI viel Raum
Der Marktexperte Stephen Innes wertete Trumps Äußerungen als Signal, dass die US-Regierung unmittelbare Risiken für KI-Investitionen zunächst entschärfe. Der Präsident habe nach den Gesprächen erkennen lassen, dass er freiwillige Verpflichtungen, Selbstregulierung und eher einen kleinen Aufsichtsausschuss bevorzuge statt eines umfassenden staatlichen Regelwerks.
Für Investoren sei die Botschaft damit klar: Washington wolle der Branche vorerst keine schweren regulatorischen Hürden in den Weg stellen, während die Unternehmen beim Ausbau ihrer KI-Angebote stark beschleunigen.
Innes äußerte jedoch auch Zweifel. Aus seiner Sicht liegt die Ironie darin, dass sich die Sicherheitslage verschlechtern könne, wenn Regulierung gelockert werde. Zudem seien leistungsfähigere Modelle schwerer zu überwachen, was Selbstregulierung deutlich anspruchsvoller mache, als es auf den ersten Blick scheine.
OpenAI stellt „Dots“ vor
Für OpenAI setzte nicht Sam Altman selbst seine Unterschrift unter das Papier, sondern Topmanager Greg Brockman. Altman war bei dem kurzfristig angesetzten Treffen in Washington verhindert, weil er zeitgleich auf der Entwicklerkonferenz des Unternehmens in San Francisco auftrat.
Dort präsentierte OpenAI unter dem Namen „Dots“ neue KI-Agenten, die selbstständig Aufgaben für Nutzer erledigen können. Nach Angaben des Unternehmens kann ein solcher Agent am Computer praktisch alles übernehmen, „was man sich einfallen lassen kann“. Nach dem Start in den USA sollen Dots bald auch in Europa verfügbar werden.
Zunächst ist pro Nutzer nur ein Dot vorgesehen. Langfristig rechnet OpenAI aber damit, dass eine Vielzahl solcher Agenten parallel für einzelne Nutzer arbeitet. Gesteuert werden sie über einen Chat. Geplant sind außerdem spezialisierte Varianten für bestimmte Unternehmensbereiche wie Buchhaltung, Marketing oder Rechtsfragen.
Vorerst bleiben die Assistenten hinter einer Bezahlschranke und dürften damit zunächst vor allem im beruflichen Umfeld genutzt werden. OpenAI stellt jedoch auch eine spätere Ausrichtung auf den Massenmarkt mit sehr großer Reichweite in Aussicht.
Meta setzt auf Verbraucher
Meta war mit einem ähnlichen Produkt namens „Muse“ bereits vor wenigen Wochen in den USA gestartet. Anders als OpenAI richtet sich der Assistent zunächst stärker an Endverbraucher. Die Muse-App stieg danach an die Spitze des US-App-Stores von Apple. An der Wall Street wurde Meta nach hohen Milliardeninvestitionen in KI-Infrastruktur wieder als ernsthafter Kandidat im Rennen um eine Führungsrolle im KI-Markt gesehen.
Während ChatGPT einst den großen Boom um generative KI auslöste, war Meta bei einem neuen KI-Assistenten für Verbraucher diesmal schneller als OpenAI. Altman hielt dennoch dagegen und sagte, „Dots“ liege weit vor allem, was derzeit auf dem Markt verfügbar sei.
OpenAI-Manager Alexander Embiricos sagte der Deutschen Presse-Agentur, Verbraucher könnten Dots grundsätzlich schon heute für Alltagsaufgaben nutzen. Die eigentlichen Stärken des Systems lägen aber eher bei anspruchsvolleren Einsätzen. Das Produkt sei darauf ausgelegt, Nutzern deutlich mehr abzunehmen, als sie sich selbst zunächst zutrauen würden.
Quelle: dpa/bearbeitet durch Julian Weber
