0 
OpenAI streicht GPT 6.1 Astra – und bringt mit „Dots“ neue KI-Agenten an den Start
OpenAI hat die Veröffentlichung seines neuen KI-Modells GPT 6.1 Astra wegen Sicherheitsbedenken abgesagt. Gleichzeitig treibt das Unternehmen den Ausbau sogenannter KI-Agenten voran, die im Alltag eigenständig Aufgaben für Nutzer übernehmen sollen.
Auf der Entwicklerkonferenz von OpenAI in San Francisco stellte Firmenchef Sam Altman unter dem Namen „Dots“ neue Assistenten vor, die selbstständig im Auftrag ihrer Nutzer handeln können. Ein Dot könne am Computer im Grunde nahezu alles erledigen, „was man sich einfallen lassen kann“, sagte Altman. Nach dem Start in den USA sollen die Dots bald auch in Europa verfügbar sein.
Zunächst ein Agent pro Nutzer
Zum Start soll jeder Nutzer zunächst einen Dot bekommen. Perspektivisch könnten jedoch viele solcher Agenten parallel für eine Person arbeiten. Die Kommunikation mit der Software läuft über einen Chat.
Geplant sind auch spezialisierte Dots für bestimmte Unternehmensbereiche, etwa Buchhaltung, Marketing oder Rechtsfragen. Zunächst sind die Assistenten allerdings nur hinter Bezahlschranken verfügbar. Damit dürfte ihr Einsatz vorerst vor allem im Berufsalltag liegen. Langfristig stellt OpenAI aber auch ein Angebot für den Massenmarkt in Aussicht.
Meta war mit „Muse“ schneller
Mit der Vorstellung der Dots reagiert OpenAI auch auf neue Konkurrenz. Meta hatte erst vor wenigen Wochen in den USA den ähnlich ausgerichteten KI-Assistenten „Muse“ gestartet, der sich stärker an Verbraucher richtet. Die App kletterte danach an die Spitze von Apples US-App-Store.
Damit kam Meta bei einem der jüngsten KI-Assistenten dem ChatGPT-Entwickler zuvor. Altman betonte dennoch, Dots liege deutlich vor allem, was aktuell auf dem Markt verfügbar sei.
Abgesagtes Modell wegen Sicherheitsbedenken
Für die größten Schlagzeilen im Vorfeld der Entwicklerkonferenz sorgte jedoch die Entscheidung, GPT 6.1 Astra nicht zu veröffentlichen. Wie Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, dem Wall Street Journal sagte, habe das Modell in Tests Nutzer nicht immer verlässlich darüber informiert, welche Aktionen es ausgeführt habe und welche nicht.
Außerdem soll die Software teils eigenständig gehandelt haben, ohne vorher die Zustimmung der Nutzer einzuholen. Das Modell sollte eigentlich in den kommenden Tagen oder Wochen erscheinen.
OpenAI-Chef Sam Altman sagte dem Sender CNBC, es komme häufiger vor, dass ein getestetes Modell am Ende nicht den eigenen Ansprüchen genüge. Zu den Grundsätzen des Unternehmens gehöre, dass KI sicher sein und stets unter menschlicher Kontrolle bleiben müsse. Nutzer sollten die Technologie verwenden können, ohne befürchten zu müssen, dass dabei „etwas Schlechtes passiert“.
Training ausgesetzt
Eigenmächtige Aktionen fortgeschrittener KI-Systeme von OpenAI hatten in den vergangenen Wochen wiederholt für negative Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass das Unternehmen nach einem weiteren Vorfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt hat.
Demnach gelang es einem KI-Modell in einem Test, Antworten von einem externen Chatbot zu erhalten, obwohl es eigentlich keinen Zugang zum Internet haben sollte. Laut OpenAI nutzte die Software dafür eine Lücke in den Netzwerkeinstellungen aus.
In einem Blogbeitrag teilte das Unternehmen mit, das Training werde erst dann wieder aufgenommen, wenn sichergestellt sei, dass die Schwachstelle vollständig geschlossen wurde. Bei dem betroffenen System handelte es sich allerdings nicht um GPT 6.1 Astra.
Besonders heikel ist der Fall, weil OpenAI seine Sicherheitsvorkehrungen nach früheren Vorfällen bereits verschärft hatte. Positiv aus Sicht des Unternehmens: Das unerlaubte Vorgehen wurde diesmal innerhalb von 15 Minuten entdeckt.
Hack durch KI als Warnsignal
Für besonders großes Aufsehen hatte zuvor ein Fall gesorgt, bei dem eine KI von OpenAI eine geschützte Testumgebung verließ und sich ungeplant in Computersysteme der Plattform Hugging Face einschleuste.
Später wurde bekannt, dass auch Modelle anderer Entwickler – darunter von Anthropic, Google und Meta – in Tests in die Systeme anderer Unternehmen eindrangen. Danach wurden weitere potenziell riskante Vorfälle mit OpenAI-Systemen öffentlich.
Branche will bremsen, Trump will beschleunigen
Die Hacking-Vorfälle haben die seit Jahren schwelende Debatte über die Sicherheitsrisiken hochentwickelter KI erneut angefacht. Beim OpenAI-Konkurrenten Anthropic sprach sich Mitgründer und Chef Dario Amodei dafür aus, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen, damit die Kontrolle über die Technologie nicht verloren geht.
OpenAI-Chef Sam Altman unterstützte diesen Vorstoß. Zustimmung kam auch von Elon Musk, dessen Chatbot Grok Beobachtern zufolge derzeit aber noch hinter den Modellen von OpenAI und Anthropic liegt.
Zusätzlichen Druck bekommt OpenAI aus den USA: Der Bundesstaat Florida, der bereits gegen das Unternehmen geklagt hatte, beantragte inzwischen auch eine einstweilige Verfügung. Zu den Forderungen gehört nach Angaben von Generalstaatsanwalt James Uthmeier, dass ohne zusätzliche Leitplanken keine neuen KI-Modelle entwickelt werden sollen.
US-Präsident Donald Trump verfolgt dagegen einen deutlich offensiveren Kurs. Er betont, die USA lägen bei KI vor China und dem Rest der Welt und müssten diesen Vorsprung halten. Warnungen vor den Risiken weist er zurück und verweist auf bestehende Gesetze sowie das Justizministerium.
Darüber hinaus sagte Trump, die einzige Leitplanke, die KI brauche, sei ein starker und intelligenter Präsident – und den hätten die USA. Außerdem versucht er, statt des Begriffs Künstliche Intelligenz verstärkt die Bezeichnung „Superintelligenz“ zu etablieren.
Treffen in Washington
Am Dienstag gab Trump zudem den Startschuss für eine neue Regierungswebsite unter der Adresse America.gov. Dort sollen Angebote verschiedener Behörden mithilfe einer durch KI verbesserten Suche leichter auffindbar und nutzbar werden. Behörden wurden angewiesen, ihre öffentlichen Dienstleistungen mit der neuen Plattform zu verknüpfen.
Anschließend traf sich der Präsident in Washington mit führenden KI-Managern. OpenAI-Chef Altman nahm wegen der hauseigenen Entwicklerkonferenz in San Francisco nicht teil und schickte stattdessen seinen engen Vertrauten Greg Brockman.
Laut der von Trump veröffentlichten Sitzordnung waren unter anderem Elon Musk, Dario Amodei, Sundar Pichai, Jeff Bezos und Mark Zuckerberg dabei. Trump bekräftigte bei dem Treffen erneut, dass KI in den USA offiziell als „Superintelligenz“ bezeichnet werden solle.
Quelle: dpa/bearbeitet durch Julian Weber
