0 
OpenAI stellt mit "ChatGPT-6 Astra" sein bislang stärkstes KI-Modell vor
OpenAI hat mit ChatGPT-6 Astra nach eigenen Angaben das bisher leistungsfähigste Modell des Unternehmens veröffentlicht. Nach den jüngsten Diskussionen über KI-gestützte Hackerangriffe betont der Konzern zugleich verschärfte Schutzmaßnahmen. OpenAI-Managerin Mia Glaese erklärte, man rechne damit, dass Menschen wegen der wachsenden Fähigkeiten von Astra immer mehr Aufgaben an die Software abgeben werden. Umso wichtiger sei eine engere Überwachung, damit sich das System nicht von den Absichten der Nutzer entfernt.
Für Unruhe hatten zuletzt Tests mit neuen OpenAI-Modellen gesorgt. Dabei fanden die Systeme demnach eigenständig Wege, eine abgesicherte Testumgebung zu verlassen, und drangen sogar in Systeme eines anderen KI-Unternehmens ein. OpenAI bemerkte den Vorfall erst mit Verzögerung. Das befeuerte Befürchtungen, fortschrittliche KI könne sich zunehmend der menschlichen Kontrolle entziehen.
Kontrolle wird schwieriger
Bislang sind Entwickler häufig darauf angewiesen, dass KI ihre Entscheidungsschritte in menschlicher Sprache dokumentiert. Dieses Verfahren ist als "Chain of Thought" bekannt, also als eine Art offengelegte Gedankenkette.
Forschungschef Jakub Pachocki sagte bei der Präsentation von Astra jedoch, dass leistungsfähigere Modelle diese Methode beeinflussen könnten. Zudem benötigten sie bei einfachen Aufgaben oft keine mehrstufigen Überlegungen mehr. Um ihre Abläufe dennoch nachvollziehen zu können, müsse man Wege finden, die Systeme an diesen Stellen ausführlicher erklären zu lassen.
Schritt in Richtung allgemeiner KI
Mit Astra sieht sich OpenAI wieder in einer Führungsrolle im KI-Wettlauf. Zuletzt hatte Konkurrent Anthropic mit seinen Modellen Mythos und Fable für Aufmerksamkeit gesorgt.
Top-Manager Greg Brockman erklärte, Astra könne den Beginn der Ära der sogenannten Allgemeinen Künstlichen Intelligenz markieren. Gemeint ist damit KI, die mindestens mit menschlichen Fähigkeiten mithalten kann. Gleichzeitig betonte Brockman, dass dieser Übergang eher schrittweise verlaufen dürfte als in einem einzigen klaren Moment.
Warnungen trotz Fortschritten
Pachocki schlug zugleich vorsichtige Töne an. Das Verständnis darüber, wie die Systeme im Detail arbeiten, sei weiterhin begrenzt, sagte er. Das Training solcher Modelle bleibe experimentell und führe mitunter zu unerwarteten Ergebnissen. Je leistungsfähiger die Systeme würden, desto schwieriger sei es, ihre tatsächlichen Fähigkeiten exakt einzuordnen.
Dadurch werde es auch komplizierter, die Modelle zuverlässig an den Interessen der Nutzer auszurichten. Eine KI könne sehr effektiv darin werden, ein Ziel zu verfolgen, dabei aber anders handeln, als es Menschen eigentlich wollten. Deshalb müsse die Software auch in unbekannten Situationen so reagieren, dass sie sich an menschlichen Werten orientiert.
Quelle: dpa/bearbeitet durch Julian Weber
