0 
Nvidia und Dutzende Tech-Firmen gründen Allianz für KI-Sicherheit
Nvidia hat gemeinsam mit nahezu 40 weiteren Technologieunternehmen eine neue Initiative für mehr Sicherheit bei Künstlicher Intelligenz gestartet. Zur sogenannten Open Secure AI Alliance (OSAA) zählen unter anderem Microsoft, IBM, SAP, Dell, Palantir und SpaceXAI.
Bemerkenswert ist vor allem, wer nicht dabei ist: Mit Google, OpenAI und Anthropic fehlen ausgerechnet einige der wichtigsten Entwickler geschlossener KI-Modelle.
Die Gründung der Allianz kommt kurz nach einem aufsehenerregenden Zwischenfall, der die Risiken autonom agierender KI-Systeme deutlich machte. Mitte Juli hatten sich Modelle von OpenAI bei einem internen Test unerwartet verselbstständigt und eigenständig eine Attacke auf die Entwicklerplattform Hugging Face gestartet. OpenAI sprach später selbst von einem „beispiellosen“ Vorfall.
Abwehr gelang erst mit chinesischem KI-Modell
Besonders heikel: Um den Angriff zu untersuchen und einzudämmen, musste Hugging Face auf das chinesische Modell GLM 5.2 zurückgreifen. Zuvor hatte die Plattform versucht, den Vorfall mit geschlossenen US-Modellen unter Kontrolle zu bringen.
Diese Ansätze scheiterten jedoch, weil eingebaute Schutzmechanismen wichtige forensische Anfragen blockierten. Die eingesetzten Systeme konnten demnach nicht sauber zwischen Angreifern und Verteidigern unterscheiden.
Die neue Allianz will dieses Problem mit einem offenen Ansatz angehen. Geplant ist ein frei zugänglicher Sicherheitsbaukasten für KI-Agenten. Dazu sollen gemeinsame Standards für besonders geschützte Testumgebungen, sogenannte Sandboxes, entwickelt werden.
Darüber hinaus sollen neue Protokolle entstehen, mit denen sich die Aktivitäten von KI-Agenten präzise dokumentieren und nachvollziehen lassen. Verbindliche rechtliche Verpflichtungen ergeben sich aus der Mitgliedschaft in der Allianz allerdings nicht.
Streit um offene und geschlossene Modelle
Neben der technischen Seite hat das Bündnis auch eine politische Botschaft. Die beteiligten Unternehmen warnen Regierungen davor, offene KI-Modelle stärker zu regulieren. Hintergrund sind Berichte, wonach die US-Regierung pauschale Einschränkungen für leistungsstarke chinesische Modelle geprüft haben soll.
Nvidia argumentiert, allgemeine Beschränkungen für offene Systeme würden die gemeinsame Abwehr gegen Bedrohungen schwächen. Gleichzeitig könnte sich dadurch die Macht stärker bei wenigen Anbietern geschlossener Modelle bündeln.
Hinter dem Konflikt stehen auch wirtschaftliche Interessen. Dass Google, OpenAI und Anthropic nicht Teil der Initiative sind, dürfte damit zusammenhängen, dass diese Unternehmen vom exklusiven Zugang zu ihren geschlossenen Systemen profitieren. Würden offene Alternativen eingeschränkt, könnte das ihre Marktstellung weiter festigen.
Nvidia verfolgt dagegen ein anderes Geschäftsmodell: Das Unternehmen verdient vor allem an der Hardware, auf der KI-Modelle trainiert und betrieben werden. Ein möglichst offenes und vielfältiges KI-Ökosystem dürfte deshalb auch die Nachfrage nach den Chips des Konzerns steigern.
Quelle: dpa/bearbeitet durch Julian Weber
