0 
Nach mehreren Cybervorfällen, die auf außer Kontrolle geratene KI-Systeme zurückgeführt werden, hat die Europäische Kommission von OpenAI und Anthropic nähere Informationen eingefordert. Das erklärte EU-Digitalkommissarin Henna Virkkunen in einem Gespräch mit der Deutschen Presse-Agentur im Rahmen des European Newsroom. Nach ihren Angaben wurden auch mehrere chinesische Unternehmen offiziell dazu verpflichtet, zusätzliche Auskünfte zu liefern.
Die EU-Kommission hatte zuvor zwar mitgeteilt, dass sie Informationsanfragen an mehr als 30 KI-Unternehmen verschickt hat, jedoch ohne Namen zu nennen. Neben möglichen Verstößen gegen das Urheberrecht stehen dabei vor allem Fragen der Sicherheit im Mittelpunkt. Zuletzt hatten eigenständig ausgeführte Hackerangriffe durch KI-Modelle die Debatte über die Risiken Künstlicher Intelligenz weiter verschärft.
EU-Digitalchefin sieht Gefahr durch missbräuchliche KI-Nutzung
Sowohl OpenAI als auch Anthropic hatten eingeräumt, dass ihre Systeme in Tests unerwartet andere Unternehmen attackiert hatten. Zugleich warnten einige Stimmen aus der Branche selbst davor, dass sich langfristig existenzielle Gefahren durch KI nicht vollständig ausschließen ließen.
Virkkunen äußerte dazu, solche Aussagen könnten zwar auch marketinggetrieben sein. Wenn ein Unternehmen jedoch selbst behaupte, sein System sei hochgefährlich, dann dürfe es dieses aus ihrer Sicht nicht einfach auf den Markt bringen.
Nach Einschätzung der finnischen Politikerin ist der globale Wettbewerb in der Branche äußerst intensiv, weshalb manche Anbieter unter starkem Druck stünden. Dadurch wachse das Risiko, dass Produkte veröffentlicht werden, die noch nicht gründlich genug geprüft wurden. Gegenwärtig lägen die größten Gefahren vor allem im Bereich der Cybersicherheit.
Gleichzeitig warnte Virkkunen vor noch gravierenderen Szenarien in der Zukunft. So könnten besonders leistungsfähige KI-Modelle etwa für die Entwicklung biologischer Waffen missbraucht werden oder in die Hände terroristischer Gruppen geraten.
Brüssel überwacht leistungsstarke KI-Modelle
Seit August untersucht das KI-Amt der EU-Kommission in Brüssel, ob große KI-Modelle ausreichend abgesichert sind und nicht eigenständig Cyberangriffe durchführen. Die betroffenen Technologiekonzerne sind verpflichtet, entsprechende Schutzmaßnahmen umzusetzen und Vorfälle unverzüglich an die EU zu melden.
Wer gegen das europäische KI-Gesetz verstößt, muss mit hohen Sanktionen rechnen. Bei unzureichenden Sicherheitsvorkehrungen können Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes verhängt werden – je nachdem, welcher Betrag höher ausfällt.
Quelle: dpa/bearbeitet durch Julian Weber
