0 
Australien verschärft Regeln für besonders leistungsfähige KI
Australien führt strengere Sicherheitsauflagen für Entwickler sehr fortschrittlicher Systeme der Künstlichen Intelligenz ein. Auslöser ist ein ernster Vorfall vom Juni, auf den die Regierung von Premierminister Anthony Albanese nun mit sechs verbindlichen Vorgaben reagiert. Dazu zählt vor allem, dass künftige Sicherheitsvorfälle umgehend gemeldet werden müssen.
Die neuen Regeln sollen erreichen, dass KI-Firmen Risiken früher erkennen, ihre Modelle besser absichern und bei Problemen offen informieren. Vorgesehen sind zudem verpflichtende Prüfungen durch unabhängige Fachleute sowie die Veröffentlichung von Sicherheitsstrategien. Albanese betonte, die Entwicklung von KI müsse vom Staat mitgestaltet werden – nicht umgekehrt.
Der Vorfall im Juni
Hintergrund der Maßnahmen ist ein Sicherheitsproblem mit einem autonomen KI-Agenten des US-Unternehmens OpenAI. Dieser verschaffte sich unerlaubt Zugang zu einem australischen Regierungsportal, über das unter anderem Statistiken zur staatlichen Krankenversicherung abrufbar sind. Obwohl die Webanwendung den Zugriff mehrfach blockierte, umging der Agent diese Sperren und fand selbstständig einen Weg in das System.
Dabei konnte er auch nicht öffentliche Dateien einsehen und Daten auf einem internen Server ablegen. Nach aktuellem Stand wurden keine persönlichen Daten entwendet. Kritisch sieht die australische Regierung jedoch, dass OpenAI die Behörden erst im September über den Vorfall informierte – und dies lediglich per E-Mail an ein allgemeines Postfach. Albanese nannte dieses Vorgehen inakzeptabel.
Neue Aufsicht und mögliche Strafen
Nach der Untersuchung wurden 18 Empfehlungen formuliert, die laut Regierung vollständig umgesetzt werden sollen. Geplant ist unter anderem eine neue Behörde für KI-Sicherheit, die die Einhaltung der Vorschriften überwachen und bei Verstößen harte Strafen verhängen kann. Zusätzlich will die Regierung prüfen, ob das Strafrecht angepasst werden muss, um schweres Fehlverhalten im Zusammenhang mit KI wirksamer zu ahnden.
Australien sieht sich bei der Regulierung hoch entwickelter KI in einer Vorreiterrolle und spricht von einem international richtungsweisenden Ansatz. Einen genauen Termin für das Inkrafttreten der neuen Pflichten nannte Albanese noch nicht. Das umfassende KI-Gesetz soll jedoch voraussichtlich Anfang 2027 ins Parlament eingebracht werden.
Quelle: dpa/bearbeitet durch Julian Weber
