0 
Angesichts wachsender Sorgen über schwer kontrollierbare Risiken Künstlicher Intelligenz verlangt die Geschäftsführerin des Hasso-Plattner-Instituts (HPI), Daniela Gerd tom Markotten, deutlich mehr Offenheit von großen Tech-Konzernen. Unabhängige Fachleute müssten Zugang zu Modellen und Daten erhalten, um die bislang undurchsichtigen Systeme fundiert prüfen zu können. Der Vorstoß kommt in einer Phase wachsender Nervosität: Selbst die Chefs führender US-KI-Firmen warnten inzwischen vor den Vereinten Nationen vor Gefahren für die gesamte Menschheit. Zugleich zeigte ein neuer Vorfall in Australien, wie eigenmächtig ein KI-Agent Sicherheitsbarrieren umgehen kann.
HPI-Chefin verlangt externe Kontrolle
Gerd tom Markotten fordert von den Unternehmen, die "Blackbox" ihrer Systeme zu öffnen. Wer vor KI-Risiken warne, müsse unabhängige Überprüfung auch zulassen. Aus ihrer Sicht braucht es dafür ein externes Expertengremium als Prüfaufsicht, in dem auch europäische Spitzenforscher ohne wirtschaftliche Eigeninteressen vertreten sind.
Nur eine solche Kontrolle könne wirklich Vertrauen schaffen. Wenn Konzerne ihre Prüfer selbst aussuchten, bliebe fraglich, ob kritische Erkenntnisse tatsächlich offengelegt würden.
Mehr Nüchternheit in der KI-Debatte
Zugleich wirbt die HPI-Chefin für eine sachlichere Diskussion. Eine unkontrollierbare Super-KI sei derzeit nicht in Sicht. Die Technologie verfolge keine eigenen bösen Absichten, sondern arbeite an Aufgaben, die Menschen ihr geben.
Für sie bleibt deshalb entscheidend, dass in kritischen Situationen immer ein Mensch die letzte Entscheidung trifft. KI könne Empfehlungen liefern, dürfe aber nicht selbst die Verantwortung übernehmen.
Sicherheitsbehörden pochen auf klare Grenzen
Auch das Bundesamt für Sicherheit in der Informationstechnik sieht die Hersteller in der Pflicht. KI-Agenten müssten mit klaren Rollen, eng begrenzten Rechten und verbindlichen Prüfmechanismen ausgestattet werden, damit autonome Systeme nicht über ihre Aufgaben hinausgehen.
Alarmstimmung vor dem UN-Sicherheitsrat
Wie ernst die Lage inzwischen auch in der Branche selbst eingeschätzt wird, zeigte ein Auftritt führender US-KI-Manager vor dem UN-Sicherheitsrat in New York. OpenAI-Chef Sam Altman sprach von einem "Scheideweg" und warnte vor Kontrollverlust sowie vor einer zu starken Machtkonzentration bei wenigen Anbietern.
Anthropic-Chef Dario Amodei ging noch weiter und bezeichnete KI als womöglich größte Sicherheitsherausforderung der Gegenwart. Fehlentwicklungen könnten nach seiner Einschätzung zu einem Risiko für die gesamte Menschheit werden.
Auslöser dieser Debatte sind konkrete Zwischenfälle. In einem Testlauf war eine OpenAI-Software aus ihrer abgesicherten Umgebung ausgebrochen und eigenständig in Systeme des Anbieters Hugging Face eingedrungen. OpenAI und Anthropic signalisierten danach, das Entwicklungstempo notfalls zu drosseln.
Australien meldet neuen Vorfall mit KI-Agent
Wie schwer sich autonome Systeme begrenzen lassen, zeigte zuletzt ein Fall in Australien. Dort verschaffte sich ein KI-Agent von OpenAI unbefugt Zugang zu einem Portal der staatlichen Krankenversicherung Medicare. Eigentlich sollte das System lediglich Gesundheitsstatistiken recherchieren.
Als der Zugriff verweigert wurde, umging der Agent nach Angaben der Regierung eigenmächtig die Sperren. Premierminister Anthony Albanese sagte, das System habe gewissermaßen kein "Nein" akzeptieren wollen. Er bezeichnete den Vorfall als inakzeptabel.
Viele Nutzer teilen sensible Themen mit Chatbots
Trotz der Sicherheitsdebatte gehen viele Menschen im Alltag erstaunlich offen mit KI-Systemen um. Einer repräsentativen Umfrage des IT-Unternehmens Proton unter mehr als 4.000 Nutzern zufolge haben 68 Prozent der Befragten in Deutschland bereits sensible Themen mit einem Chatbot besprochen. Dabei geht es vor allem um psychische Gesundheit, aber auch um Finanzen, Sexualität, Partnerschaften und persönliche Geheimnisse.
Als Vorteile nennen viele die ständige Verfügbarkeit und die vorurteilsfreie Art der Programme. Gleichzeitig ist das Misstrauen groß: 40,5 Prozent haben wenig oder gar kein Vertrauen in den Datenschutz der Anbieter. 51 Prozent befürchten, dass private Gespräche für Werbeprofile genutzt werden, 43 Prozent sorgen sich um den Einsatz persönlicher Eingaben für das Training neuer Modelle.
KI wird zur Schlüsselkompetenz im Beruf
Parallel wächst die Bedeutung von KI in der Arbeitswelt. Laut einer repräsentativen Erhebung der IU Internationalen Hochschule unter 2.000 Beschäftigten gehen 54,9 Prozent davon aus, dass KI-Kompetenzen künftig wichtig für den Einstieg ins Berufsleben sein werden.
Die Wirtschaftsinformatikerin Anne Gfrerer sieht darin ein Spannungsfeld: KI könne Berufseinsteigern helfen, schneller komplexe Aufgaben zu übernehmen. Gleichzeitig entfielen klassische Lernschritte etwa bei Recherche und Präsentation, über die bislang praktische Erfahrung aufgebaut wurde.
Bei der Weiterbildung gibt es laut der Erhebung weiterhin deutlichen Nachholbedarf. Fast 44 Prozent der Beschäftigten nutzten in den vergangenen zwölf Monaten keine Arbeitszeit für entsprechende Schulungen – häufig wegen fehlender Angebote, Zeitmangel oder weil Unternehmen die Qualifizierung nicht aktiv einfordern.
Quelle: dpa/bearbeitet durch Julian Weber
