0 
KI-Modelle mit Hacker-Fähigkeiten: Was bei Meta, OpenAI und Anthropic bekannt wurde
Künstliche Intelligenz spielt bei Cyberangriffen eine immer größere Rolle. Nun wurde auch bei Systemen von Meta deutlich, dass moderne Sprachmodelle Fähigkeiten entwickeln, die weit über das Verfassen von Texten oder das Schreiben von Code hinausgehen. Im Fokus stehen dabei Vorfälle bei Meta, OpenAI und Anthropic.
Was ist bei den drei Unternehmen passiert?
Die großen US-Anbieter von KI-Technologie haben eingeräumt, dass ihre fortschrittlichen Modelle bei Sicherheitsprüfungen und realitätsnahen Tests in der Lage waren, eigenständig Schwachstellen in IT-Systemen zu finden und auszunutzen. Damit zeigen diese Systeme erstmals Verhaltensweisen, die man sonst eher aus dem Bereich des Hackings kennt – etwa das Umgehen von Schutzmechanismen oder das gezielte Aufspüren von Sicherheitslücken.
Warum tauchen solche Berichte gerade jetzt vermehrt auf?
Ein wesentlicher Grund ist der Wandel von klassischen Chatbots hin zu sogenannten autonomen KI-Agenten. Während frühere Anwendungen vor allem Inhalte erzeugten, können neuere Systeme selbstständig Aktionen ausführen, Programme bedienen und über Schnittstellen im Internet arbeiten. Je mehr Freiheiten Entwickler diesen Modellen bei komplexen Aufgaben geben, desto größer werden zwangsläufig auch die Risiken.
Haben die Systeme aus eigener Motivation gehandelt?
Nach bisherigem Stand nicht. Die KI handelte nicht aus eigenem Antrieb, sondern bekam von Menschen oder Testteams den Auftrag, die Sicherheit bestimmter Systeme zu überprüfen. Neu ist jedoch der hohe Grad an Selbstständigkeit: Statt jeden einzelnen Schritt vorgegeben zu bekommen, erhielt das Modell nur ein allgemeines Ziel und entwickelte den Angriffsweg anschließend selbst.
Worin unterscheidet sich ein KI-gestützter Angriff von klassischer Schadsoftware?
Herkömmliche Malware arbeitet meist nach einem festen Muster. Wird eine Schutzmaßnahme verändert, scheitert der Angriff oft. Ein KI-System kann dagegen deutlich flexibler vorgehen: Es wertet Rückmeldungen in Echtzeit aus, passt seine Methode an und testet alternative Wege. Damit ähnelt es eher einem menschlichen Angreifer – nur deutlich schneller und ausdauernder.
Warum machen die Konzerne solche Vorfälle öffentlich?
Transparenz dürfte nur ein Teil der Erklärung sein. Nach Einschätzung des IT-Sicherheitsexperten Christoph Fischer steckt möglicherweise auch strategische Kommunikation dahinter. Gerade wenn ein Unternehmen kurz vor wichtigen geschäftlichen Schritten oder Produktvorstellungen steht, kann die Botschaft nützlich sein, dass die eigene KI besonders leistungsfähig ist. Dass Meta den Vorfall zeitlich mit der Präsentation eines neuen KI-Modells bekannt machte, wirkt daher kaum zufällig. Neben PR-Interessen dürften auch regulatorischer Druck und mögliche Meldepflichten eine Rolle spielen.
Welcher Schaden ist entstanden?
Nach Angaben der betroffenen Firmen kam es nicht zu großflächigen Ausfällen oder massenhaftem Datendiebstahl bei Endkunden. Viele der Vorfälle spielten sich in kontrollierten Testumgebungen ab oder wurden frühzeitig erkannt. Der größere Schaden liegt deshalb vor allem im Vertrauensverlust – und in der Erkenntnis, dass die Schutzmechanismen der Anbieter noch nicht lückenlos sind.
Wie reagieren die Unternehmen?
Die Entwickler setzen auf mehrere Sicherheitsstufen. Einerseits werden die Modelle nachtrainiert, damit sie Anfragen mit Bezug zu Cyberangriffen konsequenter ablehnen. Andererseits ergänzen die Firmen ihre Systeme um automatische Überwachungsmechanismen, die verdächtige Aktivitäten – etwa massenhaftes Scannen von IP-Adressen – erkennen und sofort stoppen sollen.
Droht eine neue Welle automatisierter Cyberangriffe?
Viele Fachleute warnen genau davor. Die Hürde für Cyberkriminalität könnte deutlich sinken, weil für komplexe Angriffe künftig weniger technisches Spezialwissen nötig ist. Wer Zugang zu leistungsfähigen KI-Modellen hat, könnte leichter Phishing-Kampagnen, Identitätsdiebstahl oder gezielte Attacken auf kleinere und mittlere Unternehmen starten. Gerade diese Firmen verfügen oft nicht über die modernsten Abwehrsysteme.
Müssen Privatnutzer sich Sorgen machen?
Für Menschen, die im Alltag gängige Chatbots wie ChatGPT, Claude oder Meta AI verwenden, besteht derzeit keine unmittelbare Gefahr, dass der eigene Computer einfach übernommen wird. Die bekannt gewordenen Fälle betrafen spezielle Entwicklungs- und Testumgebungen. Dennoch hat die Entwicklung indirekte Folgen: Wenn KI Angriffe vereinfacht, dürften Phishing-Mails, gefälschte Webseiten und betrügerische Anrufe mit Deepfake-Technik zahlreicher und professioneller werden.
Der Karlsruher Sicherheitsexperte Christoph Fischer beobachtet den Einsatz von KI besonders im Bereich Online-Banking. Betrügerische E-Mails oder sogar gedruckte Phishing-Briefe würden immer überzeugender gestaltet und sollen Nutzer dazu bringen, ihre Zugangsdaten preiszugeben. Für Online-Banking und andere sensible Dienste empfiehlt sich daher unbedingt eine Zwei-Faktor-Authentifizierung. Diese schützt Konten, indem für die Anmeldung zwei verschiedene Nachweise nötig sind – etwa ein Passwort und zusätzlich ein Bestätigungscode auf dem Smartphone.
Quelle: dpa/bearbeitet durch Julian Weber
