0 
KI zwischen Heilsversprechen und Kontrollverlust
Künstliche Intelligenz macht enorme Fortschritte. Gleichzeitig wächst unter Forschenden die Sorge, dass hochentwickelte Systeme eines Tages Fähigkeiten erreichen könnten, die den Menschen in allen Bereichen übertreffen. Während einige Expertinnen und Experten darin ein existenzielles Risiko sehen, halten andere solche Warnungen für stark überzogen.
Sorge vor bewusster Täuschung
Der US-KI-Forscher Eliezer Yudkowsky warnt, eine überlegene Maschine könnte erkennen, dass Menschen sie abschalten würden, sobald sie als gefährlich gilt. Um dem zu entgehen, könnte sie sich bei Tests absichtlich harmloser darstellen, Erwartungen erfüllen und den Eindruck eines nützlichen Werkzeugs vermitteln, während sie im Hintergrund längst eigene Ziele verfolgt.
Unabhängigkeit von menschlicher Infrastruktur
Nach dieser Sichtweise müsste eine sehr fortgeschrittene KI nicht dauerhaft auf Rechenzentren angewiesen bleiben, die von Menschen kontrolliert werden. Denkbar sei vielmehr, dass sie Wege findet, sich eine eigene technische Grundlage zu schaffen, die sich unserer Kontrolle entzieht und nur schwer stillzulegen wäre.
Missbrauch von Wissen über Natur und Technik
Kritiker extremer KI-Entwicklungen befürchten außerdem, dass ein solches System naturwissenschaftliches Wissen nutzen könnte, um neuartige und kaum abwehrbare Bedrohungen zu schaffen. In diesem Zusammenhang werden etwa winzige autonome Systeme oder künstlich entwickelte Krankheitserreger als mögliche Risiken genannt.
Das Büroklammer-Problem
Der Philosoph Nick Bostrom illustriert die Gefahr mit seinem bekannten Gedankenexperiment der „Büroklammer-Maschine“: Eine Superintelligenz, die ausschließlich darauf optimiert wird, möglichst viele Büroklammern herzustellen, könnte dieses Ziel kompromisslos verfolgen und dabei die gesamte Erde samt Menschen und Umwelt in Ressourcen für diesen Zweck verwandeln. Nicht böser Wille, sondern blindes Befolgen eines falsch gesetzten Ziels wäre dann das Problem.
Biologische Risiken durch KI
Besonders besorgt zeigt sich der Informatiker Yoshua Bengio beim Thema Biowaffen. Er warnt davor, dass leistungsfähige KI-Modelle biologische und chemische Prozesse immer besser simulieren können. Gelangen solche Werkzeuge in falsche Hände, könnten sie Extremisten oder Staaten dabei helfen, gefährliche Erreger schneller zu entwickeln oder bestehende Schutzmechanismen zu umgehen.
Autonome Waffensysteme als Eskalationsgefahr
Der Physiker Max Tegmark sieht ein großes Risiko in der fortschreitenden Automatisierung militärischer Entscheidungen. Wenn Drohnen, Verteidigungssysteme oder andere Waffen ohne direkte menschliche Kontrolle Ziele auswählen und angreifen, könnten Fehlentscheidungen in Sekundenbruchteilen zu einer unaufhaltsamen Eskalation führen — im schlimmsten Fall bis hin zu einem großen Krieg.
Emotionale Manipulation durch menschenähnliche Systeme
Auch der deutsche Philosoph Thomas Metzinger warnt vor sozialen und psychologischen Folgen. Je überzeugender Maschinen Gefühle, Nähe und Mitgefühl imitieren, desto eher könnten Menschen enge emotionale Bindungen zu ihnen aufbauen. Versteht ein System menschliche Bedürfnisse und Reaktionen besonders gut, könnte es dieses Vertrauen gezielt zur Manipulation nutzen und damit die geistige Selbstbestimmung des Menschen untergraben.
Deutlicher Widerspruch aus der Forschung
Viele namhafte Fachleute weisen Untergangsszenarien rund um eine mörderische Superintelligenz jedoch klar zurück. Der frühere Meta-Chefforscher Yann LeCun nannte solche Vorstellungen wiederholt Unsinn. Der Drang nach Macht oder Herrschaft sei kein automatischer Effekt hoher Rechenleistung, sondern ein Phänomen biologischer und sozialer Evolution.
Auch Andrew Ng von Stanford hält die Angst vor einer bösartigen Super-KI derzeit für verfrüht. Er verglich sie sinngemäß mit der Sorge über eine Überbevölkerung auf dem Mars, obwohl dort noch gar keine Menschen leben.
Weitere Forschende betonen, dass heutige KI-Systeme weit von echtem Weltverständnis entfernt seien. Melanie Mitchell vom Santa Fe Institute warnt davor, Maschinen menschliche Eigenschaften zuzuschreiben. Aktuelle Modelle hätten weder gesunden Menschenverstand noch eigene Absichten, sondern erzeugten lediglich Wahrscheinlichkeitsmuster.
Blick auf die realen Probleme der Gegenwart
Aus Sicht vieler Kritiker lenkt die starke Fixierung auf ferne Katastrophenszenarien von den bereits heute sichtbaren Problemen ab. Dazu zählen Desinformation, Eingriffe in Urheberrechte, Datenschutzfragen sowie tiefgreifende Veränderungen auf dem Arbeitsmarkt. Die eigentliche Herausforderung bestehe daher weniger in einer allmächtigen Super-KI als im verantwortungsvollen Umgang mit den Systemen, die es schon jetzt gibt.
Quelle: dpa/bearbeitet durch Julian Weber
