0 
OpenAI-Konkurrent Anthropic bringt eine mögliche Unterbrechung bei der Entwicklung besonders leistungsfähiger KI-Systeme ins Spiel. In einem Blogbeitrag erklärt das Unternehmen, es wäre aus seiner Sicht sinnvoll, notfalls die Möglichkeit zu haben, die Entwicklung sehr fortgeschrittener Modelle zu bremsen oder vorübergehend auszusetzen. Die gewonnene Zeit könnte genutzt werden, um gesellschaftliche und politische Rahmenbedingungen anzupassen und Sicherheitsforschung voranzutreiben, damit KI zuverlässig im Sinne der Menschen handelt.
Anthropic betont allerdings selbst, dass ein solcher Schritt nur funktionieren würde, wenn die großen KI-Anbieter gemeinsam mitziehen. Davon ist die Branche derzeit weit entfernt: Statt Zurückhaltung dominieren milliardenschwere Ausbaupläne für Rechenzentren und andere KI-Infrastruktur.
Keine einseitige Bremse
Firmenchef Dario Amodei hatte bereits im Januar beim Weltwirtschaftsforum in Davos darauf hingewiesen, dass der Wettbewerb mit China eine Verlangsamung der KI-Entwicklung erheblich erschwere. Eine einseitige Pause komme für Anthropic nicht infrage, weil sie lediglich die Kräfteverhältnisse im Rennen um die führende Position verschieben würde.
Als nächsten Schritt will das unternehmenseigene Forschungsinstitut gemeinsam mit anderen Akteuren ein Kontrollsystem entwickeln. Dieses soll sicherstellen, dass sich im Fall eines Moratoriums tatsächlich alle Beteiligten daran halten und niemand heimlich weiterarbeitet, um sich einen Vorsprung zu verschaffen.
Auch Elon Musk hatte schon vor einigen Jahren eine sechsmonatige Pause bei der KI-Entwicklung gefordert, um Risiken zu begrenzen. Später wurde jedoch bekannt, dass er parallel am Aufbau eines eigenen KI-Unternehmens arbeitete.
Sorge vor KI, die sich selbst verbessert
Aus Sicht von Anthropic ist der aktuelle Vorstoß eine Reaktion auf die rasanten Fortschritte bei modernen KI-Modellen. Besonders besorgniserregend sei ihre zunehmende Fähigkeit, sich selbst zu optimieren und weiterzuentwickeln. Sollte dieser Punkt erreicht werden, könnte nach Einschätzung des Unternehmens das Risiko wachsen, dass Menschen die Kontrolle über solche Systeme verlieren. Anthropic warnt, dass dieser Wendepunkt womöglich schneller eintreten könnte, als viele Institutionen darauf vorbereitet sind.
Das Unternehmen hinter dem KI-Assistenten Claude tritt seit Längerem als Mahner auf und verlangt strengere Regeln für die Branche. Aus dem Umfeld des Weißen Hauses unter Präsident Donald Trump kam daraufhin der Vorwurf, eine schärfere Regulierung könne die US-Techindustrie im weltweiten Wettbewerb ausbremsen. Zuletzt machte Anthropic mit Claude Mythos Preview Schlagzeilen: Die Software entdeckte in mehreren Programmen teils Sicherheitslücken, die offenbar über viele Jahre unbemerkt geblieben waren.
Quelle: dpa/bearbeitet durch Topaktuell Redaktion
