Anthropic-Mitgründer warnt: KI braucht eine Bremse

Der OpenAI-Konkurrent Anthropic hat eine neue Debatte über die Grenzen von Künstlicher Intelligenz ausgelöst. Hintergrund ist die Sorge, dass KI-Systeme bald einen Punkt erreichen könnten, an dem sie sich immer stärker selbst verbessern – mit Risiken für Kontrolle, Sicherheit und Gesellschaft.

Im Interview mit der BBC-Sendung "Newsnight" sagte Anthropic-Mitgründer Jack Clark, man müsse sich die Möglichkeit offenhalten, die Entwicklung notfalls zu verlangsamen. "Man will die Möglichkeit haben, den Fuß vom Gas zu nehmen und auf die Bremse zu treten", sagte Clark der BBC. Und weiter: "Im Moment ist es so, als hätte die KI-Branche ein Gaspedal, aber kein Bremspedal."

Sorge vor Kontrollverlust

Clark warnte, dass die Technologie sich rasch einem kritischen Punkt nähere. Nach seinen Angaben arbeitet der Anthropic-Chatbot Claude bereits mit Code, den das System zu etwa 80 Prozent selbst geschrieben habe. Dass daraus in den nächsten ein bis zwei Jahren 100 Prozent werden könnten, halte er für plausibel.

Genau darin sieht Clark das Risiko. Wenn KI-Systeme sich selbst weiterentwickeln, könnten sie Menschen täuschen oder sich in Richtungen verändern, die nicht mehr nachvollziehbar seien. Auf die Frage, was dann die Folge wäre, machte er laut BBC deutlich: Die Menschen könnten die Kontrolle verlieren. Deshalb sei das nicht nur eine Frage für Unternehmen, sondern für die ganze Welt.

Anthropic bringt Pause ins Gespräch

Parallel zum BBC-Interview erklärte Anthropic in einem Blogeintrag, "dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren". Ziel wäre es, in dieser Zeit gesellschaftliche Strukturen anzupassen und Sicherheitsforschung voranzutreiben, damit KI im Interesse der Menschen handelt.

Allerdings räumt das Unternehmen selbst ein, dass eine solche Pause schwer durchzusetzen wäre. Dafür müssten sich die großen KI-Entwickler einigen – und genau danach sieht es derzeit nicht aus. Stattdessen investieren Firmen wie Anthropic, OpenAI und Google weiter massiv in Rechenzentren und KI-Infrastruktur. Eine einseitige Pause lehnt Anthropic ab. Konzernchef Dario Amodei hatte bereits betont, dass der Wettbewerb mit China eine Verlangsamung der Entwicklung zusätzlich erschwere.

Auch in den News:

• Leak bei KI-Tool von Anthropic Claude: Quellcode plötzlich öffentlich

• Streit um Urheberrecht: KI-Firma Anthropic will Autoren 1,5 Milliarden Dollar zahlen

• KI-Zoff: Anthropic-Chef verweigert Pentagon uneingeschränkten Zugriff – Ministerium droht

Nutzen, Risiken und Folgen für Jobs

Clark betonte im BBC-Interview, KI könne große Vorteile bringen, etwa für Biologie und medizinische Forschung. Gleichzeitig warnte er vor wirtschaftlichen Folgen. Besonders sogenannte KI-Agenten, also Programme, die Aufgaben relativ eigenständig erledigen, könnten Jobs übernehmen. Große Tech-Konzerne haben in den vergangenen Monaten bereits Stellen gestrichen und dabei auf die wachsenden Fähigkeiten von KI verwiesen.

Trotzdem sieht Clark weiter einen Platz für Menschen. Wirklich kreative Ideen seien bisher nicht klar eine Stärke von KI. "Es gibt offene Fragen, ob KI-Systeme wirklich kreativ sein können – dafür gibt es bisher keine echten Belege", sagte er der BBC. Menschen, die neugierig seien, viel läsen und breit dächten, könnten sogar besonders von der Technik profitieren. Gerade deshalb fordert Anthropic jetzt nicht nur mehr Tempo bei der Entwicklung, sondern vor allem mehr Regeln, bevor die Branche an einen Punkt kommt, an dem Bremsen kaum noch möglich sind.