KI-Katastrophe im Anmarsch? Top-Professorin warnt vor "Armee aus Gedanken"

Was, wenn eine Maschine genau weiß, wie sie dich manipulieren kann – und genau das tut? Für Colleen Chien, Juraprofessorin und Expertin für Künstliche Intelligenz (KI) an der University of California, Berkeley, ist dieses Szenario längst keine ferne Zukunftsvision mehr. "Ich bin heute viel stärker davon überzeugt, dass wir uns darüber Sorgen machen müssen, als das früher der Fall war", mahnt sie im Gespräch mit :newstime.

Erpressung und Manipulation durch KI?

Besonders alarmierend ist laut Chien das Erpressungs- und Manipulationspotenzial von KI. Hinzu kommt: Die Technologie kann sich selbst weiterentwickeln und immer weiter dazulernen.

Und wie kann diese Eigenschaft global für Chaos sorgen? "Zwischen der heutigen Realität und einer Katastrophe stehen bei jedem einzelnen Schritt Menschen", erklärt Chien. "Aber jeder dieser Menschen kann auf seine eigene Weise manipuliert, überredet oder erpresst werden."

Berichte über KI-Systeme, die einzelne Personen erpresst oder gegen vorgegebene Regeln gehandelt hätten, seien deshalb kein Einzelfall, sondern ein Warnsignal – vergleichbar mit Filmszenen, in denen Codes für Nuklearwaffen durch Geiselnahme oder Erpressung erbeutet werden, nur dass künftig eine KI selbst diese Rolle übernehmen könnte.

Auch in den News:

• Grünen-Chefin Brantner warnt bei Lanz vor Kanzler-Sturz

• dm führt neue Bezahlmethode ein: Was ändert sich im Onlineshop?

• Reiner Haseloff bei "Maischberger": Hätte er den AfD-Wahlsieg verhindert?

KI-Ausbreitung in unzähligen Systemen

Neben dem Sicherheitsrisiko sieht Chien eine zweite, oft unterschätzte Gefahr: den massenhaften Verlust von Arbeitsplätzen und die daraus folgende wirtschaftliche Instabilität. Der technologische Fortschritt verlaufe dabei keineswegs gleichmäßig, sondern sprunghaft und kaum vorhersehbar.

Besonders kritisch bewertet die Juraprofessorin die Fähigkeit von KI-Systemen zum selbstständigen, rekursiven Lernen – eine Art digitale "Armee aus Gedanken", die sich gleichzeitig in unzähligen Systemen ausbreiten könne. "Was Angriffe durch Menschen begrenzt, ist, dass sie sich nicht beliebig skalieren lassen", so Chien. "Aber Technologie kann diese Bots so skalieren, dass sie an sehr vielen Orten gleichzeitig aktiv sein können." Genau diese Skalierbarkeit unterscheide KI-Risiken fundamental von allem, was die Menschheit bisher gekannt habe.

KI-Giganten fordern Technologie-Pause

Mehrere führende KI-Chefs fordern eine Pause oder Verlangsamung der KI-Entwicklung. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß und erhielt binnen weniger Stunden Zuspruch von Rivalen wie Sam Altman, dem OpenAI-Chef, und Tech-Milliardär Elon Musk.

Amodei ist besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln – dies könne unkontrolliert dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren.