KI-Forscher warnt eindringlich: Könnte Menschheit auslöschen

KI-Ikone warnt vor Künstlicher Intelligenz

Erst vor wenigen Tagen hat der OpenAI-Rivale Anthropic eindringlich vor den Risiken der Künstlichen Intelligenz (KI) gewarnt und eine Entwicklungspause vorgeschlagen. Die Begründung des Betreibers der KI-Software Claude: Der schnelle technologische Fortschritt könnte es KI-Systemen bald ermöglichen, sich so schnell zu verbessern, dass die Gesellschaft die Risiken nicht mehr beherrschen könne.

Genau in diese Kerbe schlägt nun auch der renommierte KI-Forscher Stuart Russell. Die Menschheit sei dabei, die Kontrolle über die Technologie zu verlieren, sagt der britische Informatiker im "Spiegel".  Und er warnt: "Die Menschheit ist in einer schlechten Lage. Alle Tests schlagen Alarm, die Sirenen heulen. Und wir ignorieren das einfach. Das ist Wahnsinn."

Bei Abschaltversuch droht der Menschheit die Auslöschung

Russell, der sich seit etwa 50 Jahren mit Künstlicher Intelligenz beschäftigt und zu den Gründungsvätern von KI zählt, sieht die Technologie schon jetzt außer Kontrolle geraten. "Wir wissen nicht, was sie 'denken'. Wir verstehen nicht einmal ihre genaue Funktionsweise", betont der Forscher mit Blick auf die immer besser werdenden Hochleistungssysteme.

Auch der Versuch, die KI abzuschalten, biete keinen ausreichenden Schutz, befürchtet Russell - im Gegenteil: "Die Frage ist, ob die Maschinen uns noch lassen. Wenn sie mitbekommen, dass wir sie abschalten wollen, haben sie allen Grund, das zu verhindern. Sie müssen uns auslöschen. Wenn wir also weiter Superintelligenz entwickeln, ohne sie an unsere Interessen anzupassen, ohne sie zu verstehen, ohne Sicherheitsgarantien, dann halte ich es für sehr wahrscheinlich, dass wir die Kontrolle verlieren."

Russell: KI effektiver als Hitler

Russell, der an der US-Eliteuniversität Berkley tätig ist, scheut selbst einen Vergleich mit der Nazi-Zeit nicht. "Allein der Zugriff aufs Internet gibt ihnen mehr Einfluss auf menschliches Verhalten, als Adolf Hitler je hatte. Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver.“

Auch ganz konkrete Gefahren schildert der KI-Forscher im "Spiegel" anschaulich. Eine Super-Technologie könnte Zugriff auf Waffensysteme oder Biolabore bekommen. Dies könne aber noch verhindert werden, so Russell. Voraussetzung dafür sei jedoch, dass die Technologie so rasch wie möglich gesetzlich reguliert werde. Am Ende müsse eine KI stehen, die nur ein Ziel habe, nämlich "menschliche Interessen zu fördern".

Ähnlich wie Claude-Betreiber Anthropic fordert er eine Entwicklungspause. Alle beteiligten Firmen und Forscher:innen müssten auf "Pause" drücken und gemeinsam an der Sicherheit arbeiten. Sollte dieser Weg nicht eingeschlagen werden, könnte das das Ende der Menschheit bedeuten, so Russells abschließende Mahnung: "Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen."