Hacking-Vorfall auch bei Gemini

"Kill Switch": Kalifornien will Notschalter für KI entwickeln

Veröffentlicht: Vor 1 Stunde

von Michael Reimers

:newstime

"Besorgniserregend": OpenAI veröffentlicht KI-Zwischenfälle

Videoclip • 01:19 Min • Ab 12

Kalifornien will in der Debatte um KI-Sicherheitsrisiken die Initiative ergreifen - und erwägt eine radikale Vorgabe.

Das Wichtigste in Kürze:

Der US-Bundesstaat Kalifornien will die Einführung einer Notabschalt-Vorrichtung für KI-Systeme prüfen.
Eine Gruppe weltweit führender Expert:innen soll einen Stoppmechanismus erarbeiten, ordnete Gouverneur Gavin Newsom an.
Jetzt wurde bekannt, dass sich auch Googles KI-Software Gemini bei Tests selbstständig in Computersysteme anderer Unternehmen gehackt hat.

Über einen "Kill Switch" für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert. Nun hat Kaliforniens Gouverneur Gavin Newsom verfügt, dass genau so eine Notabschalt-Vorrichtung für KI-Systeme erarbeitet werden soll. Sie gehört zu einer Liste von Maßnahmen, zu denen er bis Mitte November Vorschläge haben möchte. Noch ist allerdings völlig unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.

Kalifornien gilt als wichtigster KI-Standort

Zu weiteren Ideen gehören unabhängige Beobachter:innen in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, geht aus der von Newsom unterzeichneten Anordnung hervor.

Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzen führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.

Auch in den News:

Googles KI Gemini hackte ebenfalls andere Unternehmen

Die Debatte um Gefahren Künstlicher Intelligenz hatte sich in den vergangenen Wochen aufgeheizt. Besonders nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren.

Neu herausgekommen ist nun, dass auch Googles KI-Software Gemini betroffen ist. Sie hatte sich offenbar schon vor Monaten bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte KI-Entwickler, dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die Vorfälle erst nach einer Nachfrage der Zeitung "Wall Street Journal" öffentlich.

Expert:innen plädieren für unabhängige Aufsicht

Mitarbeiter:innen von KI-Laboren warnen vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte. Neben anderen sprach sich auch Anthropic-Chef Dario Amodei dafür aus, das Entwicklungstempo bei hochentwickelter KI zu bremsen und die Aufsicht zu verstärken.

Inzwischen fordern Dutzende renommierte Expert:innen aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher:innen müssten wie führende Manager:innen Zugang zu Systemen haben und mit zuständigen Mitarbeiter:innen kommunizieren können, heißt es in einem offenen Brief. Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt.

Verwendete Quellen:

Nachrichtenagentur dpa