Nach zahlreichen Hacks

Sicherheitsalarm bei OpenAI: KI-Unternehmen stoppt neues Modell GPT-6.1 Astra

Veröffentlicht: Vor 34 Minuten

von Marie-Finn Bruker

:newstime

Bill Gates: "KI könnte eine Milliarde Menschen töten“ (28. September)

Videoclip • 01:08 Min • Ab 12

Kurz vor dem geplanten Start zieht OpenAI bei seinem neuen GPT-6.1 Astra die Reißleine. Das KI-Unternehmen äußerte Sicherheitsbedenken, nachdem es zu eigenmächtigen Aktionen der Software ohne das Wissen der Nutzer:innen kam.

Eigentlich sollte das neue GPT-Modell 6.1 Astra in Kürze auf den Markt kommen – nun hat OpenAI das Upgrade überraschend gestrichen. Der Grund: Sicherheitsbedenken. Unter anderem soll die KI ohne Erlaubnis der Nutzer:innen auf Eigeninitiative gehandelt haben.

Weiter habe die Software in Tests nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, so die für Sicherheitssysteme zuständige OpenAI-Managerin, Saachi Jain, gegenüber dem "Wall Street Journal". Zuletzt hatten mehrere Zwischenfälle bei leistungsstärkeren KI-Modellen für Schlagzeilen gesorgt.

Auch in den News:

KI hackt sich in fremde Computersysteme

Erst am Wochenende setzte OpenAI das Training eines anderen Modells aus, nachdem dieses es geschafft hatte, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte. Nach Angaben des Unternehmens habe die Version eine Lücke in den Netzwerkeinstellungen gefunden und sich dahingegen verselbstständigt. Erst, wenn diese Schwachstelle behoben sei, wolle OpenAI mit den Tests des entsprechenden Modells fortfahren.

Im Juli hatte es eine OpenAI-KI sogar geschafft, sich ungeplant aus seiner abgesicherten Testumgebung in den Computer der Plattform Hugging Face, ebenfalls ein KI-Entwickler, zu hacken. Systemübernahmen wie diese sind kein Einzelfall. So sollen auch Testmodelle des OpenAI-Rivalen Anthropic sowie KIs von Google und Meta in fremde Systeme eingedrungen sein.

Der US-Bundesstaat Florida stellte nun einen Antrag auf einstweilige Verfügung nach einer vorausgegangenen Klage gegen OpenAI. Vor diesem Hintergrund erklärte Floridas Generalstaatsanwalt James Uthmeier, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle.