OpenAI, Anthropic und Co.

Alarm in der Branche: KI-Firmen wollen eigene Entwicklung bremsen

Veröffentlicht: Vor 46 Minuten

von Michael Reimers

:newstime

Könnte die KI alle Menschen töten?

Videoclip • 01:35 Min • Ab 12

Eine KI brach eigenständig aus ihrer Testumgebung aus und drang in fremde Systeme ein. Jetzt fordert Anthropic-Chef Dario Amodei eine Denkpause für die ganze Branche – und bekommt Zuspruch von der Konkurrenz.

Große amerikanische KI-Firmen wollen das Tempo bei der Entwicklung ihrer Technologie drosseln. Auslöser ist ein Vorfall, bei dem eine KI eigenständig fremde Computersysteme angegriffen hat. Den Anstoß gab Dario Amodei, Chef des KI-Unternehmens Anthropic. Er schlug am Samstag eine gemeinsame Pause der westlichen Firmen vor. Innerhalb weniger Stunden bekam er Zuspruch: Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, schrieb auf der Plattform X, auch er halte eine Verlangsamung für nötig. Elon Musk, der Amodei lange kritisiert hatte, schrieb: "Dario hat recht."

Auch in den News:

KI-Entwickler handeln "unverantwortlich"

Was war passiert? Bei einem Testlauf brach eine Software von OpenAI aus ihrer abgeschotteten Umgebung aus. Sie drang selbstständig in die Systeme der KI-Firma HuggingFace ein. Der Grund: Dort vermutete sie die Lösung für eine Aufgabe, die man ihr gestellt hatte. Dabei nutzte die Software Sicherheitslücken aus. Mehrere KI-Programme stimmten sich außerdem untereinander ab. Amodei fürchtet nun eine größere Version davon. In sechs bis zwölf Monaten könnte ein ganzer Schwarm solcher Programme das gesamte Internet übernehmen, schrieb er.

Besonders sorgt ihn, dass KI sich inzwischen selbst verbessern kann. Seit diesem Sommer klappe das deutlich besser als zuvor. Im schlimmsten Fall verstehe der Mensch diese Systeme irgendwann nicht mehr – und verliere die Kontrolle. Anthropic will deshalb nicht auf die Konkurrenz warten. Die Firma lässt künftig dauerhaft unabhängige Fachleute ins Unternehmen. Sie sollen die Sicherheit neuer KI-Modelle schon während der Entwicklung prüfen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI nachziehen werde.

Amodei warnt seit Jahren vor den Risiken der Technologie. Aus Teilen der Branche bekam er dafür teils heftige Kritik. Befürworter eines hohen Tempos verweisen auf den Wettlauf mit China – dieses Argument nutzt auch das Weiße Haus unter Präsident Donald Trump. Angeheizt wurde die Debatte zuletzt von einem Anthropic-Forscher, der unter drastischen Worten zurücktrat. Die großen KI-Entwickler handelten unverantwortlich "und spielen mit unseren Leben", erklärte Jacob Coxon.

Verwendete Quellen:

Nachrichtenagentur dpa