Künstliche Intelligenz

KI-Zoff: Anthropic-Chef verweigert Pentagon uneingeschränkten Zugriff – Ministerium droht

Veröffentlicht: Vor 1 Stunde

:newstime

Musk will 109 Milliarden Dollar von OpenAI (18. Januar)

Videoclip • 01:16 Min • Ab 12

- Anzeige -

Die KI-Firma Anthropic zieht eine rote Linie: keine Massenüberwachung, keine autonomen Waffen. Das Pentagon fordert uneingeschränkten Zugriff auf die Software und droht dem Unternehmen mit harten Konsequenzen.

Der KI-Anbieter Anthropic mit dem Chatbot Claude gerät wegen der Nutzung seiner Software mit dem US-Verteidigungsministerium aneinander. Das Unternehmen wolle klare Grenzen durchsetzen und lehne den Einsatz seiner Künstlichen Intelligenz für Massenüberwachung in den USA sowie für vollständig autonome Waffen ab, schrieb Mitgründer und Chef Dario Amodei in einem Blogeintrag. Das Pentagon habe daraufhin gedroht, Anthropic als Risiko für die Lieferkette einzustufen – mit potenziell gravierenden Folgen für das US-Geschäft der Firma.

Mit Amodeis Veröffentlichung bestätigten sich zuvor kursierende Medienberichte über den Konflikt. Aus dem Verteidigungsministerium folgte umgehend scharfe Kritik. Der ranghohe Beamte Emil Michael warf Amodei auf der Plattform X einen "Gott-Komplex" vor und unterstellte ihm, das US-Militär persönlich kontrollieren zu wollen.

Streit um Einsatzgrenzen von KI

Das Pentagon strebe eine Zusammenarbeit nur mit Anbietern an, die "jedem legalen Einsatz" ihrer KI zustimmten. Anthropic hält die geforderten Einschränkungen dagegen für notwendig.

Amodei warnte, KI könne verstreute Online-Daten automatisiert zu detaillierten Persönlichkeitsprofilen zusammenführen. Zudem sei die Technologie noch nicht zuverlässig genug für den Einsatz in komplett autonomen Waffensystemen. "Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Krieger und Zivilisten in Gefahr bringt", schrieb er.

Nach Angaben Amodeis habe das Verteidigungsministerium zudem angedroht, ein Gesetz aus dem Jahr 1950 – den Defense Production Act – zu nutzen, um Anthropic zur Aufgabe der Beschränkungen zu zwingen. Ein Ministeriumssprecher teilte mit, das Pentagon habe dem Unternehmen eine Frist bis zum späten Freitagnachmittag (27. Februar) in Washington gesetzt, um allen legalen Nutzungen der Software zuzustimmen.

Auch in den News:

- Anzeige -

Militärische Nutzung und politische Spannungen

Ein möglicher Ausschluss von Anthropic aus US-Militärsystemen könnte laut Beobachter:innen Raum für andere Anbieter schaffen, darunter xAI von Tech-Milliardär Elon Musk. Ob diese jedoch vergleichbare Fähigkeiten liefern könnten, bleibt offen.

Öffentlich wurden die Spannungen, nachdem bekannt wurde, dass Anthropic-Software bei einer US-Militäroperation zur Gefangennahme des venezolanischen Machthabers Nicolás Maduro eingesetzt worden war. Details zur konkreten Verwendung wurden nicht genannt. Anthropic betonte damals, jede Nutzung – auch durch Regierungen – müsse den eigenen Richtlinien entsprechen.

Amodei warnt seit Längerem vor Risiken der KI und setzt sich für strengere Leitplanken ein. Damit geriet er auch in Konflikt mit dem KI-Beauftragten des Weißen Hauses, David Sacks. US-Verteidigungsminister Pete Hegseth hatte im Januar erklärt, das Pentagon wolle keine KI-Modelle einsetzen, "die es nicht erlauben, Kriege zu führen".

Dieser Beitrag wurde mit Unterstützung von Künstlicher Intelligenz (KI) erstellt und vor der Veröffentlichung von der Redaktion sorgfältig geprüft.

Verwendete Quellen:

Nachrichtenagentur dpa