Anthropic untersagte den Einsatz seiner KI für autonome Waffensysteme und flächendeckende Überwachung – damit geriet die Firma mit dem Pentagon aneinander. Nun hat ein Gericht dem Unternehmen Recht gegeben.
Die KI-Firma Anthropic hat im Ringen mit dem Pentagon über die militärische Verwendung von Künstlicher Intelligenz einen bedeutenden Zwischenerfolg erzielt. Eine kalifornische Richterin entschied, die Einstufung von Anthropic als Lieferketten-Risiko für die nationale Sicherheit durch das US-Verteidigungsministerium sei nicht begründet und müsse rückgängig gemacht werden.
Auslöser war, dass Anthropic darauf bestand, seine KI-Modelle nicht für die massenhafte Überwachung von US-Bürgern und nicht in autonomen Waffensystemen einzusetzen. Das Verteidigungsministerium pochte hingegen auf Rechte für „jede rechtmäßige Nutzung“ und betonte, kein Unternehmen könne der Regierung Vorschriften machen.
Folgen weiterhin offen
Richterin Rita Lin kam zu dem Schluss, die Einstufung als Lieferketten-Risiko habe vor allem dazu gedient, ein Exempel zu statuieren, nachdem Anthropic die Regierung kritisiert hatte – und beruhe nicht auf einer fundierten Sorge, das Unternehmen könnte sein KI-Modell tatsächlich sabotieren. Bereits im Frühjahr hatte sie die Umsetzung der Regierungsentscheidung gestoppt.
Eine solche Einstufung zieht weitreichende Konsequenzen über den militärischen Bereich hinaus nach sich. So ordnete Präsident Donald Trump an, dass alle US-Bundesbehörden die Nutzung von Anthropic-Technologie beenden. Zudem erklärte Verteidigungsminister Pete Hegseth, Unternehmen müssten ihre Geschäftsbeziehungen zu Anthropic abbrechen, wenn sie das US-Militär beliefern wollten.
Pentagon weiterhin nicht zur Nutzung von Anthropic-KI verpflichtet
Zunächst blieb offen, ob die Regierung gegen die Entscheidung der Richterin Berufung einlegen wird. Es ist äußerst ungewöhnlich, dass eine US-Firma als Lieferketten-Risiko eingestuft wird.
Zugleich stellte die Richterin klar, dass das Verteidigungsministerium nicht auf Software von Anthropic angewiesen sei und stattdessen rechtssicher auf Lösungen anderer KI-Anbieter ausweichen könne. Das Pentagon hat die Nutzung von Anthropic-KI bereits reduziert und plant, sie bis Ende September vollständig einzustellen.
Anthropic: KI noch nicht ausreichend verlässlich
Anthropic-Chef Dario Amodei warnt, Künstliche Intelligenz ermögliche es, verstreute persönliche Daten automatisiert zu einem detaillierten Lebensbild zusammenzuführen. Gleichzeitig sei KI derzeit nicht verlässlich genug, um in vollständig autonomen Waffensystemen eingesetzt zu werden. „Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Kämpfer und Zivilisten in Gefahr bringt“, schrieb Amodei in einem Blogbeitrag.
