Pentagon naciska na Anthropic. Spór o AI w wojsku

Sekretarz obrony USA Pete Hegseth spotyka się dziś z szefem firmy Anthropic w związku z narastającym konfliktem dotyczącym zasad użycia sztucznej inteligencji przez wojsko. Stawką jest kontrakt wart 200 mln dolarów oraz ryzyko wpisania spółki na rządową „czarną listę”.

Do spotkania Pete'a Hegsetha z Dario Amodeim, prezesem Anthropic, dochodzi w momencie eskalacji sporu pomiędzy firmą technologiczną a Pentagon. Amerykański resort obrony grozi spółce sankcjami, które mogłyby skutkować faktycznym wykluczeniem jej technologii z rządowych zamówień.

Sednem konfliktu są ograniczenia (tzw. guardrails), jakie Anthropic nałożył na swoje modele AI. Pentagon, który ma z firmą kontrakt o wartości 200 mln dolarów, oczekuje zniesienia tych barier, tak aby wojsko mogło wykorzystywać systemy sztucznej inteligencji do „wszelkich zgodnych z prawem zastosowań”.

Anthropic nie zgadza się jednak na dwa konkretne scenariusze użycia AI. Chodzi o broń sterowaną przez sztuczną inteligencję oraz masową inwigilację obywateli USA. Według spółki technologia nie jest obecnie wystarczająco niezawodna, by samodzielnie obsługiwać systemy uzbrojenia, a jednocześnie brakuje przepisów, które regulowałyby użycie AI w szeroko zakrojonej kontroli społeczeństwa.

Negocjacje między stronami trwają od kilku miesięcy, jednak w ostatnich tygodniach konflikt stał się publiczny. W zeszłym tygodniu serwis Axios poinformował, że Hegseth rozważa zerwanie umowy i uznanie Anthropic za „ryzyko dla łańcucha dostaw”. Taka kwalifikacja, zwykle stosowana wobec firm powiązanych z Rosją lub Chinami, mogłaby poważnie uderzyć w działalność spółki.

Rzecznik Anthropic przekazał, że firma prowadzi z administracją „konstruktywne rozmowy w dobrej wierze” i podkreślił jej zaangażowanie we wspieranie bezpieczeństwa narodowego USA. Spółka przypomina, że jako pierwsza udostępniła swoje modele AI w sieciach niejawnych oraz tworzyła dedykowane rozwiązania dla klientów z sektora bezpieczeństwa. Spotkanie potwierdził urzędnik Pentagonu w rozmowie z CNN, nie ujawniając szczegółów.

Anthropic od lat buduje wizerunek firmy szczególnie skoncentrowanej na bezpieczeństwie sztucznej inteligencji. Założyli ją byli pracownicy OpenAI, którzy odeszli w proteście przeciwko kierunkowi rozwoju i tempu prac nad AI. Niedawno spółka ogłosiła także przekazanie 20 mln dolarów na rzecz organizacji politycznej prowadzącej kampanię na rzecz zaostrzenia regulacji dotyczących sztucznej inteligencji.

Źródło: CNN