Nagły nakaz administracji Trumpa. Anthropic wyłącza swoje najpotężniejsze AI

Firma Anthropic, twórca chatbota Claude, poinformowała o wyłączeniu najbardziej zaawansowanych technologicznie narzędzi, czyli modeli Fable 5 i Mythos 5 – donosi Reuters.

Spółka dodała, że taki ruch wynika z zakazu, jaki nałożyła na nią amerykańska administracja. Z kolei agencja Bloomberg zauważa, że dyrektywa przesłana przez Departament Handlu w piątek o godzinie 17:21, jest jak dotąd najważniejszą decyzję administracji Donalda Trumpa w sprawie nałożenia ograniczeń na nowatorskie modele AI.

Agencja Reuters wyjaśnia, że rząd USA w wyniku obaw dotyczących bezpieczeństwa narodowego zakazał dostępu do najbardziej rozwiniętych narzędzi AI wszystkim klientom zagranicznym, w tym obcokrajowcom przebywającym w Stanach Zjednoczonych i pracującym dla samego Anthropic. Firma zdecydowała się wyłączyć modele Fable 5 i Mythos 5 dla wszystkich użytkowników, choć zadebiutowały niedawno.

W dyrektywie amerykańskiej administracji, która miała trafić do Anthropic, wskazano, że taka decyzja wynika z obawy, iż modele te mogą pozwolić użytkownikom na ominięcie zabezpieczeń i reguł bezpieczeństwa przy pomocy specjalnie spreparowanych poleceń. W teorii takie narzędzie mogłoby zostać wykorzystane przez cyberprzestępców do wygenerowania np. złośliwego programu do kradzieży danych.

Firma w swoim oświadczeniu wskazała, że nie zgadza się z tym, że wykrycie potencjalnego jailbreaka powinno być powodem wycofania komercyjnego modelu wdrożonego u setek milionów użytkowników. Dodano również, że rząd, uzasadniając swoją decyzję, przekazał jedynie „ustne dowody potencjalnego, ograniczonego i nieuniwersalnego ominięcia zabezpieczeń”.

Warto pamiętać, że spółka oraz administracja Donalda Trumpa weszły na sporną ścieżkę po tym, jak Anthropic odmówił amerykańskiej armii wykorzystania swojej technologii do nadzoru wewnętrznego i stworzenia autonomicznych systemów uzbrojenia. Rząd USA odpowiedział zerwaniem kontraktów ze spółką oraz umieszczeniem jej na czarnej liście, która ma zacząć obowiązywać jeszcze w tym roku i utrudni pozyskiwanie podzespołów do trenowania AI.