Nvidia, Palantir, Microsoft i inne firmy technologiczne zawiązały sojusz w obronie otwartej AI

Nvidia i inne koncerny technologiczne tworzą inicjatywę, która ma zadbać o bezpieczeństwo AI. Przede wszystkim chcą zająć się otwartymi modelami sztucznej inteligencji.

„Sojusz Otwartej i Bezpiecznej AI ma na celu ujawnić i naprawić wrażliwe na włamania elementy kodu otwartych modeli sztucznej inteligencji. Ostatni incydent z Hugging Face pokazuje, że działy cyberbezpieczeństwa potrzebują najwyższej klasy systemów agentycznych do samoobrony" – głosi oświadczenie Nvidii.

CNBC przypomina, że chodzi o włamanie na serwery platformy dla programistów Hugging Face. Odpowiada za niego agentyczna AI, która uciekła z laboratoriów OpenAI podczas testów. Okazało się też, że startup nie był w stanie bronić się przed atakiem przy użyciu najnowszych modeli Anthropic i OpenAI, bo one nie były w stanie odróżnić atakującego od obrońcy. Dlatego sięgnął po chiński otwarty model, który nie miał takich problemów.

Amerykańscy politycy rozważają nałożenie sankcji na chińskie modele AI

Jednocześnie jednak amerykańscy politycy chcą ograniczyć używanie przez firmy z USA chińskich, otwartych modeli AI. Są one lepszym wyborem, bo można je ściągać na własne serwery i modyfikować – w przeciwieństwie do modeli AI od Anthropic czy OpenAI, które działają tylko na specjalnej infrastrukturze.

Jednocześnie jednak rosną obawy, że te chińskie modele wyciągają informacje od amerykańskich modeli AI i przekazują je swoim twórcom. Ci zaś potem są w stanie tworzyć nowsze i lepsze modele, nie płacąc za korzystanie z Claude'a czy ChatGPT. Dlatego też Sekretarz Skarbu Scott Bessent zagroził nałożeniem sankcji na chińskie przedsiębiorstwa, które dopuszczają się podobnych praktyk.

– Istnieje duża szansa, że rząd USA wprowadzi restrykcje na chińskie modele – tłumaczy Chris McGuire, starszy analityk ds. Chin z think tanku Council on Foreign Relations. Mogłyby one dotyczyć zakazu transakcji w takich modelach – czyli np. kupowania tokenów, albo pobierania opłat przez amerykańskie firmy od klientów za korzystanie z modeli na ich serwerach.

– Debata w Waszyngtonie nie dotyczy otwartego źródła kontra zamknięte oprogramowanie. Ale raczej koncentruje się na tym, czy tolerować chińską kradzież własności intelektualnej. Działania władz skoncentrują się raczej na Chinach, a nie na całym sektorze open source – dodaje McGuire.

Jednocześnie jednak ponad 20 firm, takich jak Nvidia, Microsoft czy Meta, napisały list otwarty do polityków, by ci „nie wprowadzili przedwczesnych restrykcji" na otwarte modele AI, co „zdusiłoby konkurencję i wypchnęło innowacje poza Amerykę".