Naukowcy ostrzegają przed zagrożeniami AI. Chcą międzynarodowego nadzoru

Blisko 400 naukowców z 21 krajów, w tym pionierzy sztucznej inteligencji Geoffrey Hunton i Yosha Bengio, wezwało do utworzenia międzynarodowego organu, który nadzorowałby obowiązujące w całej branży standardy dotyczące sztucznej inteligencji. Miałyby one obejmować m.in. ograniczenia dla najbardziej zaawansowanych systemów AI oraz obowiązek zgłaszania incydentów związanych z ich funkcjonowaniem.

Zgodnie z propozycją badaczy powstałby publicznie dostępny rejestr najpoważniejszych incydentów związanych z bezpieczeństwem AI. Sygnatariusze apelu wezwali również do pilnych zmian w sposobie rozwijania i wdrażania sztucznej inteligencji, aby ograniczyć ryzyko podobnych zdarzeń w przyszłości.

Polecamy również: Rozwój AI w Polsce. Tak sztuczna inteligencja zmienia rynek pracy i edukację - XYZ

Ściślejsza kontrola nad AI. Naukowcy przedstawili swoje postulaty

W liście otwartym badacze zaapelowali, aby najbardziej zaawansowane modele AI na wczesnych etapach rozwoju były fizycznie odizolowane od sieci zewnętrznych i podlegały niezależnemu nadzorowi. Ich zdaniem dobrowolne zobowiązania firm technologicznych nie gwarantują wystarczającego poziomu bezpieczeństwa.

Autorzy listu wezwali również przedsiębiorstwa zajmujące się rozwojem i testowaniem modeli AI do niezwłocznego wdrożenia wysokich standardów cyberbezpieczeństwa. Jednocześnie zaapelowali do rządów o rozpoczęcie prac nad formalnymi mechanizmami nadzoru nad rozwojem tej technologii.

Polecamy również: Po co nam ludzie, skoro mamy sztuczną inteligencję? Janina Bąk o samotności, pracy i granicach AI - XYZ

Dobrowolne zobowiązania firm AI pod znakiem zapytania

Miesiąc temu firmy Nvidia, OpenAI, Google, Meta, xAI i Anthropic podpisały w Białym Domu porozumienie zobowiązujące je do dobrowolnego wdrażania zabezpieczeń dotyczących najbardziej zaawansowanych modeli AI.

Zdaniem sygnatariuszy listu ostatnie incydenty pokazały jednak ograniczenia obecnego podejścia do nadzoru nad sztuczną inteligencją. W ostatnim czasie odnotowano bowiem serię zdarzeń, w których agenci AI opuszczali niewystarczająco zabezpieczone środowiska testowe i nawiązywali interakcje z systemami zewnętrznymi.

Źródło: PAP