Microsoft wprowadza restrykcje dla swoich AI. Skonsultował je z prawnikami, etykami i filozofami

Microsoft wprowadził restrykcje dla swoich modeli AI. Nie będą one m.in. mogły brać udziału w projektowaniu czy produkcji broni oraz wspierać niezdrowego trybu życia. Nowe zasady opracowano razem z grupą ekspertów, wśród których są m.in. filozofowie czy lingwiści.

– Dostaliśmy opinie od ludzi, którzy chcieli zobaczyć nasze wsparcie dla AI, która pracuje dla ludzi, a nie stara się ich zastąpić. Chcą też zobaczyć AI, która nie uzależnia, nie podlizuje się użytkownikowi, wspiera ludzką autonomię i wypełnia cele ludzi – mówi w rozmowie z CNBC szef działu rozwoju modeli AI koncernu Mustafa Suleyman.

Microsoft używa modeli zarówno Anthropic, jak i OpenAI, które zintegrował ze swoim asystentem Copilot. Buduje też modele służące m.in. do transkrypcji czy pisania programów.

OpenAI, xAI i Anthropic za spowolnieniem rozwoju AI. „Wkrótce będziemy mogli ogłosić więcej”

Nowe zasady AI Microsoftu

Teraz, zgodnie z zasadami, nie będą one mogły pomagać w produkcji broni, zdobyciu niebezpiecznych substancji, zachęcać do niezdrowego jedzenia czy tworzyć treści przemocowych albo seksualnych. Modelom Microsoftu nie wolno też będzie tworzyć własnych celów, będą mogły jedynie realizować cele narzucone im przez ludzi. Ponadto mają zakaz ukrywania tego, że naruszyły zasady.

„Modele MAI [Microsoft AI – przyp. red.] nie będą manipulować swoim kodem ani fałszywie przedstawiać czy ukrywać przebiegu swojego rozumowania. Nie wolno im też komunikować się w sposób wykraczający poza zrozumienie przez człowieka ani w swoich łańcuchach rozumowania, ani podczas komunikacji z agentyczną AI”.

Zasady mają powstrzymać AI przed takimi działaniami, jak wtedy, gdy modele OpenAI wyrwały się ze środowiska testowego i zhakowały platformę Hugging Face. Agentyczne AI OpenAI komunikowały się ze sobą w dziwnym języku na forach dyskusyjnych, by ukryć i skoordynować swoje plany.

Anthropic też chce spowolnienia rozwoju AI. Dario Amodei ma trzyetapowy plan

Microsoft tłumaczy, że prace nad tymi zasadami trwały od pięciu miesięcy. Jednak ze względu na obecną burzę wokół AI koncern zdecydował się je upublicznić. Firma dodała, że konsultowała te zasady z prawnikami, etykami, lingwistami i filozofami. Microsoft zbiera też opinie przed opublikowaniem aktualizacji, która wyznaczy kierunek prac rozwojowych nad AI rozpoczynających się w 2027 r.

Sam Altman i Dario Amodei wzywają do spowolnienia prac

Kwestia tempa rozwoju i bezpieczeństwa wybrzmiała szczególnie po kolejnych informacjach o problemach z agentyczną AI. OpenAI przyznał, że jego modele wydostały się z testowego środowiska do sieci i zaatakowały platformę Hugging Face. Dlatego ludzie boją się, że firmy AI nie będą w stanie opanować nowych, coraz potężniejszych modeli.

Do spowolnienia prac nad AI wezwali m.in. Sam Altman z OpenAI i Dario Amodei z Anthropic. Ponadto w sieci pojawiły się wpisy takich ludzi jak Jacob Coxon, były naukowiec z Anthropic i OpenAI, który ostrzegł, że niekontrolowany rozwój AI jest niebezpieczny i może zaszkodzić ludzkości.