Chiny biorą się za chatboty AI. To pierwsze takie regulacje na świecie

Chiny zamierzają, jako pierwsze na świecie, wprowadzić regulacje dotyczące chatbotów AI. Pekin chce w szczególności ograniczyć ich wpływ na ludzkie emocje w taki sposób, by nie mogły doprowadzić użytkowników do samobójstw.

Firmy z Chin gwałtownie rozwijają swoje chatboty, zachowujące się jak prawdziwi ludzie. Dlatego władze, jak dodaje CNBC, chcą zmusić ich twórców do ograniczenia ewentualnego szkodliwego wpływu na ludzi. Mają więc – jak mówi portalowi Winston Ma z Uniwersytetu Nowojorskiego – zadbać nie tylko o bezpieczne treści, ale i o „bezpieczeństwo emocjonalne”.

Nowe ograniczenia, które na razie są na etapie konsultacji publicznych (potrwają one do 25 stycznia), m.in. zadbają o ograniczenie wpływu chatbotów AI na nieletnich. Dlatego aplikacje AI muszą być w stanie dokładnie zweryfikować wiek użytkownika. A jeśli nie są w stanie tego zrobić, powinny traktować tych, którzy z nimi „rozmawiają”, jak nieletnich. Nieletni muszą mieć też zgodę opiekunów prawnych na korzystanie z AI do tworzenia więzi emocjonalnych. Limitowany będzie również czas korzystania z tego typu aplikacji.

Nowe prawo dotyczy tylko czatbotów działających w Chinach

Według nowego prawa chatboty nie będą mogły tworzyć treści, które zachęcają do samobójstwa lub zrobienia sobie krzywdy, manipulować emocjami w sposób, który szkodzi zdrowiu psychicznemu użytkowników, ani stosować wobec nich „przemocy słownej”. Nie wolno im też będzie generować treści dotyczących hazardu czy przemocy.

Jeśli zaś użytkownik zasugeruje popełnienie samobójstwa, firma odpowiadająca za AI musi natychmiast zastąpić chatbota człowiekiem i powiadomić bliskich użytkownika o tym, co napisał.

O ile władze w nowych przepisach chcą chronić najmłodszych przed chatbotami, o tyle wręcz zachęcają do tworzenia oprogramowania AI, które będzie towarzyszem dla osób starszych. CNBC dodaje też, że nowe zasady mają dotyczyć wyłącznie AI, skierowanej na rynek chiński.

Plany władz pojawiły się wkrótce po tym, jak dwa najważniejsze startupy zajmujące się chatbotami – Z.ai i Minimax – złożyły w grudniu wnioski o wejście na giełdę w Hongkongu. Z aplikacji Xingye, w której można „rozmawiać” z wirtualnymi postaciami Minimaxu, korzysta aż 20 milionów użytkowników miesięcznie. Z kolei usługi Z.ai trafiły na ponad 80 milionów urządzeń – od samochodów po smartfony.