Nie tylko Indonezja. Malezja też zablokowała Groka za tworzenie pornograficznych i pedofilskich deepfake'ów

Malezja poszła w ślady Indonezji i zdecydowała się czasowo zablokować dostęp do AI Elona Muska – Groka. To efekt tego, że chatbot Grok pozwala użytkownikom na tworzenie pornograficznych deepfake’ów oraz umożliwia generowanie materiałów pedofilskich.

Malezja wprowadziła zakaz zaledwie dzień po podobnym, ogłoszonym przez Indonezję. Ma on obowiązywać do czasu, aż chatbot AI Grok zostanie wyposażony w mechanizmy, które nie pozwolą na tworzenie i publikowanie przez użytkowników rozbieranych deepfake’ów oraz na generowanie pedofilskich zdjęć.

Malezyjska Komisja Komunikacji i Multimediów uznała bowiem – pisze CNBC – że platforma X zbyt słabo zareagowała na „działania swojego narzędzia AI Grok”. „Dlatego nakładamy restrykcje jako działania proporcjonalne i prewencyjne do czasu stworzenia odpowiednich ram prawnych dla Groka” – czytamy w oświadczeniu. „Dostęp do AI pozostaje ograniczony, dopóki w życie nie wejdą odpowiednie środki bezpieczeństwa, które ochronią kobiety i dzieci” – dodaje lokalny nadzór mediów.

Malezyjczyków nie przekonały bowiem działania firmy xAI (twórcy Groka), która zapowiedziała, że tworzenie zdjęć za pomocą promptów i przerabianie istniejących fotografii będzie dostępne tylko dla płatnych użytkowników AI. Nie pomogły też tłumaczenia Elona Muska, że użytkownicy, którzy generują pornograficzne deepfake’i i zdjęcia pedofilskie, będą odpowiadać przed prawem tak, jakby sami wrzucili te materiały do sieci.

Indonezja i Malezja to kraje, które zareagowały najostrzej na to, jak działa Grok. Kraje UE, Wielka Brytania, Indie czy USA do tej pory wszczęły jedynie śledztwa ws. AI Elona Muska. Nadzór sieci w Wielkiej Brytanii – Internet Watch Foundation – odkrył już wiele pedofilskich zdjęć dzieci w wieku od 11 do 13 lat, stworzonych za pomocą Groka, premier Keith Starmer rozważa więc całkowitą blokadę portalu X na Wyspach. Z kolei część amerykańskich senatorów domaga się, by Google i Apple usunęły aplikację firmy xAI ze swoich sklepów na urządzeniach mobilnych. Francuski resort sprawiedliwości powiadomił natomiast prokuraturę o możliwości popełnienia przestępstwa przez platformę X i twórców Groka.