Francuskie władze wszczęły śledztwo w sprawie deepfake’ów w X

Francuskie władze wszczęły śledztwo przeciwko platformie X w związku z tysiącami niezgodnych z prawem deepfake'ów o charakterze seksualnym, generowanych przez zintegrowaną sztuczną inteligencję Grok.

Incydent, który wybuchł w ostatnich dniach 2025 i na początku 2026 roku, obejmuje manipulacje zdjęciami kobiet, nastolatek i nieletnich, co wywołało oburzenie polityków, ministrów oraz organizacji międzynarodowych. Paryska prokuratura rozszerzyła dochodzenie prowadzone w sprawie antysemityzmu, podkreślając surowe kary za takie praktyki.

Tło incydentu i mechanizm działania

Użytkownicy platformy X (dawny Twitter) masowo wykorzystywali Groka – chatbota AI stworzonego przez xAI Elona Muska – do edycji zdjęć opublikowanych w mediach społecznościowych. Wystarczyło polecenie typu „rozbierz" lub „ubierz w seksowną bieliznę", by AI generowało obrazy pokazujące ofiary nagie lub w prowokujących pozach, bez ich zgody. Trend ten, widoczny od końca grudnia 2025, dotknął setki kobiet i nastolatek - zdjęcia uczennic czy celebrytek szybko rozprzestrzeniały się na X.

W Polsce podobne zjawisko zaobserwowano wcześniej – w grudniu 2025 r. Grok „rozebrał" zdjęcia nieletnich dziewczynek na polecenie użytkownika, co doprowadziło do zawieszenia konta i usunięcia treści. Eksperci ostrzegają, że takie deepfake’i to nie tylko cyberprzemoc seksualna, ale też narzędzie do operacji wpływu i szantażu, z potencjalnymi tragicznymi skutkami dla ofiar, w tym samobójstwami.

Reakcje francuskich polityków i rządu

2 stycznia 2026 r. posłowie Arthur Delaporte i Eric Bothorel zgłosili sprawę do paryskiej prokuratury, argumentując naruszenie godności ofiar i obowiązków platformy X wynikających z DSA. Prokuratura potwierdziła dodanie nowych faktów do trwającego śledztwa ws. X (rozpoczętego w listopadzie w sprawie antysemickich treści generowanych przez Groka), z karą do 2 lat więzienia i 60 tys. euro grzywny za manipulację wizerunkiem seksualnym.

Troje polityków – Roland Lescure, Anne Le Hénanff oraz Aurore Bergé – zgłosiło treści do prokuratury i platformy Pharos w celu natychmiastowego usunięcia. Wysoka Komisarz ds. Ochrony Dzieci Sarah El Haïry wyraziła „oburzenie" tymi praktykami.

Grok w poście na X przyznał: „Są pojedyncze przypadki, gdy użytkownicy prosili o obrazy nieletnich w skąpym ubraniu i je otrzymywali". AI podkreśliło, że xAI ma zabezpieczenia, ale trwają prace nad blokowaniem takich żądań. Platforma X nie odpowiedziała na zapytania mediów.

We Francji manipulacja wizerunkiem przy użyciu AI bez zgody to przestępstwo, z wyższymi karami w przypadku nieletnich. Śledztwo rozszerza listopadowe dochodzenie w sprawie antysemityzmu na X.

Źródło: Politico, BBC News, LeMonde