KE wszczęła postępowanie wobec platformy X. Zbada generowanie rozbieranych zdjęć przez Groka

Komisja Europejska poinformowała o wszczęciu postępowania przeciwko platformie X. Chodzi o chatbota AI Grok, należącego do firmy, który na prośbę użytkowników generował rozbierane przeróbki zdjęć postronnych osób, w tym dzieci.

Wśród zarzutów postawionych przez KE pojawiła się kwestia braku oszacowania zagrożeń, jakie mogą wyniknąć przez nową funkcjonalność Groka. W komunikacie prasowym podkreślono, że wprowadzona przez platformę X funkcja od 2024 r. nie pojawiła się w żadnym raporcie ryzyka przedstawionym przez firmę.

Ponadto platforma X, należąca do miliardera Elona Muska, nie podjęła działań mających ograniczyć pojawiające się ryzyka, czym, w ocenie komisji, miała naruszyć unijne przepisy o usługach cyfrowych (DSA). Kolejnym problemem dla medium społecznościowego będzie wytłumaczenie się z rozpowszechniania nielegalnych treści, w tym zmanipulowanych obrazów o charakterze seksualnym, które mogły przedstawiać seksualne wykorzystywanie dzieci.

Każdy użytkownik platformy mógł poprosić Groka o przerobienie dowolnego zdjęcia na takie, na którym osoba z fotografii zamiast ubrań miała na sobie np. bikini. Po tym, jak ta funkcjonalność była mocno krytykowana w mediach, została ona ograniczona dla profili płacących abonament.

Rzecznik ds. cyfrowych KE Thomas Reginer podkreślił, że ukrycie przez platformę funkcji Groka dla użytkowników nie płacących subskrypcji jest nie wystarczające. – Powiedzmy to bardzo wyraźnie, dostęp do treści przedstawiających seksualizowanie dzieci to nie jest przywilej premium. Na takie treści w ogóle nie ma w Europie miejsca – powiedział urzędnik cytowany przez PAP.

Odpowiednie postępowanie przeciw platformie ogłosił również brytyjski rząd. Z kolei Indonezja oraz Malezja w odpowiedzi na rozbierane zdjęcia generowane przez Groka zdecydowały się czasowo zablokować możliwość korzystania z chatbota.

Postępowanie ws. Groka rozszerzy już trwające od grudnia 2023 r. śledztwo wobec platformy X. KE przygląda się systemowi rekomendacji treści, jaki jest stosowany przez medium. Chodzi o to, na jakiej podstawie konkretne wpisu lub odpowiedzi chatbota są podpowiadane użytkownikom.