UOKiK testuje narzędzie AI do wykrywania manipulacji w e-commerce

Urząd Ochrony Konkurencji i Konsumentów stworzył narzędzie oparte na sztucznej inteligencji, które ma pomagać w wykrywaniu manipulacyjnych technik sprzedażowych w internecie. System jest obecnie w fazie testów i został opracowany w ramach projektu finansowanego ze środków Unii Europejskiej.

UOKiK poinformował w poniedziałek, że opracował narzędzie AI do wykrywania tzw. dark patterns, czyli technik manipulacyjnych stosowanych na stronach sklepów internetowych. System ma wspierać urzędników w analizie serwisów z sektora e-commerce i identyfikowaniu elementów interfejsu, które mogą wprowadzać konsumentów w błąd lub wywierać na nich presję zakupową.

Projekt pod nazwą „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji” rozpoczął się w 2023 r. i jest finansowany z funduszy UE. Równolegle do prac nad narzędziem powstają także wytyczne dotyczące wykorzystania sztucznej inteligencji w działaniach UOKiK.

Analizowane przez system praktyki obejmują m.in. liczniki odliczające czas promocji, komunikaty sugerujące szybkie wyczerpanie produktu czy mechanizmy utrudniające rezygnację z subskrypcji. Urząd wskazuje również na manipulacyjne projektowanie interfejsów, takie jak wyraźne przyciski „Kup” lub „Zamów” przy ledwo widocznej opcji rezygnacji, a także nazwy opcji zakupowych, które utrudniają zrozumienie, na co dokładnie zgadza się użytkownik. Do tej kategorii zaliczają się również darmowe okresy próbne, które automatycznie przechodzą w płatne subskrypcje.

„Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów” – podkreślił prezes UOKiK Tomasz Chróstny. Zwrócił uwagę, że firmy z sektora e-commerce już dziś wykorzystują zaawansowane technologie, w tym sztuczną inteligencję, do analizowania zachowań i słabości konsumentów przy projektowaniu interfejsów sprzedażowych.

W pierwszym etapie projektu zespół UOKiK przeanalizował ponad 300 stron internetowych, głównie sklepów internetowych, aby zidentyfikować najczęściej stosowane techniki manipulacyjne. Na tej podstawie przygotowano pierwsze dane treningowe dla systemu AI. Urząd przeanalizował także skargi konsumentów, aby określić sektory, w których takie praktyki pojawiają się najczęściej.

Eksperci dodatkowo przeanalizowali kod źródłowy 100 stron internetowych, identyfikując fragmenty odpowiedzialne za manipulacyjne elementy interfejsu. Dane te posłużyły do trenowania algorytmu. Równolegle przeprowadzono eksperymenty neuromarketingowe, w których badano reakcje użytkowników na bodźce marketingowe przy użyciu eye trackingu, facial trackingu oraz elektroencefalografii (EEG).

UOKiK testował także możliwości modelu GPT-4 w wykrywaniu dark patterns na podstawie opracowanych wytycznych. Wyniki pilotażu pozwoliły stworzyć narzędzie analizujące zarówno układ stron internetowych, jak i ich kod źródłowy oraz reakcje użytkowników na elementy interfejsu.

Nowe narzędzie zostanie zaprezentowane 17 marca w Bydgoszczy podczas konferencji „Protecting Consumers in the Digital Age: AI and Dark Pattern Detection”.