OpenAI walczy z rosyjskimi wpływami. Wykorzystywano czat do promocji prorosyjskich narracji

Firma OpenAI zablokowała sieć kont powiązanych z Rosją. Były one wykorzystywane w operacji wpływu promującej fikcyjny think tank – Międzynarodowy Instytut Burke’a (IBI). Użytkownicy wykorzystywali czat m.in. do tworzenia treści, które miały uwiarygadniać działalność tej organizacji i promować prorosyjskie narracje.

Osoby stojące za kampanią wydawały polecenia czatowi, który na ich podstawie tworzył komentarze publikowane w mediach społecznościowych. Większość treści powstawała po angielsku, a sztuczna inteligencja miała usuwać błędy językowe mogące wskazywać na rosyjskojęzyczne pochodzenie ich autorów. Większość komentarzy promowała fikcyjny instytut.

Polecamy również: Dezinformacja wygrywa. Gdzie szukamy newsów, gdy przychodzi kryzys? - XYZ

Jak działał fikcyjny rosyjski think tank?

Fałszywy think tank miał publikować na swojej stronie internetowej publikacje naukowe, które w rzeczywistości były plagiatami, kopiami innych prac naukowych. Ponadto publikowano raporty dotyczące poszczególnych państw i ich suwerenności. Według OpenAI była to nowa, wcześniej niespotykana kampania wpływu.

Jej charakterystycznym elementem było stworzenie i promowanie przez rzekomy think tank tzw. indeksu suwerenności, służącego do przedstawiania Rosji w pozytywnym świetle i dyskredytowania państw zachodnich.

Oprócz treści dotyczących IBI osoby stojące za kampanią tworzyły również posty w języku niemieckim publikowane na kanale Telegram „Lahme Ente”. Posty regularnie krytykowały Ukrainę, UE i niemiecki rząd oraz opowiadały się za poprawą stosunków z Rosją.

Jednak wpływ kampanii był mocno ograniczony. Posty w mediach społecznościowych nie miały wielu odsłon, a stronę obserwowało niewiele osób. Większą popularnością cieszyły się kanały powiązane z kampanią na Telegramie, które miały zazwyczaj od 10 do 20 tys. obserwujących.

Rosyjska narracja pełną parą

Choć ChatGPT posłużył jedynie do tworzenia pojedynczych wpisów w mediach społecznościowych, kierowały one użytkowników do organizacji sprawiającej wrażenie wiarygodnej. Instytucja ta przedstawiała rzekomych ekspertów, publikowała przerobione prace naukowe oraz własny, rzekomy indeks ryzyka. Jak podkreśliło OpenAI, pokazuje to, że sztuczna inteligencja może być wykorzystywana jako narzędzie wspierające szersze działania mające na celu wywieranie wpływu na odbiorców.

Przypadek IBI to jeden z przykładów wykorzystania sztucznej inteligencji do rozpowszechniania dezinformacji. Z raportu NewsGuard, platformy oceniającej wiarygodność serwisów informacyjnych, wynika, że rosyjska sieć „Pravda” rozprzestrzenia treści propagandowe, które następnie trafiają do odpowiedzi generowanych przez zachodnie chatboty.

Badanie wykazało, że w 33 proc. przypadków chatboty powielały fałszywe narracje pochodzące z tych serwisów. Sieć publikuje materiały w dziesiątkach języków i kieruje je na wiele rynków, zwiększając ich zasięg oraz szanse na wykorzystanie przez modele sztucznej inteligencji.

Polecamy również: „Zapomniana" spółka i domniemane powiązania z Rosją pogrzebały polski fintech roku. Ujawniamy kulisy - XYZ

Źródło: PAP