Masowy rabunek i upokorzenie człowieka? Pisarz proponuje stworzenie „sanktuariów wolnych od AI"

Katarzyna Stańko, XYZ: Określa pan generatywną sztuczną inteligencję jako „powolną truciznę”. Dlaczego?

Abel Quentin: Używam tego określenia, ponieważ duża część szkód powodowanych przez generatywną AI pozostaje ukryta. Są trudne do zmierzenia i często ujawniają się dopiero po czasie. To koszty, które zapłacimy później. Nie widzimy od razu poznawczych, społecznych ani ekologicznych konsekwencji tych technologii.

Często myślę o tlenku węgla – gazie, który zabija, choć nie daje się zauważyć. Generatywna sztuczna inteligencja działa podobnie. Nie chodzi o to, by twierdzić, że jest wyłącznie zagrożeniem. Problem polega na tym, że jej skutki kumulują się powoli, po cichu i w dużej mierze poza naszą świadomością.

Koszty ekologiczne również w dużej mierze pozostają niewidoczne dla użytkownika. Nie oznacza to jednak, że nie są realne. Warto przeczytać raport ONZ opublikowany kilka dni temu, na temat środowiskowych kosztów boomu na sztuczną inteligencję. Zużycie energii, wody i metali ziem rzadkich – konsekwencje są dramatyczne.

Czy żyjemy w historycznym momencie?

Tak, bez najmniejszych wątpliwości. Stoimy wobec rewolucji antropologicznej, którą można porównać do wynalezienia druku, a nawet pisma.

Od kilku stuleci żyjemy otoczeni maszynami. Nowością jest to, że dziś rozmawiamy z nimi w naszym własnym języku. Dawniej informatyk musiał nauczyć się języka maszyny. Dziś maszyna mówi naszym językiem.

Ta zmiana jest zawrotna. Choć pewne konsekwencje są już widoczne, innych wciąż nie sposób przewidzieć. Dlatego należy mówić o tym z pewną pokorą – ta technologia kryje w sobie ogromny obszar nieznanego.

BIO

Kim jest Abel Quentin?

Abel Quentin, ur. w 1985 r., jest francuskim pisarzem i adwokatem specjalizującym się w prawie karnym. Pisze pod pseudonimem inspirowanym postacią Alberta Quentina z powieści „Un singe en hiver” Antoine’a Blondina.

Pracował jako adwokat karny w Paryżu. Występował w głośnych procesach, m.in. dotyczących zamachów z 13 listopada 2015 r. we Francji. W 2025 r. był także jednym z obrońców oskarżonego o atak terrorystyczny z 25 września 2020 r. przed dawną siedzibą tygodnika „Charlie Hebdo”. Doświadczenia zawodowe wyraźnie wpływają na jego twórczość. Bohaterowie jego książek często są uwikłani w konflikty ideologiczne, społeczne i polityczne, a autor analizuje mechanizmy radykalizacji, przemocy i napięć kulturowych.

Jego debiutancka powieść „Sœur” („Siostra”, 2019) opowiada historię nastolatki podlegającej islamistycznej radykalizacji. Książka trafiła na pierwszą listę nominacji do Nagrody Goncourtów i zdobyła belgijską Prix Première 2020.

Szeroki rozgłos przyniosła mu powieść „Le Voyant d’Étampes” („Jasnowidz z Étampes”, 2021). Jej bohaterem jest emerytowany profesor Jean Roscoff, który po publikacji książki o zapomnianym afroamerykańskim poecie staje się celem kampanii oskarżeń związanych z polityką tożsamościową i kulturą unieważniania. Powieść zdobyła Prix de Flore 2021 i była nominowana do Nagrody Goncourtów oraz Nagrody Renaudot.

W „Cabane” („Chata”, 2024) Quentin sięga po historię naukowców związanych z raportem „Granice wzrostu” z 1972 r. Opisuje badaczy, którzy przewidzieli kryzys ekologiczny, ale zostali zignorowani przez społeczeństwa i elity polityczne.

„Sanctuaires” („Sanktuaria”, 2026) to esej będący ostrą krytyką generatywnej sztucznej inteligencji. Autor określa AI jako „powolną truciznę” i postuluje tworzenie „sanktuariów” – przestrzeni wolnych od generatywnej AI, takich jak szkoły, redakcje czy wydawnictwa.

Abel Quentin należy do najczęściej dyskutowanych francuskich pisarzy swojego pokolenia. Jego książki nie są klasycznymi thrillerami ani powieściami obyczajowymi. To raczej literackie analizy współczesnych sporów ideowych: islamizmu i radykalizacji, polityki tożsamościowej, kultury unieważniania, kryzysu demokracji liberalnej, katastrofy klimatycznej oraz wpływu sztucznej inteligencji na kulturę i człowieka.

W krytyce literackiej bywa przedstawiany jako autor zaangażowany społecznie, próbujący opisywać wielkie przemiany cywilizacyjne współczesnej Europy.

Abel Quentin nie był dotąd tłumaczony na język polski. Nie ma też zapowiedzianych polskich wydań jego książek.

Twierdzi pan, że najbiedniejsi, mniej wykształceni, czyli tzw. klasy ludowe, mogą stać się pierwszymi ofiarami generatywnej sztucznej inteligencji. Dlaczego?

Dostrzegam tu analogię do mediów społecznościowych. Przez ostatnie dwadzieścia lat zmieniły one naszą relację ze światem. Wszyscy odczuwają ich skutki, ale biedniejsi bardziej niż inni. Wiemy na przykład, że we Francji dzieci rodziców bez wyższego wykształcenia spędzają średnio znacznie więcej czasu przed ekranami niż dzieci osób wykształconych. Tymczasem generatywna sztuczna inteligencja jest potężnym wzmacniaczem istniejących trendów. Jednym z najważniejszych trendów naszych czasów jest gwałtowny wzrost nierówności.

W swojej książce demaskuję bardzo rozpowszechnione kłamstwo: przekonanie, że sztuczna inteligencja będzie „wielkim wyrównywaczem szans”, służącym najsłabszym. Uważam, że będzie dokładnie odwrotnie. Prawdziwa równość polega na zapewnieniu dostępu do wiedzy. Nie na odbieraniu wiedzy i jej wartości po to, by stworzyć pozory równości!

W świecie, w którym dyplomy, egzaminy i kompetencje tracą na wartości, kapitał kulturowy, uprzywilejowane sieci kontaktów i wzajemne uznanie elit będą bardziej decydujące niż kiedykolwiek wcześniej. W takich warunkach największymi przegranymi będą ci, którzy mają najmniej.

Czy sztuczna inteligencja zagraża naszej ludzkiej wyjątkowości?

Tak. Jesteśmy świadkami ostatecznego etapu outsourcingu ludzkich zdolności. Po zastąpieniu części działań fizycznych maszyny zaczynają przejmować aktywności intelektualne. Pierwszą konsekwencją jest pewna forma upokorzenia, boleśnie odczuwana przez wiele zawodów, które miały pełne prawo być dumne ze swojego fachu – np. przez tłumaczy.

To nowe upokorzenie następuje po tych, które przyniosły odkrycia Kopernika, Darwina i Freuda: nie jesteśmy centrum świata, pochodzimy od małp i w dużej mierze nie kontrolujemy własnego wnętrza. Jednak to upokorzenie jest inne, ponieważ nie polega na odkryciu istniejącego wcześniej faktu, lecz na tym, że człowiek jest pokonany przez maszyny stworzone przez siebie.

Wielu ludzi cieszy się z tej sytuacji: „Teraz każdy może napisać powieść, stworzyć obraz, stworzyć dzieło”. Ja jednak nie wierzę, że można odczuwać prawdziwe poczucie autorstwa wobec czegoś, czego nie stworzyło się samemu. To właśnie z pełnego autorstwa wynikała samoocena, która nie jest próżnością. Jest związana z pracą, wysiłkiem i twórczością. Człowiek, który tworzy dzieło głównie dzięki sztucznej inteligencji, nigdy nie będzie czerpał z niego takiego samego poczucia spełnienia.

Czym są „sanktuaria”, o których pisze pan w swojej książce?

Sanktuaria to chronione przestrzenie, w których człowiek zachowuje swoją autonomię wobec generatywnej sztucznej inteligencji. Nie możemy biernie czekać, aż zadziałają ustawodawcy. Musimy sami tworzyć miejsca, instytucje lub momenty życia wolne od martwego języka algorytmów.

Osobiście praktykuję bojkot tych technologii. Nie korzystam z nich. Uważam, że nie można niewinnie uczestniczyć w przemyśle opartym na wizji świata całkowicie podporządkowanej efektywności, na okaleczonej wizji człowieka oraz na dewastacji naszego środowiska życia. Jest on również oparty na masowym rabunku danych, co stanowi jego grzech pierworodny.

Rabunek jest wpisany w naturę tej branży: gdyby dane wykorzystywane do trenowania modeli trzeba było objąć opłatami z tytułu praw autorskich, dostawcy generatywnej sztucznej inteligencji dla masowego odbiorcy nie mogliby przetrwać.

Sanktuaria mogą przybierać bardzo różne formy: szkoły, redakcje, wydawnictwa, konkursy czy egzaminy. Nie chodzi o budowanie „galijskiej wioski”, lecz o świadomą dumę z tego, co w jest w 100 proc. ludzkie.

Czy szkoła powinna stać się takim sanktuarium?

Zdecydowanie tak. Szkoła musi pozostać miejscem, w którym człowiek uczy się myśleć, pisać, zapamiętywać i rozumować. Jeśli zgodzimy się na to, aby wszystkie te zadania zostały przekazane maszynom, wyrzekniemy się samej istoty edukacji.

Nie zgadzam się z poglądem, że jest już za późno. Historia ludzkości bywa historią nieoczekiwanych zwrotów. Szkoła, która zakazuje smartfonów, stawia na egzaminy pisemne przeprowadzane na miejscu i ogranicza korzystanie ze sztucznej inteligencji, staje się sanktuarium. To nie jest utopia. To wybór polityczny.

Jakie są inne główne zagrożenia związane z generatywną sztuczną inteligencją?

Jest ich wiele. Oczywiście istnieje ryzyko masowego bezrobocia, zadłużenia poznawczego oraz stopniowego zaniku niektórych kompetencji intelektualnych. Jednak poza tymi mierzalnymi zagrożeniami istnieją również głębsze straty: utrata autonomii, zanik więzi społecznych oraz osłabienie zdolności do samodzielnego działania.

W dużej mierze opieram się na pracach filozofa krytycznego wobec techniki, Ivana Illicha – austriackiego myśliciela powiązanego ze środowiskami lewicowego anarchizmu i liberalnego socjalizmu. Bronił on idei narzędzi przyjaznych człowiekowi, czyli takich technologii, które wzmacniają ludzką autonomię, zamiast ją ograniczać.

Nie jestem technofobem. Niektóre formy sztucznej inteligencji umożliwiają niezwykłe postępy, zwłaszcza w badaniach medycznych. Jednak generatywna sztuczna inteligencja dostępna dla szerokiej publiczności rodzi zupełnie inne pytania.

Czy istnieje również zagrożenie polityczne?

Oczywiście. Wkraczamy w epokę przemysłowej produkcji fałszu. Media społecznościowe już wcześniej osłabiły debatę publiczną. Generatywna sztuczna inteligencja jeszcze bardziej przyspiesza ten proces.

Gdy coraz łatwiej produkuje się fałszywe obrazy, głosy i nagrania, a treści sztucznie wygenerowane stają się nieodróżnialne od autentycznych, zagrożona jest nie tylko prawda. Zagrożona staje się sama możliwość istnienia wspólnej przestrzeni społecznej. Każdy zaczyna żyć we własnej rzeczywistości informacyjnej. W dłuższej perspektywie doprowadzi to do rozpadu tkanki społecznej.

Krytykuje pan również współczesny kult efektywności.

Ponieważ bardzo często jest to efektywność pozorna. Technologia, która przynosi krótkoterminowe korzyści, ale niszczy warunki naszego długoterminowego przetrwania, nie jest efektywna. Działa przeciwko nam.

Inspiruję się tutaj pracami biologa Oliviera Hamanta, który przeciwstawia wydajność odporności. W coraz bardziej niestabilnym świecie systemy odporne przetrwają lepiej niż systemy maksymalnie wydajne.

Odporność oznacza zgodę na to, by czasami być mniej efektywnym tu i teraz, ale dzięki temu zachować zdolność adaptacji w długiej perspektywie.

W swojej książce krytykuje pan nie tylko technologię, lecz także tych, którzy ją rozwijają. Jest pan szczególnie surowy wobec takich postaci jak Sam Altman, Peter Thiel, Elon Musk czy Arthur Mensch.

Uczestniczą w budowie świata, który uważam za głęboko niepożądany. Świata, w którym relacje międzyludzkie, autonomia, krytyczne myślenie, a nawet wolna wola są zagrożone z każdej strony. U niektórych z nich uderza mnie nieodpowiedzialność proporcjonalna do ich potęgi.

Weźmy Sama Altmana. Kiedy opisuje swoje produkty, często przyjmuje niemal mesjanistyczny ton. Gdy jednak pyta się go o los milionów pracowników, którzy mogą stracić pracę, jego wypowiedzi nagle stają się bardzo niejasne. Mówi, że jest „ciekaw, jak ludzie się dostosują”. Jakby obserwował ludzkość z zewnątrz. Tymczasem sam przypisuje sobie historyczną rolę. Ogromnej władzy powinna odpowiadać ogromna odpowiedzialność. Ja widzę raczej coś odwrotnego: gigantyczną potęgę połączoną z niepokojącą nieodpowiedzialnością.

Nie chodzi jednak o wskazywanie kilku miliarderów jako jedynych winnych wszystkich problemów. Wszyscy ponosimy część odpowiedzialności, gdy przyjmujemy te technologie. Istnieją jednak decyzje przemysłowe i polityczne, za które odpowiadają właśnie ci aktorzy.

A Elon Musk?

Elon Musk bardziej otwarcie niż inni przyznaje się do dystopijnego wymiaru swojego projektu. Przywołuję m.in. jego wypowiedzi, w których wyobraża sobie przyszłość, w której roboty stopniowo zastępują bliskich w otoczeniu osób starszych. Przedstawia to jako postęp, podczas gdy moim zdaniem jest to radykalne zubożenie ludzkiego doświadczenia.

Problem nie jest wyłącznie technologiczny. Jest antropologiczny. Jakim rodzajem ludzkości chcemy się stać? Ludzkością otoczoną artefaktami, w której mowa staje się jedynie symulacją?

Wspomina pan również Arthura Menscha i europejskich przedsiębiorców zajmujących się sztuczną inteligencją.

Retoryka europejskich firm technologicznych jest często bardziej wyważona i łatwiejsza do zaakceptowania przez europejską opinię publiczną, ale opiera się na bardzo podobnych założeniach. Przedstawia się nam generatywną sztuczną inteligencję jako nieunikniony horyzont i historyczną konieczność. Każdy sprzeciw jest natychmiast uznawany za przejaw zacofania lub ciemnoty.

Tymczasem modele te opierają się na masowym wykorzystywaniu danych wytworzonych przez pisarzy, artystów, dziennikarzy i badaczy. Gdy Arthur Mensch odrzuca realną ochronę praw autorskich, zdejmuje maskę.

Czytając pana książkę „Sanktuaria”, można pomyśleć o Erichu Frommie i jego teorii „ucieczki od wolności”. Czy ludzie dobrowolnie rezygnują dziś ze swojej autonomii?

To bardzo trafne odniesienie. Ludzie mogą być skłonni porzucać wolność, gdy staje się ona zbyt wymagająca. Bycie wolnym wywołuje zawrót głowy. Generatywna sztuczna inteligencja obiecuje dokładnie coś przeciwnego: nie pisać, nie szukać, nie myśleć, nie wątpić. Oferuje stałe przekazywanie odpowiedzialności komuś innemu. Istnieje więc pewna forma dobrowolnego zniewolenia. Stopniowo rezygnujemy z części naszych zdolności, ponieważ wygodniej jest je delegować.

Jednak to wyobcowanie nie jest wyłącznie wyborem jednostki. Jest również organizowane systemowo. Jeśli jutro usługi publiczne, edukacja czy świat pracy staną się zależne od tych maszyn, ci, którzy będą chcieli się bez nich obyć, mogą zostać zmarginalizowani. Dlatego opowiadam się za prawem do cyfrowego sprzeciwu sumienia. Chciałbym podkreślić, że wolne społeczeństwo nie jest społeczeństwem pozbawionym technologii. To społeczeństwo zdolne do wybierania technologii, które rzeczywiście mu służą.

Filozof Ivan Illich rozróżniał na przykład narzędzia „przyjazne człowiekowi”, które pozostają pod jego kontrolą i służą jego rozwojowi, oraz narzędzia alienujące. Z kolei Jacques Ellul, francuski teolog i filozof techniki, sformułował fundamentalną intuicję dotyczącą autonomii techniki. Pokazywał, że technika rozwija własną logikę, niezależnie od ludzkich potrzeb.

Mamy tendencję do tego, by wierzyć, że to my kontrolujemy technologie. Tymczasem bardzo często to one stopniowo przekształcają nasze zachowania, instytucje, a nawet wyobraźnię. Dokładnie tak dzieje się obecnie z generatywną sztuczną inteligencją.

„Nie wierzymy w to, co wiemy” – mówił filozof Jean-Pierre Dupuy. W odniesieniu do generatywnej sztucznej inteligencji wiemy już bardzo wiele. Znamy ekologiczne konsekwencje niektórych technologii. Dysponujemy badaniami dotyczącymi ich wpływu na procesy poznawcze. Wiemy, że sprzyjają koncentracji władzy. A jednak nadal postępujemy tak, jakby ta wiedza nie istniała. Dokładnie to samo działo się przez dziesięciolecia w przypadku kryzysu klimatycznego. Dlatego problem nie dotyczy już wyłącznie informacji. Stał się kwestią odwagi politycznej, moralnej i zbiorowej. Wiemy już bardzo dużo. Pozostaje jeszcze uwierzyć w to, co wiemy.

Mimo wszystko zachowuje pan nadzieję?

Tak, bo odrzucam przekonanie o nieuchronności. Każdy kolejny rok sprawia, że sytuacja staje się trudniejsza, ale przebudzenie i reakcja będą korzystne niezależnie od tego, czy nastąpią natychmiast, czy dopiero później.

Pańskie książki są czytane w wielu krajach europejskich. Jakie przesłanie chciałby pan skierować do polskich czytelników, którzy również obserwują rozwój sztucznej inteligencji i przemiany współczesnego świata?

Myślę, że stoimy przed tymi samymi wyzwaniami. Francja i Polska mają odmienne historie i różne wrażliwości polityczne, ale dziś mierzymy się z podobnymi pytaniami: o miejsce technologii w naszym życiu, zachowanie krytycznego myślenia, ochronę młodego pokolenia, wzrost nierówności i osłabienie debaty demokratycznej. Mam poczucie, że Polska – z oczywistych względów historycznych – przez długi czas spoglądała na Stany Zjednoczone jak na naturalnego sojusznika. Było to całkowicie zrozumiałe.

Żyjemy jednak w okresie głębokich przemian, w którym Europejczycy muszą nauczyć się w większym stopniu polegać na sobie. To również dlatego moja książka kończy się refleksją nad Europą. Nie zawsze byłem entuzjastą integracji europejskiej. Bywałem wobec niej krytyczny. Jednak ostatnie wydarzenia przekonały mnie o jednej rzeczy: w świecie zdominowanym przez układy sił, technologiczne imperia i logikę potęgi, Europa pozostaje naszą najlepszą przestrzenią ochrony.

Często przedstawia się Europę jako słabą dlatego, że reguluje. Ja uważam dokładnie odwrotnie. Regulowanie oznacza czasem odmowę doprowadzenia potęgi do jej najbardziej destrukcyjnych konsekwencji. Jest to forma politycznej dojrzałości. Polskim czytelnikom chciałbym więc powiedzieć: nie wstydźmy się bronić pewnych wartości, które bywają przedstawiane jako naiwne lub przestarzałe.

Wolność myślenia, autonomia intelektualna, kultura, edukacja, poszukiwanie prawdy, wspólnotowość w najgłębszym znaczeniu tego słowa – wszystkie te rzeczy mają nieocenioną wartość. W czasach, gdy tak wiele narracji wychwala szybkość, moc i automatyzację, ważniejsze niż kiedykolwiek staje się bronienie tego, co czyni nas ludźmi.

Główne wnioski

1. Abel Quentin kwestionuje przekonanie, że sztuczna inteligencja będzie „wielkim wyrównywaczem szans”. Jego zdaniem może stać się raczej wzmacniaczem istniejących nierówności. We Francji dzieci rodziców bez wyższego wykształcenia spędzają średnio znacznie więcej czasu przed ekranami niż dzieci osób wykształconych. Generatywna AI może pogłębić ten mechanizm. Prawdziwa równość polega bowiem na zapewnieniu dostępu do wiedzy, a nie na odbieraniu jej wartości w imię pozornej równości.
2. Pisarz ostrzega, że oddawanie AI kolejnych czynności fizycznych i intelektualnych może prowadzić do masowego bezrobocia, osłabienia kompetencji poznawczych młodzieży i dorosłych, wzrostu nierówności, „ucieczki od wolności” i zaniku krytycznego myślenia. Quentin zwraca też uwagę na koszty ekologiczne: ogromne zapotrzebowanie technologii AI na energię, wodę i metale.
3. „Sanktuaria” to chronione przestrzenie, w których człowiek zachowuje autonomię wobec generatywnej sztucznej inteligencji. Zdaniem Quentina musimy sami tworzyć miejsca, instytucje i momenty życia wolne od martwego języka algorytmów. Mogą to być szkoły, redakcje, wydawnictwa, konkursy lub egzaminy. Nie chodzi o budowanie „galijskiej wioski”, lecz o świadomą obronę tego, co w 100 proc. ludzkie.