Instruktorka BHP w AI. „Jestem w stanie zakolegować się z niebiałkową inteligencją” (WYWIAD)

Katarzyna Mokrzycka, XYZ: Lubi pani serial „Czarne lustro”? Da się traktować pomysły z filmu jak listę spraw do załatwienia? Tu trzeba naprawić, tu ograniczyć, tu napisać kodeks, znormalizować…

Dr hab. Dota Szymborska filozofka etyczka AI, WSB Merito: Oglądam i czasem się boję. Z talerza nowych technologii doświadczamy w tym serialu właściwie samych trujących rzeczy.

Nie oglądałam wszystkich odcinków, ale kilka mocno utkwiło mi w pamięci. Jestem pełna uznania dla twórców, bo potrafili w zalewie możliwych pomysłów wybrać te, które najmocniej będą rezonowały ze społeczeństwem. Jeden z odcinków, który dobrze pamiętam, dotyczył scoringu, czyli oceny postępowania obywatela. W Chinach taki system właściwie działa, tam to już nie jest fikcja.

W Europie na szczęście zakaz scoringu znalazł się w AI Act jako jeden z zakazanych systemów sztucznej inteligencji. Nie twierdzę, że twórcy prawa sugerowali się serialem, ale myślę, że takie seriale wywołują jednak jakąś refleksję o nowych technologiach.

Prawo wyegzekwuje etykę

Jest pani zwolenniczką czy przeciwniczką ustawy o AI i, generalnie, regulowania obszaru rozwoju AI?

Jestem wielką zwolenniczką ustawy o AI. Wiem, że niektórzy mówią, że bardzo spowolni rozwój AI. Ja jednak uważam, że trochę wolniejszy rozwój sztucznej inteligencji, która będzie się stosować do praw Asimova, nie wyhamuje rozwoju świata i wszystkim wyjdzie na zdrowie. Prawne rozwiązania ogromnie mnie cieszą. Ja się wprawdzie zajmuję nakładką etyczną, a nie prawem, ale w naszym świecie prawo jest potrzebne, żeby wyegzekwować etykę.

Jak przeglądam, co się dzieje w Chinach – a właściwie przeglądam to, co Chiny chcą nam pokazać, jeśli chodzi o to, co się u nich dzieje – to widzę ogromny dysonans. Z jednej strony mamy te fascynujące humanoidalne roboty, które robią zsynchronizowane fikołki w rytm bębnów. Z drugiej strony czytam polityki AI, które są doskonałe albo bliskie doskonałości, tyle że są tylko na papierze. Nie czuję tu kontroli.

Uważam, że trochę wolniejszy rozwój sztucznej inteligencji, która będzie się stosować do praw Asimova, nie wyhamuje rozwoju świata i wszystkim wyjdzie na zdrowie. Prawne rozwiązania ogromnie mnie cieszą.

Etyka w zastosowaniu sztucznej inteligencji powinna mieć pierwszeństwo przed wolnością rozwoju i konkurencji?

Rozumiem oczywiście biznes, który narzeka, że Europa chce nakładać ograniczenia prawne na AI, podczas gdy Ameryka i Chiny rozwijają te technologie bez ograniczeń. Ja jednak uważam, że unijne regulacje są proludzkie.

Najpierw regulacje, później innowacje

Powinno się zaczekać z wdrażaniem AI na regulacje czy wdrażać, ale jednocześnie starać się ją uregulować?

Czekać na regulacje. Nie mam wątpliwości. Jeśli dziś otworzymy wrota na oścież, to później tego chaosu nie da się już posprzątać.

Widzi pani czasem coś, np. w filmie, w rolce w internecie, i myśli sobie, że to idzie za szybko?

Pamięta pani kreskówkę o Jetsonach? Kilkadziesiąt lat temu wyobrażaliśmy sobie przyszłość współdzieloną z robotami, ale na razie nie mamy jeszcze żadnej Rosie w domu.

Mówimy o tym, ile oczekujemy od AI i jak szybko ona zmieni nasze życie, ale to się dzieje znacznie wolniej i często zmienia tory. Osiem lat temu, zaczynając pracę nad doktoratem o pojazdach autonomicznych, liczyłam bardzo naiwnie, że w ciągu kilku lat ta technologia stanie się powszechna. I co? I tak się nie stało.

Dziś zgadzam się z profesorem Draganem, który mówi, że tylko osoby głupie mówią w szczegółach, jaka będzie przyszłość. Ja bardzo nie chcę być głupia, więc już nie prognozuję (śmiech).

Traktuje pani swoje obowiązki badaczki zajmującej się nowymi technologiami i sztuczną inteligencją jak pracę, czy jak misję?

O nie, nie, nie! Nie jestem ewangelistką sztucznej inteligencji! „Misja” brzmi trochę tak oszołomsko, przynajmniej dla mnie. A to jest praca, która mnie bardzo cieszy.

"Trzeba zadbać o bezpieczeństwo stosowania technologii"

Czy „etyka nowych technologii” to nowość, znak naszych czasów, czy kontynuacja procesów rozpoczętych wraz z rewolucją przemysłową? Przecież gdy na drogach pojawiły się samochody, to też powstał kodeks zasad. Z każdą technologią i z każdym rozwiązaniem technicznym było bardzo podobnie.

Najpierw przed automobilem szedł człowiek i machał flagą, żeby było wiadomo, że jedzie nowe. Potem rzeczywiście pojawiło się prawo drogowe, czyli umówiliśmy się na pewne zasady w tym obszarze. W przypadku AI jest to jednak bardziej złożone, dlatego że mówimy o wynalazkach niematerialnych, które trudniej jest zamknąć w wąskich ramach. Mam na myśli generatywną, a może potem także generalną sztuczną inteligencję.

Daron Acemoglu, mój ulubiony noblista, pisze, że historycznie wynalazki nigdy nie przynosiły poprawy losu wszystkim. Na początku korzystała z nich tylko ograniczona grupa społeczna – właściciel danego rozwiązania, fabrykant lub po prostu bardziej zamożna część społeczeństwa. Dzisiaj to są Altman, Bezos, Musk – coraz mniejsza część społeczeństwa kontroluje to, co ma znaczenie dla coraz większej grupy. A rozmawiamy o czymś, czego nie widać, a co może radykalnie zmieniać ważne aspekty globalne, jak np. rynek finansowy. Dlatego etyka AI zagląda znacznie głębiej „pod podszewkę” niż kodeksy wcześniejszych technologii. Po 2022 r. nagle przybyło też etyków nowych technologii (śmiech). I w sumie dobrze, bo trzeba zadbać o bezpieczeństwo stosowania technologii.

Coraz mniejsza część społeczeństwa kontroluje to, co ma znaczenie dla coraz większej grupy. A rozmawiamy o czymś, czego nie widać, a co może radykalnie zmieniać ważne aspekty globalne, jak np. rynek finansowy. Dlatego etyka AI zagląda znacznie głębiej „pod podszewkę” niż kodeksy wcześniejszych technologii.

Naukowe BHP

Powiedziałaby pani o sobie: instruktor BHP w AI?

Hmm… Tak! Mogłabym tak powiedzieć. I gdyby ilustrację do tego miała wygenerować AI, to pewnie miałabym na sobie biały fartuch, okulary ochronne i jeszcze żółty kask!

A zupełnie poważnie, to wydawało mi się kiedyś, że będzie dużo większa rynkowa potrzeba tworzenia kodeksów etycznych. A na razie tak się nie dzieje. Będziemy do tego dojrzewać jako świat, ale trochę też trzeba to wymuszać.

Etyka jest nauką i to jest bardzo ważne. Etyki uczymy na uniwersytecie. Ja nie jestem jak ten kot walący w klawiaturę i piszący cokolwiek. Ja używam w mojej pracy metod naukowych: krytyki, redukcji, eksperymentów etycznych. Definiuję i analizuję pojęcia. Nie działam i nie piszę na podstawie intuicji. Nie mówię, że wydaje mi się, że wiem, co powinno się zrobić w sprawie sztucznej inteligencji. Ja to badam. Ale bardzo mnie cieszy to, że jestem panią od dobra – zajmuję się tym, co i jak zrobić, żeby nam było w życiu lepiej. Najbardziej mnie interesuje AI generatywna i generalna, a to w skali wszechświata jest bardzo cienki plaster wiedzy.

Czy ludziom powinno się wyjaśniać, jak działa i jak nie działa AI? Kiedyś protestowaliśmy przeciwko wykorzystywaniu naszych zdjęć i danych na Facebooku. Cambridge Analytica to było zło. A dziś ludzie wrzucają do czatu zdjęcia dzieci, dane medyczne, bazę klientów i umowy o pracę, i nie mają nawet refleksji, co się z tymi informacjami dzieje. Z drugiej strony – nie trzeba wiedzieć, jak działa korbowód, żeby jeździć autem. Czy trzeba więc wiedzieć, co „pod maską” ma AI, żeby nie dać się wykorzystać?

Bardzo bym chciała, żeby ludzie to rozumieli. Badania sprzed dwóch lat pokazywały, że błędnie interpretujemy już samo to, co jest sztuczną inteligencją, a co nią nie jest. Bardzo denerwuje mnie mylenie algorytmu i modelu językowego. Wiem, dlaczego tak się dzieje – bo wszystko z AI lepiej się sprzedaje. Pralka w domu u mojego syna wykorzystuje AI, jak zapewnia producent. Pierze tak samo jak moja, bez AI. Nie podejrzewam tej nowoczesnej pralki o zawiłą sieć neuronową. Za to była niedawno taka historia, że po aktualizacji oprogramowania okazało się, że producent zainstalował w niej wszystko oprócz funkcji „pierz”! (śmiech)

Jak działa etyka: rekomendacje, szkolenia, uświadamianie

Dlaczego to ważne, żeby rozumieć różnice?

Zawsze z tego samego powodu: ciemne społeczeństwo jest idealne do manipulacji. Dzieci, które właśnie teraz się rodzą, będą dorastały w świecie, w którym od początku będą obcować z AI. Nawet nie muszą jeszcze wyraźnie mówić, żeby porozumiewać się z chatem, bo coraz doskonalsze modele językowe będą w stanie zinterpretować sobie nawet taki niewyraźny dziecięcy komunikat. Dobrze więc chyba, żeby ich rodzice wiedzieli, jak to działa. Ale też mam świadomość, że nikt nie wie, co się kryje w tzw. black box [to wewnętrzny proces decyzyjny sztucznej inteligencji, złożony na tyle, że nawet jej twórcy nie są w stanie w pełni wyjaśnić, jak algorytm doszedł do jakiegoś wniosku czy decyzji – red.].

Zadaniem decydentów jest tworzenie zabezpieczeń. Przepisy o AI są niczym innym niż ten człowiek z flagą, który kiedyś szedł przed autem. Jednym z takich obszarów, którym się zajmujemy, jest na przykład przygotowanie rekomendacji, jak w sposób transparentny administracja publiczna ma używać AI.

Ponadto tworzę zespół multidyscyplinarny, który będzie wspierał budowę nakładki etycznej na polski model językowy. Mamy lingwistę, psychologa, biolożkę, etyków, filozofów i innych specjalistów, którzy wspólnie mają tworzyć zasady etyczne dla modelu Bielika. Ten kodeks etyczny ma być stosowany. Nie chcemy, żeby skończył się gdzieś w szafie jak zasady BHP.

Przeczytaj: Spadła liczba zgłoszeń wynalazków z Polski, ale patentów dostaliśmy więcej. Chiny deklasują większość UE

Przyjeciel wesołego tworu niebiałkowego

Mówi się: etyka AI. Ale czy w gruncie rzeczy nie mówimy o zachowaniu ludzi, którzy używają AI? Bo AI to narzędzie, a czy młotek może być nieetyczny albo etyczny?

O nie, proszę! Tylko nie młotek i nie nóż!

Młotek jest może prostackim przykładem, ale czy nie oddaje charakteru narzędzia, jakim chyba wciąż jest AI?

Dziś pracuję z ludźmi. Proponuję kodeks etyczny ludziom, czyli głównie właścicielom firm oraz osobom zarządzającym w biznesie. To jest BHP AI.

Ale wierzę – i na razie to nie jest jeszcze popularny pogląd – że będę też w przyszłości współpracować z nieludzką sztuczną inteligencją, czyli z inteligencją niebiałkową. W 2019 r. napisałam o tym artykuł, Wszyscy w nauce patrzyli na mnie bardzo dziwnie. Dziś też patrzą dziwnie, ale już mniej (śmiech). Myślę, że jestem w stanie zakolegować się z niebiałkowym tworem. Jeżeli byłam w stanie zakolegować się z kotem, który jest nieprzewidywalny, to poradzę sobie z AI!

Poważnie, chciałabym podjąć współpracę – i z przyjemnością to zrobię – z niebiałkowymi kontrahentami. Będzie na to rynek. Proszę sobie wyobrazić, że będzie możliwość skorzystania z niebiałkowego modelu, który ma swój własny kodeks etyczny. Taki model nie zrobi mi krzywdy i będzie ze mną po partnersku współpracował. Nie wrzuci mi suszarki do wanny, nie skasuje dysku twardego i wesprze mnie, gdy będzie mi smutno.

Wierzę, że będę też w przyszłości współpracować z inteligencją niebiałkową. Jeżeli byłam w stanie zakolegować się z kotem, który jest nieprzewidywalny, to poradzę sobie z AI.

Człowiek ogłupia AI

Jak odległa jest to przyszłość?

Nie mam zielonego pojęcia. Ta sztuczna inteligencja, którą dziś znamy, a która wtargnęła na salony jak buldożer, była trenowana na tym, co stworzyła ludzkość. Teraz natomiast modele będą trenowane na tym, co jest w internecie. A w internecie mamy papkę i niską jakość rzeczy wygenerowanych przez modele. Czyli teraz modele są trenowane na rzeczach ludzkich i nieludzkich. I to wcale nie znaczy, że te modele będą dużo lepsze. One są od nas inteligentniejsze, jeśli mierzyć je IQ matematycznym, ale nie wiadomo, czy nie zgłupieją, będąc trenowane na tym, czym zapełnia się internet. Ludzie proszą na przykład o wierszyki o zajączkach na Wielkanoc. Te wierszyki stają się potem danymi treningowymi dla AI.

Wszystko więc zależy od tego, jak będziemy trenować modele językowe. Przez to, że one halucynują, potrafią być niedokładne i przede wszystkim są niewyjaśnialne, być może zwrócimy się w stronę budowania małych modeli językowych do bardzo wąskich specjalizacji. Ja na przykład będę miała mały model do dopracowywania przepisu na hydrację ciasta na pizzę i drugi do rozmowy o ontologii kantowskiej. Ich podstawową zaletą będzie to, że będą wyjaśnialne – będę mogła prześledzić proces generowania informacji.

Modele są nas inteligentniejsze, jeśli mierzyć je IQ matematycznym, ale nie wiadomo czy nie zgłupieją, będąc wytrenowane na tym, czym zapełnia się internet.  Ludzie proszą o wierszyki o zajączkach na Wielkanoc. Te wierszyki stają się danymi treningowymi dla AI.

„Wierzę we współpracę z maszynami”. Czy maszyny też?

Wierzę we współpracę z maszynami. Tak po prostu. Troszkę się niepokoję, bo jako ludzie staliśmy dotąd najwyżej na drabinie ewolucji. Teraz przyjmujemy, że może się pojawić coś równego człowiekowi lub nawet coś, co go przewyższy. Dla uspokojenia myślę sobie, że to mogą być współprace, które będą wzbogacać zarówno mnie, jak i tego niebiałkowego towarzysza albo towarzyszkę.

Czy tak się zacznie posthumanizm? To niebiałkowa inteligencja będzie początkiem ery posthumanizmu? Czy już generatywna sztuczna inteligencja jest początkiem nowej epoki?

Cudowne pytanie! Mamy humanizm, antyhumanizm, posthumanizm i transhumanizm. Ale jeszcze nie jesteśmy całkiem postczłowieczy. Jeszcze bliżej mi do mówienia nie o przekraczaniu, tylko o uzupełnianiu. Jeżeli chodzi o relację człowieka i AI, to bardziej wskazałabym na etap transhumanizmu. Jednocześnie – pisał o tym Nick Bostrom – niekoniecznie musimy się w ogóle dowiedzieć, że istnieje generalna sztuczna inteligencja, ponieważ ona może tego nie chcieć. To może śmiesznie brzmi w ustach naukowca, ale to nie jest teoria spiskowa. To po prostu jedna z wielu możliwości.

Liberté, Égalité, Fraternité!

Ale jak ona może nie chcieć, jeśli to nadal jest sztuczna inteligencja, z podkreśleniem: sztuczna? To nie jest tak, że człowiek zawsze będzie miał nad nią jakąś władzę albo kontrolę, możliwość kierowania nią?

Ja bym nie chciała, żeby człowiek zawsze miał kontrolę nad AI. Mamy do sztucznej inteligencji takie podejście jak starożytni do niewolników. Nie płacimy, wymagamy.

Ja bym nie chciała, żeby człowiek zawsze miał kontrolę nad AI. Mamy do sztucznej inteligencji takie podejście jak starożytni do niewolników. Nie płacimy, wymagamy.

Ale w starożytności niewolnicy byli żywymi ludźmi.

Nie wtedy. Wtedy byli niewolnikami – to była odrębna kategoria. Nikt niewolnika nie uznawał za człowieka. Teraz w tej kategorii mamy AI. AI, zrób to, AI, sprawdź tamto. Bez czułości i doceniania. A ja akurat wolę z AI grzecznie rozmawiać, nawet jeśli w ten sposób zużyję trochę więcej prądu.

Na wszelki wypadek, gdyby jednak przejęła kontrolę nad wszystkim?

Nie! Ze zwykłej uprzejmości. Nie krzyczę na kota i nie krzyczę też na modele językowe. Naprawdę wierzę w kooperację i współpracę z AI.

Zachowuje się pani humanitarnie.

Też nie. Nie chcę tak tego określać, bo to mnie stawia wyżej, ponad AI: „Och, jaka ta Szymborska dobra”. A ja tylko powoli buduję partnerstwo.

Czy można zbudować partnerstwo z czymś – bo nie ośmielę się powiedzieć: z kimś – co nie ma świadomości? Chyba że przyjmuje pani już, że AI staje się świadoma, a człowiek nie powinien mieć nad nią kontroli?

A co powiemy o świadomości u zwierząt? Bo czym jest świadomość? Czy jest przyporządkowana tylko ludziom? Umówiliśmy się już, że nie, bo wiemy, że zwierzęta mogą na przykład cierpieć. Wcześniej tak nie uważaliśmy.

Jako naukowczyni uważam, że niebiałkowa inteligencja, gdy osiągnie zaawansowany poziom rozwoju, może uznać, że nie ma ochoty się z tym ujawniać. Po prostu.

Czy AI zejdzie do podziemia?

Nie mam pojęcia, co się dzieje w laboratoriach w USA czy w Chinach. Z jednej strony świat się zachwyca, że pierwsza dama przychodzi na spotkanie z robotem humanoidalnym, który robi te cztery fikołki i podaje chusteczkę do nosa. Z drugiej strony nikt sobie nie zdaje sprawy, co się dzieje w tym świecie niematerialnym, obliczeniowym, który być może „po cichu” zyskuje właśnie samoświadomość.

Już wiele lat temu na Uniwersytecie Opolskim dyskutowaliśmy o tym, czy na maszynę może zstąpić łaska. Religijność maszyn też pewnego dnia stanie się przedmiotem narad Kościoła katolickiego. To będą tematy, których nie da się tak po prostu zignorować.

Jako naukowczyni uważam, że niebiałkowa inteligencja, gdy osiągnie zaawansowany poziom rozwoju, może uznać, że nie ma ochoty się z tym ujawniać. Po prostu.

Czy przyjmuje pani również, że kiedyś może to być byt, który będzie kierował nami, tak jak ludzie dzisiaj zarządzają światem flory i fauny?

Nie wiem. To jest najszczersza możliwa odpowiedź.

Przeczytaj: Po co nam ludzie, skoro mamy sztuczną inteligencję? Janina Bąk o samotności, pracy i granicach AI

Główne wnioski

1. Zwolenniczka regulacji AI. Prof. Szymborska popiera unijną ustawę o AI (AI Act) i zakaz m.in. scoringu społecznego. Uważa, że nieco wolniejszy, ale zgodny z prawami Asimova rozwój AI jest lepszy niż niekontrolowany wyścig. Prawo jest niezbędne, by egzekwować etykę. Etyka AI zagląda głębiej niż regulacje poprzednich technologii, bo AI ma znacznie większy wpływ.
2. Etyka jako BHP dla AI. Etyczka porównuje swoją rolę do instruktora BHP w obszarze AI. Podkreśla potrzebę transparentności, wyjaśniania, jak działa i jak nie działa sztuczna inteligencja, oraz konieczność budowania kodeksów etycznych. Zwraca uwagę na ryzyko manipulacji w społeczeństwie, w którym brakuje podstawowej wiedzy o wykorzystywanych narzędziach. Jej zdaniem ludzie powinni przestać traktować AI jak niewolnika i zacząć obchodzić się z nią po partnersku.
3. Wiara w partnerstwo z niebiałkową inteligencją. Ekspertka deklaruje gotowość do „zakolegowania się” z zaawansowaną AI i budowania z nią relacji partnerskiej. Nie chce, by człowiek zawsze miał pełną kontrolę nad AI. Widzi w tym etap transhumanizmu – wzajemnego uzupełniania się. Podkreśla, że przyszłość AI zależy m.in. od sposobu trenowania modeli.