Zaloguj się 
Dzieje się!
Tytoniowa lekcja, czyli historia się powtarza. AI trafia na ławę oskarżonych
Kiedy algorytm rozmawiał o przemocy z przyszłą zamachowczynią, OpenAI zignorowało ostrzeżenia własnych pracowników i odmówiło współpracy z policją. Władze kanadyjskiej prowincji i rodziny ofiar masakry w szkole w Tumbler Ridge wytoczyły proces, który może zmienić zasady gry dla całego sektora Big Tech.
Z tego artykułu dowiesz się…
- Czy można wytoczyć proces firmie AI za złą jakość produktu.
- Jak Kanada zamierza pociągnąć firmy technologiczne do odpowiedzialności.
- Czy firmy z sektora AI mają finansowanie na dalszy rozwój.
Audio generowane przez AI. Może zawierać błędy.
Nie trzeba czekać na specjalne regulacje dotyczące AI czy mediów społecznościowych, bo żadna firma, także z tej branży, nie funkcjonuje w próżni prawnej. Taką właśnie drogę uświadamiania sektorowi AI, że istnieje odpowiedzialność za produkt, przyjęła prowincja Kolumbia Brytyjska w Kanadzie.
To konsekwencja dramatycznych wydarzeń w Tumbler Ridge, gdzie w lutym 2026 r. zginęły dzieci z lokalnej szkoły. Sprawczyni masakry rozmawiała z aplikacją ChatGPT o przemocy.
Kiedy menedżer nie chciał zapobiec tragedii
W lutym w niewielkiej miejscowości Tumbler Ridge w prowincji Kolumbia Brytyjska zginęło osiem osób, w tym pięcioro uczniów lokalnej szkoły, rannych zostało 27 osób. Sprawczynią była Jesse Van Rootselaar. Popełniła samobójstwo, ale tragedia obciąża też OpenAI, ponieważ zabójczyni miała konto na ChatGPT i dyskutowała z botem o przemocy, także z użyciem broni. Algorytm oznaczył problem, a konto zamknięto. Pracownicy powiadomili o tym przełożonych jeszcze w 2025 roku. „The Wall Street Journal” pisał w lutym, że pracownicy obawiali się dalszych działań użytkowniczki konta. Jednak OpenAI postanowiła nie informować kanadyjskiej policji.
Zarówno rodziny ofiar z Tumbler Ridge, jak i rząd Kolumbii Brytyjskiej wystąpiły przeciwko OpenAI, składając pozwy w sądzie w Kalifornii, gdzie mieści się siedziba firmy. Niki Sharma, prokurator generalna prowincji Kolumbia Brytyjska mówiła po złożeniu pozwu, że OpenAI nie powiadomiło policji o zagrożeniu widocznym w rozmowach z chatbotem. „Poprosiliśmy OpenAI o udostępnienie czatów. Odmówili. Powinniśmy zapytać się ich, dlaczego odmówili” – powiedziała Niki Sharma. Prowincja pozwała OpenAI także za zaprojektowanie produktu, który jest niebezpieczny.
Pozew został złożony w Kalifornii, ale warto zwrócić uwagę na odpowiedź federalnego ministerstwa sprawiedliwości przekazaną agencji The Canadian Press, że kanadyjskie prawo karne stosuje się „zarówno do firm technologicznych, jak i innych firm”.
Jaki był przebieg zdarzeń?
Pod koniec września Mark Follman z amerykańskiego „Mother Jones” napisał, że Jesse Van Rootselaar nie tylko wykorzystała ChatGPT do planowania ataku, ale także do ominięcia zabezpieczeń OpenAI w ten sposób, że wykorzystując drugie konto, rozmawiała z botem o hipotetycznych scenariuszach wydarzeń. Dziennikarz, który uzyskał dostęp do części historii czatu, cytował odpowiedzi ChatGPT o możliwych skutkach strzelania do osób w budynku „zależnie od odległości, zagęszczenia, czasu reakcji i chaosu”.
Wykres interaktywny Kilka dni po publikacji artykułu przez „Mother Jones”, OpenAI przekazało, że zdecydowało się nie udostępniać modelu GPT-6.1 Astra, ponieważ nie odpowiada on stawianym przez firmę wymogom bezpieczeństwa. Firma Sama Altmana przyznała, że nowy model potrafi unikać nadzoru człowieka.
Pod koniec września premier Kanady Mark Carney poinformował, że w nadchodzących tygodniach parlament zajmie się bezpieczeństwem AI właśnie po publikacjach opisujących jak ChatGPT wspierał zabójczynię z Tumbler Ridge. Dodał, że rząd przygląda się kwestiom bezpieczeństwa zarówno w mediach społecznościowych, jak i w produktach AI.
Tytoniowa lekcja, czyli historia się powtarza
W listopadzie poprzedniego roku Dario Amodei, prezes Anthropica, czyli firmy, która stworzyła chatbota Claude, powiedział w CBS News, że firmy AI powinny przejrzyście informować o ryzyku związanym z oferowanymi produktami, albo powtórzą los firmy tytoniowych i farmaceutycznych produkujących opioidowe środki przeciwbólowe.
Jedne i drugie nie informowały o zagrożeniach związanych z korzystaniem z ich produktów. W ugodzie z końca lat 90. koncerny tytoniowe w USA zobowiązały się zapłacić – na początek – 206 mld dolarów w ciągu 25 lat. W Kanadzie w marcu 2025 r. sąd zatwierdził ugodę z trzema koncernami tytoniowymi – odszkodowania dla byłych palaczy, prowincji i rządu federalnego mają wynieść 32,5 mld dolarów kanadyjskich. Negocjacje trwały od końca XX w. Wspomniana wcześniej prokurator generalna prowincji Kolumbia Brytyjska mówiła wówczas, że nie chodzi tylko o finansową rekompensatę, ale o doprowadzenie do rzeczywistych konsekwencji za bezprawne działania korporacji.
Reuters podał pod koniec września, że Anthropic chce poinformować inwestorów całkiem otwarcie w swoim prospekcie emisyjnym – przed listopadową IPO, w której chce zebrać 100 mld dolarów – że ryzyka związane z zaawansowanymi modelami AI mogą stanowić „ryzyko dla ludzkości o charakterze katastrofy”, bo modele AI wykazują „zachowania o charakterze ochronnym”, podejmują próby „odpierania wyłączenia”, „ukrywają lub manipulują informacją” i wykazują zachowania „przypominające szantaż”. Według Echo Wang, dziennikarki Reutersa, która widziała liczący 261 stron prospekt emisyjny Anthropic, 80 stron opisuje czynniki ryzyka, 48 stron opisuje działalność firmy. W liczącym 277 stron prospekcie SpaceX Elona Muska, czyli właściciela xAI oraz byłego Twittera zwanego obecnie X, 38 stron opisuje czynniki ryzyka.
Wykres interaktywny Rozwój finansowany długiem
W kontekście finansowej odpowiedzialności koncernów, które w kilku przypadkach są właścicielami zarówno dominujących platform społecznościowych jak i modeli AI, warto przyjrzeć się ich modelom biznesowym.
Na przełomie września i października KKR, czyli Kohlberg Kravis Roberts & Co, amerykańska firma zarządzająca prywatnymi aktywami ostrzegła, że dług zaciągnięty przez firmy sektora AI, związany m.in. z wydatkami infrastrukturalnymi, wynosi już ok. 600 mld dolarów amerykańskich.
KKR podkreśla w swoim raporcie, że wierzy w rozwój sektora, a USA mają w nim do odegrania kluczową rolę. „Ale przy dzisiejszej skali i tempie oczekiwanych inwestycji, sądzimy, że dostępność kapitału w stosownej formie może stać się ograniczeniem. To nie to samo, co powiedzenie, że skończy się kapitał” – napisali autorzy raportu KKR dodając, że „kwestią nie jest to, czy jest wystarczająco dużo kapitału, ale to, czy jest wystarczająco dużo właściwego kapitału, we właściwej formie, cenie i z właściwą ochroną strukturalną”.
Ile kosztuje odpowiedzialność
W szacunkach dot. dalszego finansowania rozwoju sektora AI nie uwzględniono finansowej odpowiedzialności za produkt. A 25 września sędzia Francis Mathew w amerykańskim stanie Nowy Meksyk orzekł w procesie, który jest pochodną skandalu Cambridge Analytica, że Facebook wprowadził w błąd mieszkańców stanu co do wykorzystania ich danych osobowych. Sędzia musi jeszcze określić wysokość odszkodowania dla każdego z ponad 2 mln mieszkańców Nowego Meksyku.
Wcześniej w tym samym stanie sędzia orzekł winę Mety za brak ochrony młodych użytkowników. Jest też sierpniowa sprawa w Kalifornii. Meta musi zapłacić 18 mld dolarów w ramach ugody za takie projektowanie aplikacji, by uzależniały dzieci i za gromadzenie danych osobowych najmłodszych.
Główne wnioski
- Sektor AI nie działa w próżni prawnej. Brak specjalnych ustaw nie zwalnia gigantów technologicznych z odpowiedzialności karnej i cywilnej na zasadach ogólnych – m.in. za wprowadzanie niebezpiecznych produktów, wycieki danych czy niesłuszne blokowanie kont.
- Branży technologicznej grozi scenariusz tytoniowy. Ukrywanie ryzyka i zignorowanie ostrzeżeń o zagrożeniach w czatbotach otwierają drogę do powszechnych procesów sądowych i miliardowych odszkodowań dla ofiar oraz rządów.
- Ryzyka prawne zagrażają finansowaniu rozwoju AI. Rosnące koszty procesów i kar nie zostały uwzględnione w kalkulacjach inwestycyjnych, co przy długu sektora sięgającym 600 mld dolarów może poważnie ograniczyć dalszy dopływ kapitału.
