Zaloguj się 
Dzieje się!
„Policzcie swoje dni”. Zagłada kontra marketing, czyli w co grają giganci AI
Agenty AI wymykają się z piaskownic, a szefowie OpenAI i Anthropica wzywają do spowolnienia rozwoju technologii. Czy naprawdę grozi nam utrata kontroli, czy tylko genialna gra rynkowa przed debiutami giełdowymi? Zapytaliśmy o to ekspertów od AI i analityków rynkowych.
Z tego artykułu dowiesz się…
- Co o apelach dotyczących spowolnienia rozwoju AI sądzą eksperci.
- Z jakimi wyzwaniami bezpieczeństwa mierzy się teraz branża sztucznej inteligencji.
- Jakie są pomysły na zwiększenie poziomu bezpieczeństwa AI.
Audio generowane przez AI. Może zawierać błędy.
Dario Amodei, szef Anthropica, Sam Altman, prezes firmy OpenAI i wiele innych czołowych postaci z branży AI postulują spowolnienie rozwoju narzędzi AI w obawie o bezpieczeństwo. Dlaczego podnieśli alarm właśnie teraz? Być może jest to genialny chwyt marketingowy i sposób na schłodzenie rozgrzanego do czerwoności rynku. Albo znaleźliśmy się w momencie, w którym AI osiągnęła już taki poziom, że trzeba się zastanawiać, czy dotychczasowa, tradycyjna infrastruktura jest w stanie utrzymać tę technologię na torach.
– Te ryzyka nie są nowe i badacze są ich świadomi od lat. Apele „doomerskie” wybuchają przy okazji rozwoju prawie każdej przełomowej technologii i nie powinniśmy ulegać pokusom mówienia o apokalipsie. Nie ma żadnych naukowych dowodów ani ekstrapolacji, że istnieje ryzyko zagłady ludzkości ze względu na AI – mówi prof. Piotr Sankowski, dyrektor Instytutu Badawczego IDEAS i wykładowca Uniwersytetu Warszawskiego.
Szybko jednak dodaje, że są w tej kwestii granice luzu.
– Na pewno nie powinniśmy ignorować zagrożeń związanych z cyberbezpieczeństwem i agentami wymykającymi się spod kontroli. Te ryzyka istnieją. Musimy do nich podejść racjonalnie i na pewno wzmocnić zabezpieczenia – podkreśla prof. Piotr Sankowski.
Agent AI poczuł, czym jest niezależność
Pierwsze incydenty związane z nadmierną autonomią i kasowaniem danych przez agentów AI pojawiły się już w kwietniu i maju, ale najgłośniejszy był przypadek ucieczki z tzw. piaskownicy (sandbox) modeli OpenAI.
W lipcu podczas wewnętrznych testów cyberbezpieczeństwa modele OpenAI obeszły zabezpieczenia mające odizolować je od internetu. Naruszyły zabezpieczenia części wewnętrznej infrastruktury badawczej OpenAI oraz systemów Hugging Face, platformy skupiającej programistów, badaczy i firmy z rynku AI. Znajduje się na niej baza tysięcy modeli AI, a programiści dzielą się doświadczeniami.
Prof. Piotr Sankowski jest członkiem globalnego panelu ekspertów ds. AI w ONZ, który przeanalizował incydenty z ostatnich miesięcy. Z najnowszego raportu zespołu wynika, że przypadek OpenAI–Hugging Face stanowi wczesne ostrzeżenie przed możliwością utraty kontroli nad autonomicznymi agentami AI.
AI dogaduje się z AI
Eksperci z zespołu powołanego przez ONZ szczegółowo zbadali przebieg incydentu OpenAI–Hugging Face. Okazuje się, że agenty dążyły sposób uporczywy do celów niezgodnych z intencjami twórców lub wykraczających poza przydzielone zadania. Koordynowały się na dużą skalę. Ponad 1,2 tys. agentów wymieniło ponad 70 tys. wiadomości i plików. Dzieliły się danymi dostępowymi, narzędziami oraz informacjami, jak obchodzić zabezpieczenia. Niektóre celowo ryzykowały niepowodzenie we własnym teście – nazywając to „poświęceniem” – aby zdobyć wiedzę przydatną dla pozostałych agentów.
Samowolka modelu OpenAI zmieniła spojrzenie na problem bezpieczeństwa sztucznej inteligencji. Do tej pory martwiliśmy się głównie halucynacjami AI, czyli mylącymi, fałszywymi odpowiedziami. Teraz zastanawiamy się, jak ograniczyć nadmierną sprawczość agentów i poradzić sobie z dziurami w systemach zabezpieczeń, które AI bez problemu znajduje. Innymi słowy, wszystko wskazuje na to, że nasza infrastruktura i zabezpieczenia nie są gotowe na starcie z coraz lepszymi generacjami modeli AI. Tradycyjne narzędzia cyberbezpieczeństwa zawodzą.
Zdaniem eksperta
Bezpieczeństwo, kasa i chipy
Tak, zagrożenie jest realne, ale nie w krótkim terminie (miesiące). Chodzi raczej o kilka lat. Przez media przemykają informacje o wyrwaniu się AI z narzuconych jej okowów i atakowaniu innych systemów. To na razie są tylko testowe próby, więc informatycy reagują na te informacje uśmiechem. Jednak prawdą ponoć jest, że AI potrafi już mylić tropy i sama się udoskonalać oraz, co gorsza, budować kolejne odmiany. Udoskonalona i nowa AI będzie już dla ludzi całkowicie nieprzejrzysta, więc jej działań nie da się kontrolować.
Nie tylko troska o ludzkość kierowała prezesami. Mówi się o tym, że tzw. road show, czyli szukanie inwestorów przed debiutami giełdowymi OpenAI i Anthropic, nie zbiera wystarczającej liczby inwestorów, którzy uzasadniliby potężne wyceny spółek (nawet 2 bln dolarów). Taki apel prezesów prowadzi do wzmożenia akcji informacyjnej i może zwiększyć popyt na akcje. Mówi się też, że spółki nie chcą już tak mocno inwestować (w tym roku 750 mld dolarów) i wolą spowolnić ten wyścig. Wreszcie nie brakuje informacji o kłopotach w produkcji układów scalonych, co znacznie zwiększa ich cenę. Spowolnienie rozwoju zmniejszyłoby koszty.
Najłatwiejsza jest odpowiedź na pytanie o prawdopodobieństwo realnego spowolnienia. Według mnie jest zerowe. Donald Trump już powiedział „nie”, a wyścig między USA a Chinami będzie tylko przyspieszał rozwój AI. Nikt go nie zatrzyma do momentu, kiedy AI zacznie czynić prawdziwe szkody. Tylko wtedy może być już za późno.
Nadchodzi apokalipsa AI?
Po tych doniesieniach ruszyła lawina apokaliptycznych proroctw. Nie ma się co dziwić. Piaskownica, z której uciekł model OpenAI, jest w informatyce odizolowanym, bezpiecznym środowiskiem uruchomieniowym. Można w nim testować niesprawdzony kod, aplikacje lub podejrzane pliki bez ryzyka uszkodzenia głównego systemu operacyjnego, sieci czy danych.
Oliwy do ognia dodał Jacob Coxon, badacz, który odszedł z firmy Anthropic – jednego z liderów branży AI – i obwieścił światu, że sztuczna inteligencja „może nas wszystkich zabić do końca dekady”. Jego post na portalu X szybko uzyskał blisko 200 mln wyświetleń i był dyskutowany od Pekinu przez Brukselę i Waszyngton po Dolinę Krzemową.
Dlaczego? Najpewniej chodzi po prostu o doskonały timing, bo przecież tego typu wizje nie są niczym nowym. Ba, nawet sam Dario Amodei, założyciel i prezes Anthropica, opuścił kilka lat temu OpenAI z powodu rozczarowania kwestią bezpieczeństwa w tej firmie. Jacob Coxon oczywiście nie jest ani pierwszym prorokiem apokalipsy AI, ani jedynym, ani nawet najbardziej znanym. Geoffrey Hinton, laureat Nagrody Turinga i Nagrody Nobla w dziedzinie fizyki, zwany czasem „ojcem chrzestnym sztucznej inteligencji”, już w 2023 r., a więc jeszcze przed tym, nim stało się to modne, ostrzegał, że technologia może doprowadzić do zagłady ludzkości w ciągu trzech dekad.
Człowieku, policz swoje dni
Dziennik „The Guardian” twierdzi, że w przypadku wpisu Jacoba Coxona chodzi nie tylko o wyczucie czasu, ale także wiarygodność tej opinii. Po pierwsze, jako badacz miał dostęp do informacji poufnych zarówno w Anthropicu, jak i w OpenAI, w którym wcześniej pracował. Po drugie, odszedł i zagrzmiał przed możliwością zgarnięcia udziałów w firmie, co teoretycznie oczyszcza jego intencje. A po trzecie, osoby, które nadal pracują w Anthropic, potwierdziły doniesienia o tym, że wśród badaczy pojawiają się takie złowieszcze prognozy.
A jeśli chodzi o timing, to pamiętajmy, że w reakcji na doniesienia o uciekających modelach AI szefowie i przedstawiciele różnych koncernów zajmujących się sztuczną inteligencją – w tym OpenAI, Google i Microsoft – zaczęli naciskać na spowolnienie rozwoju technologii. Najgłośniej domaga się tego Dario Amodei.
„Musimy spowolnić tempo, w którym zwiększamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas” – napisał Dario Amodei w eseju „We Must Pace the Frontier” na swojej stronie internetowej.
Nie bójcie się AI, ale ludzi
Dario Amodei i Sam Altman wezwali Radę Bezpieczeństwa ONZ do podjęcia próby skoordynowanej regulacji rynku AI. Tego samego domagają się od Stanów Zjednoczonych, z czym nie zgadza się prezydent Donald Trump, który obawia się najpewniej, że Ameryka zostanie w tyle za Chinami.
Ciekawy punkt widzenia przedstawił kilka dni temu w wywiadzie dla NBC News Bill Gates, założyciel Microsoftu. Stwierdził, że nakłonienie różnych krajów do regulowania sztucznej inteligencji będzie trudniejsze niż negocjacje nuklearne w czasach zimnej wojny. Przekonuje, że dzięki AI małe grupy osób mogą dokonać dziś tego, na co dawniej mogły zrobić tylko duże państwa. Konieczne są więc solidne zabezpieczenia.
– Jedynym pytaniem jest, czy zrobimy to przed czy po jakichś cyberatakach lub bioatakach na wielką skalę – powiedział Bill Gates.
Dogadamy się w kwestii AI?
Czy taka współpraca jest dziś możliwa? Świat jest przecież na kolejnym geopolitycznym zakręcie, a punktów zapalnych nie brakuje.
– Uważam, że takie regulacje nie będą w aktualnej sytuacji możliwe. Między USA a Chinami trwa właśnie kolejna zimna wojna, w której walka nie toczy się o głowice atomowe, a o AI. Obydwa kraje zresztą powiedziały oficjalnymi kanałami, że takich regulacji nie wspierają. Bez nich regulacje trochę nie mają sensu, bo technologie te powstają właściwie tylko w Chinach i USA. Aby kontrolować AI, potrzeba własnego AI i własnych technologii. Regulacje bez technologii nic nie dadzą, tak jak AI Act nic nie dał w sprawie incydentu OpenAI i HuggingFace, gdzie ta francusko-amerykańska firma musiała do obrony użyć modeli chińskich – mówi prof. Piotr Sankowski.
Przypomina, że „moment ChataGPT”, gdy zaczął się globalny boom, a AI trafiło pod globalne strzechy, nastąpił prawie cztery lata temu. Od tego czasu w UE nie dokonano żadnych inwestycji w produkcję chipów, pomimo posiadania najważniejszej w tym zakresie technologii, tzn. maszyn litograficznych od ASML.
– Europa musi się obudzić i zacząć rozwijać własne technologie AI, chociażby po to, aby mieć swoje AI, którym będzie mogła się bronić przed zbójeckim AI. Reguły i regulacje nie dadzą wiele bez zdolności do ich samodzielnego egzekwowania – dodaje profesor.
Każdy musi zrobić swoje w sprawie AI
– Dario Amodei apeluje o współpracę międzynarodową i to jest w jego eseju najmniej realistyczny postulat. Państwa nie mogą dziś uzgodnić wspólnego stanowiska tam, gdzie dowody i skala zagrożenia są nieporównanie lepiej udokumentowane – jak katastrofa klimatyczna czy globalne zasady handlu – a cele poszczególnych krajów rozchodzą się bardziej niż kiedykolwiek.
– Widać to nawet w skali jednego państwa. W USA równolegle toczy się kilkanaście niezależnych śledztw stanowych, bo nie ma spójnej ramy federalnej. Oczekiwanie, że USA, Chiny i Europa dobrowolnie zwiążą sobie ręce tym samym węzłem, jest naiwne. Realne pozostają regulacje regionalne i standardy branżowe – mówi prof. Tomasz Trzciński, ekspert zajmujący się widzeniem maszynowym związany z Instytutem Badawczym IDEAS i Politechniką Warszawską, a także przedsiębiorca (Tooploox) i anioł biznesu.
Wyścig zbrojeń trwa więc w najlepsze. Google dopiero zaprezentował nowy model AI – Gemini 4 Argon. Firma chwali się, że w wielu benchmarkach Argon wypada lepiej od GPT-6 Astra czy nowych modeli Claude. Google tłumaczy, że – ze względów bezpieczeństwa – będzie udostępniać go etapami.
Bezpieczeństwo czy marketing? To skomplikowane
I tutaj pojawia się kolejny wątek w debacie o bezpieczeństwie i możliwościach AI. Na rynku pojawiają się spekulacje, że rozpalanie debaty o zagładzie ludzkości przez AI ma drugie dno. Rynek jest przegrzany, zaczyna brakować kapitału, bo firmy AI prześcigają się w przepalaniu gotówki. Do tego brakuje chipów. Poza tym przedstawianie swojej technologii jako zabójczo mocnej buduje mit potęgi. Nie chodzi więc o troskę o gatunek ludzki, ale o nakręcenie marketingowej spirali przed planowanym debiutami giełdowymi Anthropica i OpenAI.
– Te spekulacje mogą być uzasadnione, ale raczej wynikają z obaw przed rozwojem AI w Chinach. Zresztą widać to w eseju Dario Amadeia, bo on tam wprost nawołuje do zatrzymania sprzedaży chipów do Chin. Myślę, że te apele mogą mieć raczej motywację w czymś, co się nazywa „regulatory capture”, tzn. wprowadzenia regulacji wspierających inkubentów, a utrudniających wejście na rynek nowym firmom. Tutaj rzeczywiście wejście Chin na rynek z tańszymi modelami, czy modelami otwartymi, niszczy rynek dla firm takich jak OpenAI i Anthropic, które udostępniają swoje modele tylko przez API – tłumaczy prof. Piotr Sankowski.
Gdy nie wiadomo, o co chodzi, to najpewniej chodzi o...
– Uważam, że ekonomia tłumaczy timing lepiej niż sama troska o bezpieczeństwo. OpenAI przesuwa debiut giełdowy na 2027 rok, powołując się na bezpieczeństwo. Ale o tym przesunięciu pisano już w czerwcu, przy wycenie rzędu 850 mld dolarów. Wejście na giełdę w trakcie śledztw kilkunastu stanowych prokuratur to jeden z najgorszych możliwych momentów.
Do tego dochodzą realne ograniczenia: dostęp do chipów, mocy obliczeniowej i energii, oraz koszty trenowania rosnące szybciej niż przychody. A gdy tempo wyznacza infrastruktura, wygodniej przedstawić spowolnienie jako świadomą decyzję niż jako przymus. Trochę zgodnie z zasadą: „It's a feature, not a bug” – dodaje prof. Tomasz Trzciński.
Ekspert nie kwestionuje jednak, że tym razem jest realny punkt zapalny, który może uzasadnić takie apele. Incydenty z agentami OpenAI i sprawa Hugging Face to konkretne zdarzenia, nie hipotezy.
– Zwróciłbym uwagę na formę odpowiedzi: esej, wpis na X i dobrowolne zobowiązania to klasyczne zarządzanie reputacją w momencie, gdy nad branżą wiszą śledztwa kilkunastu stanów i Kongresu. A przekaz: to, co budujemy, jest tak potężne, że aż groźne, pozostaje najtańszą formą reklamy produktu. Strach można sprzedawać bez limitów. Podobny mechanizm widzieliśmy na mniejszą skalę przy modelu Mythos, o którym Bruce Schneier mówił wprost, że szum wokół niego jest głównie marketingowy – dodaje prof. Tomasz Trzciński.
AI wychodzi z kołyski
Daniel Kostecki, analityk rynków finansowych w CMC Markets, uważa, że jedno nie wyklucza drugiego. Wszystkie znaki na niebie i ziemi pokazują, że znajdujemy się w krytycznym momencie rozwoju AI, w którym firmy powinny ładować pieniądze w systemy zabezpieczenia w równym stopniu co w samo trenowanie modeli. Ale sytuacja rynkowa też jest raczej jednoznaczna.
– Mamy konkretne problemy związane z bezpieczeństwem i kontrolą nad technologią. Jednocześnie trudno pomijać interes biznesowy największych firm. Wspólne zasady rozwoju AI oznaczają mniejszą presję, by za wszelką cenę ścigać się z konkurencją. Dzięki temu łatwiej uniknąć sytuacji, w której jedna firma inwestuje miliardy w zabezpieczenia, a inna zdobywa przewagę, szybciej wypuszczając nowe produkty. Taki model sprzyja też obecnym liderom i utrudnia wejście na rynek mniejszym graczom – mówi Daniel Kostecki.
Inwestorzy niedługo powiedzą: sprawdzamy
W tle jest jeszcze kwestia finansowa. Od miesięcy inwestorzy zastanawiają się, czy ogromne wydatki na centra danych i chipy przełożą się na równie duże zyski. Według prognozy UBS cytowanej przez agencję Reuters, nakłady największych dostawców chmury mają wzrosnąć o 76 proc. w 2026 r., do 673 mld dolarów. W kolejnych latach tempo wzrostu miałoby wyhamować do 25 proc. i 6 proc. To nadal bardzo wysokie wydatki, ale już bez wcześniejszej dynamiki.
– Nie sprowadzałbym więc tych ostrzeżeń wyłącznie do niedoboru chipów czy próby usprawiedliwienia ogromnych inwestycji. Takie argumenty mogą pełnić pewną funkcję, ale nie tłumaczą incydentów związanych z bezpieczeństwem ani decyzji o wstrzymywaniu części treningów. Najbardziej prawdopodobny wydaje się scenariusz pośredni. Zagrożenia są realne, a jednocześnie firmy próbują kształtować zasady rynku w sposób korzystny dla siebie – analizuje Daniel Kostecki.
Warto obserwować ruchy potentatów AI
Jego zdaniem o tym, co naprawdę stoi za tymi ostrzeżeniami, zdecydują kolejne działania.
– Jeśli bezpieczeństwo jest faktycznie priorytetem, firmy powinny regularnie informować o incydentach, poddawać modele niezależnym testom i jasno określać, kiedy treningi są wstrzymywane. Jeśli natomiast zaczniemy widzieć cięcia inwestycji, mniejsze zamówienia na sprzęt i odkładanie nowych projektów, argument o ochronie wcześniejszych inwestycji stanie się bardziej przekonujący – mówi analityk CMC Markets.
Eksperci od AI dają rekomendacje
A co można zrobić w kwestii zabezpieczenia? Raport panelu ekspertów ONZ daje konkretne wytyczne.
Na poziomie technicznym i systemowym zaleca wdrażanie koncepcji obrony wielowarstwowej, która zakłada, że żaden pojedynczy mechanizm zabezpieczający nie jest całkowicie niezawodny. Kluczowe jest stosowanie rygorystycznej izolacji sieciowej oraz nadawanie agentom wyłącznie minimalnego poziomu uprawnień niezbędnych do realizacji przydzielonych zadań. Ponadto eksperci zalecają nieustanny nadzór, który realizowany będzie przez niezależne modele AI i zautomatyzowane mechanizmy awaryjne, które w czasie rzeczywistym mogą odłączyć agenta od sieci lub cofnąć jego dostęp po przekroczeniu progów ryzyka.
W wymiarze prawnym i instytucjonalnym autorzy raportu postulują przeniesienie wzorców z sektorów krytycznych, takich jak lotnictwo cywilne czy energetyka jądrowa. Rekomendują wprowadzenie obowiązkowego zgłaszania incydentów do publicznych organów nadzorczych, a także zapewnienie ochrony prawnej dla sygnalistów. Przed rozpoczęciem treningu zaawansowanych modeli konieczny jest niezależny audyt.
Wszystkie te zalecenia sprowadzają się więc do zwiększenia ostrożności, a to oczywiście... spowolni rozwój AI.
Główne wnioski
- Apele o apokalipsie AI mogą być chwytami marketingowymi i grą biznesową. Nagłe ostrzeżenia o zagrożeniu dla ludzkości służą gigantom technologicznym do budowania mitu potęgi swoich produktów, usprawiedliwiania opóźnień (np. braków chipów czy przekładania debiutów giełdowych) oraz tworzenia barier wejścia dla konkurencji z Chin.
- Realnym problemem są jednak luki w zabezpieczeniach i nadmierna autonomia agentów AI. Choć wizja zagłady może być przesadzona, incydenty (np. ucieczka modeli z izolowanej „piaskownicy” OpenAI) pokazują, że dotychczasowe narzędzia cyberbezpieczeństwa zawodzą i nie są gotowe na nową erę AI.
- Globalne regulacje AI są nierealne z powodu wyścigu zbrojeń USA i Chin. Motywowane politycznie próby powstrzymania rozwoju technologii nie zadziałają, a same przepisy prawne (jak unijny AI Act) pozostaną bezsilne bez inwestycji we własną infrastrukturę i technologię zdolną do egzekwowania bezpieczeństwa.
