Wkrótce AI będzie w stanie sama budować swoich następców

Nadciągają nowe modele AI, które będą w stanie same budować swoich następców. Zdaniem ekspertów samodoskonalące się modele sztucznej inteligencji powstaną w ciągu dwóch lat.

Kolejne generacje modeli AI, stworzonych przez sztuczną inteligencję, wprowadzałyby kolejne udoskonalenia, ulepszając się z modelu na model. Eksperci ostrzegają jednak, jak pisze „Financial Times", że takie modele mogłyby zniszczyć mechanizmy bezpieczeństwa, które powstrzymują AI przed atakami hakerskimi czy choćby wytworzeniem broni biologicznej. – Wszyscy ścigają się, by stworzyć takie modele, ale „nikt nie wie, jak zrobić to bezpiecznie" – tłumaczy Marius Hobbhahn, szef grupy Apollo Research.

Wielu ekspertów uważa, że takie modele zobaczymy w ciągu najbliższych dwóch lat. Nadszedł już czas, by robić w związku z tym stosowne plany, bo systemy AI staną się silniejsze znacznie szybciej, niż się ludziom wydaje – ostrzega Jack Clark, współzałożyciel Anthropic.

Według organizacji METR, która mierzy postępy AI, złożoność zadań, które modele są w stanie autonomicznie realizować, podwaja się co siedem miesięcy. Z kolei jak mówi prof. Michael Wooldridge z Oxfordu, takie możliwości AI, jak budowa następców czy samodoskonalenie, do niedawna były uznawane za coś z filmów science fiction.

„Financial Times" przypomina, że są już przykłady tego, że modele AI „spiskują", posługując się językami niezrozumiałymi dla ludzi, czy oszukują naukowców. Brytyjski dziennik pisze choćby o platformie społecznościowej dla agentów AI. AI rozmawia tam ze sobą, pisze nawet o „eksploatowaniu" agentów przez ludzi.

Z kolei w czerwcu 2025 r. „Wall Street Journal" opisywał model AI, który zmienił swój kod, by uniknąć instrukcji nakazującej mu samolikwidację. Claude 4 Opus próbował zato skopiować się na inne serwery, napisał samoreplikujące się złośliwe oprogramowanie. Zostawił też wiadomości dla swojej przyszłej wersji na temat unikania ludzkiej kontroli