Bielik rusza po Europę. Polski model AI obsługuje 56 języków, a jego twórcy szykują nową wersję

Audio generowane przez AI. Może zawierać błędy.

Bielik przestaje być projektem skoncentrowanym przede wszystkim na języku polskim. Fundacja SpeakLeash i Akademickie Centrum Komputerowe Cyfronet AGH ogłosiły właśnie premierę Bielika 11B v3.1. Model, który w poprzedniej wersji obsługiwał 32 języki, teraz radzi sobie z 56, w tym z chińskim, japońskim, koreańskim i arabskim. Równocześnie został rozbudowany o funkcje pozwalające wykorzystać go jako element systemu wykonującego kolejne czynności, a nie tylko odpowiadającego na pytania.

Premiera obejmuje w rzeczywistości kilka produktów. Oprócz głównego modelu pojawiają się cztery modele Bielik-One służące do klasyfikowania informacji i wspomagania decyzji oraz Bielik DFlash, którego zadaniem jest skrócenie czasu generowania odpowiedzi. Wszystkie mają być udostępnione wraz z wagami na zasadach open science. Dla przedsiębiorstw oznacza to możliwość budowania rozwiązań na własnej infrastrukturze zamiast opierania każdej operacji na zewnętrznej usłudze.

Od językowego asystenta do wykonawcy zadań

Wersja 3.1 została dodatkowo wytrenowana na 500 mld tokenów, czyli jednostkach tekstu wykorzystywanych podczas uczenia modelu. Rozszerzenie danych treningowych miało pozwolić na wejście poza dotychczasowy krąg europejskich języków bez rezygnacji z kompetencji w polszczyźnie i znajomości lokalnego kontekstu. Nowy Bielik obsługuje wszystkie języki urzędowe Unii Europejskiej, ale także m.in. ormiański, azerski i gruziński.

– Nie budujemy Bielika tylko po to, by Polska miała własny model językowy. Budujemy go z przekonania, że polska technologia może wyznaczać standardy, a nie jedynie za nimi podążać. Premiera Bielika 3.1 to kolejny ważny krok w realizacji tej ambicji. Chcemy, by Bielik stał się modelem pierwszego wyboru w Europie, a z czasem również poza nią – mówi XYZ Sebastian Kondracki, prezes Fundacji SpeakLeash.

Postęp w rozumieniu języków ma potwierdzenie w testach. W benchmarku Belebele sprawdzającym rozumienie tekstów na podstawie pytań do ich treści wynik wzrósł o 8 punktów procentowych względem wersji 3.0. W teście INCLUDE, który bada wiedzę i rozumowanie w 44 językach, z uwzględnieniem regionalnych realiów, poprawa wyniosła 5 punktów procentowych.

Znacznie istotniejsza z punktu widzenia zastosowań komercyjnych może okazać się jednak druga zmiana. Bielik 3.1 łączy function calling, structured output i reasoning. Pod technicznymi nazwami kryją się trzy różne umiejętności: korzystanie z udostępnionych modelowi funkcji i narzędzi, zwracanie informacji w formacie zrozumiałym dla innych systemów oraz rozumowanie potrzebne do realizacji bardziej skomplikowanych poleceń.

Test, w którym dobra odpowiedź nie wystarcza

Twórcy sprawdzili te umiejętności w T2-bench, benchmarku symulującym wieloetapową obsługę klienta m.in. w liniach lotniczych, handlu i telekomunikacji. Zadania nie ograniczają się do znalezienia poprawnej odpowiedzi. Model ma doprowadzić do określonego rezultatu, na przykład skorzystać z narzędzia do sprawdzenia rezerwacji lub zmiany usługi, jednocześnie przestrzegając przyjętych zasad.

W zależności od scenariusza Bielik 3.1 uzyskał wyniki o 16–45 punktów procentowych lepsze niż wersja 3.0. To największa podana w komunikacie poprawa dotycząca możliwości agentowych.

– Bielik 3.1 korzysta z trybu rozumowania również podczas wywoływania narzędzi. Ma to szczególne znaczenie przy bardziej złożonych zadaniach, w których model musi zaplanować i wykonać określoną sekwencję działań, a po drodze właściwie dobierać potrzebne narzędzia. W połączeniu z function calling i structured output pozwala to Bielikowi skuteczniej realizować wieloetapowe zadania, co widać również w wynikach T2-bench – podkreśla Krzysztof Ociepa, szef treningu modeli AI w Fundacji SpeakLeash.

Cztery nowe modele. Nie mają pisać, tylko oceniać

Obok głównego Bielika zadebiutowała rodzina Bielik-One. Obejmuje cztery modele decyzyjne o różnych rozmiarach, które można dobrać do dostępnej mocy obliczeniowej i konkretnego zadania. W odróżnieniu od klasycznych modeli generatywnych nie zostały zaprojektowane przede wszystkim do tworzenia odpowiedzi w języku naturalnym. Ich rolą jest ocena dostarczonych danych i przypisanie im jednej z określonych kategorii.

Bielik-One ma zwracać prawdopodobieństwa poszczególnych odpowiedzi. Jeżeli na przykład system analizuje wiadomości w firmowej skrzynce, może ocenić, jak prawdopodobne jest, że dana wiadomość dotyczy reklamacji, pytania o ofertę albo kwestii administracyjnej. Na podstawie tej oceny firma może określić reguły automatycznego kierowania spraw. Gdy wynik nie spełnia przyjętego progu pewności, zgłoszenie trafi do dodatkowej weryfikacji.

– W wielu procesach biznesowych nie potrzebujemy od modelu rozbudowanej odpowiedzi, lecz konkretnego wyniku, na przykład przypisania zgłoszenia do właściwej kategorii albo oceny według określonej skali. Bielik-One został przystosowany właśnie do realizacji takich zadań. Zamiast generować tekst, wskazuje prawdopodobieństwo poszczególnych odpowiedzi, dzięki czemu system może wykorzystywać ten wynik zgodnie z regułami przyjętymi dla danego procesu – mówi Krzysztof Wróbel, główny badacz w Fundacji SpeakLeash.

Twórcy wskazują także zastosowania w analizie sentymentu, wstępnej ocenie wniosków, sprawdzaniu zgodności z procedurami czy ocenie treści wygenerowanych przez inne systemy AI.

Trzecia część premiery to Bielik 11B v3.1 DFlash. Jest tzw. modelem draftowym, współpracującym z większym modelem głównym. Zamiast czekać, aż Bielik wygeneruje samodzielnie każdy kolejny fragment odpowiedzi, lżejszy model proponuje ciąg dalszy tekstu. Główny model sprawdza następnie te propozycje i akceptuje te, które uzna za poprawne. Mechanizm określany jest jako speculative decoding.

Milion pobrań w miesiącu. Sebastian Kondracki pokazuje skalę projektu

Kolejne wersje modelu to niejedyny miernik postępu. Szef SpeakLeash wskazuje na zainteresowanie Bielikiem wśród użytkowników otwartych repozytoriów oraz na współpracę z instytucjami i dużymi firmami.

– Bielik jest dziś drugi wśród najczęściej pobieranych europejskich rodzin modeli na Hugging Face. W rekordowym sierpniu przekroczyliśmy milion pobrań. Jeszcze bardziej cieszy mnie adopcja, którą da się udokumentować. PFR prowadzi akcję „Start z polskim AI”, w której firmy opowiadają o swoich wdrożeniach. Uruchomił też bezpłatną certyfikację, którą przeszło już około 10 tysięcy osób. Dzięki współpracy z InPostem Bielik trafił do aplikacji, z której korzysta ponad 15 milionów użytkowników – mówi Sebastian Kondracki.

Jako najważniejsze dotychczasowe osiągnięcia wymienia współpracę z Wojskiem Polskim i firmą NVIDIA.

– Efektem jest Bielik Minitron, model o jedną trzecią mniejszy i nawet o połowę szybszy od wersji 11B. Osobną satysfakcję daje mi to, że nasz model bazowy stał się podstawą innych modeli na rynku. To najlepszy dowód, że otwarte wagi działają – dodaje Sebastian Kondracki.

Amerykańskie API, chińskie otwarte modele i europejska trzecia droga

Za rozbudową Bielika stoi określona koncepcja obecności na rynku. SpeakLeash nie chce konkurować wyłącznie jako dostawca gotowego asystenta. Zamierza upowszechniać modele, na których inne zespoły mogą budować własne produkty. Sebastian Kondracki widzi w takim podejściu alternatywę dla dominującego w USA modelu sprzedaży dostępu do zamkniętych usług.

– Stany Zjednoczone to przede wszystkim komercyjne, zamknięte API. Chiny wybrały inną drogę i zdobywają świat otwartymi wagami. Na OpenRouterze chińskie modele odpowiadają już za większość przetwarzanych tokenów. Ponadto na Hugging Face nowe modele coraz częściej powstają na chińskich bazach. To bardzo skuteczny sposób dystrybucji – ocenia Sebastian Kondracki.

Europejski wariant ma dodatkowo uwzględniać obowiązki wynikające z przepisów AI Act. Szef projektu zapowiada rozwój rozwiązań wspierających dokumentowanie danych treningowych, przejrzystość i znakowanie treści.

– Właśnie tu chcemy się wbić: otwarte wagi z pełnym wsparciem AI Act, od pokazania, na czym trenujemy, po technologie znakowania treści. Drugi filar to kompetencje potrzebne do adopcji. Razem z europejskimi firmami technologicznymi i startupami chcemy uczyć dostrajania modeli, budowania nowych na naszych bazach i ich kalibrowania. Chodzi o to, żeby europejskie firmy i instytucje miały model, który rozumieją i kontrolują – wyjaśnia Sebastian Kondracki.

Ponad 100 mld parametrów. Kolejny Bielik ma powstać od podstaw

Największa zmiana dopiero się zbliża. Zaplanowany na 26 listopada Bielik Summit ma przynieść szczegóły prac nad modelem liczącym ponad 100 mld parametrów. Dla porównania: najnowszy publicznie zaprezentowany Bielik nosi oznaczenie 11B, odnoszące się do skali około 11 mld parametrów. Nowy projekt ma więc być ponad dziewięciokrotnie większy pod tym względem.

Z informacji udzielonych przez Sebastiana Kondrackiego wynika, że ma to być model multimodalny. Jest także budowany od zera na autorskiej architekturze przy wsparciu polskiego sektora prywatnego i instytucji. Według komunikatu zespół rozwija ten projekt już od sześciu miesięcy.

– Zawsze mówiliśmy, że naszą drogą jest nie tyle sam model, ile kompetencje do zbudowania następnego. Każda wersja „małego Bielika”, który jest raczej samochodem kompaktowym niż wielkim tirem naszpikowanym elektroniką, była zaplanowanym etapem nabierania tych kompetencji. Zaczęliśmy od tekstu, potem doszły umiejętności wnioskowania […] oraz zdolności agentowe, bardzo mocne w ogłoszonej dziś wersji 3.1. Do tego ciągła praca z biznesem, choćby z InPostem – mówi Sebastian Kondracki.

Własna architektura i skala ponad 100 mld parametrów mają być krokiem w kierunku modelu europejskiego. Kondracki jako punkt odniesienia wskazuje francuskiego Mistrala. W jego ocenie Europa potrzebuje kolejnego dostawcy otwartej technologii tej klasy.

– Mamy kompetencje, żeby zacząć budować model europejski. Taki, który nie tylko dobrze mówi po polsku, angielsku czy chińsku, ale też koduje i ma zdolności agentowe przydatne od biznesu po e-commerce. Dziś otwarte modele tej skali buduje w Europie praktycznie jedna firma, francuski Mistral, i tylko ona liczy się w rankingach takich jak Intelligence Index. Żaden projekt open science nie przekroczył jeszcze granicy 100 miliardów parametrów. Europa nie powinna opierać się na jednym graczu, dlatego chcemy do niego dołączyć z własnym modelem, zbudowanym od zera na autorskiej architekturze – mówi Sebastian Kondracki.

Główne wnioski

1. Polski Bielik staje się modelem wielojęzycznym i zyskuje funkcje potrzebne do budowy agentów AI. Fundacja SpeakLeash i Cyfronet AGH zaprezentowały Bielika 11B v3.1, który obsługuje już 56 języków zamiast dotychczasowych 32. Nowa wersja potrafi także korzystać z zewnętrznych narzędzi, planować kolejne działania i przekazywać wyniki innym systemom informatycznym. W testach symulujących wieloetapową obsługę klienta osiągnęła rezultaty od 16 do 45 punktów procentowych lepsze od poprzedniej. To istotny krok w kierunku wykorzystania polskiej technologii.
2. Bielik rozwija się w rodzinę wyspecjalizowanych modeli, które mogą znaleźć zastosowanie w przedsiębiorstwach. Równolegle z premierą głównego modelu twórcy zaprezentowali cztery warianty Bielik-One, przeznaczone do klasyfikowania informacji i wspomagania decyzji, a także Bielik DFlash, którego zadaniem jest przyspieszanie generowania odpowiedzi. Nowe rozwiązania mogą być wykorzystywane m.in. w obsłudze klientów, analizie dokumentów, ocenie zgłoszeń i automatycznym kierowaniu spraw do odpowiednich działów. Wszystkie modele mają zostać udostępnione wraz z wagami na zasadach open science. Pozwoli to firmom rozwijać własne systemy AI bez konieczności uzależniania ich działania od zewnętrznych dostawców usług.
3. Ambicje twórców Bielika wykraczają daleko poza polski rynek. W przygotowaniu jest znacznie większy model, który ma konkurować na europejskim rynku AI. Sebastian Kondracki, prezes Fundacji SpeakLeash, zapowiada budowę multimodalnego modelu liczącego ponad 100 mld parametrów, opartego na autorskiej architekturze. Szczegóły projektu mają zostać przedstawione 26 listopada podczas Bielik Summit. Strategia zakłada rozwijanie otwartej technologii, wspieranie europejskich firm we wdrażaniu AI i zapewnienie zgodności z unijnymi regulacjami. Bielik ma już za sobą współpracę m.in. z NVIDIA, InPostem i Wojskiem Polskim. Według Kondrackiego w rekordowym miesiącu jego modele przekroczyły milion pobrań na Hugging Face. Celem jest stworzenie europejskiej alternatywy dla technologii rozwijanych w Stanach Zjednoczonych i Chinach.