AI Act, czyli obowiązek przejrzystości. Wyjaśniamy, co się zmieniło od 2 sierpnia

Czy polscy przedsiębiorcy wiedzą, czy i w jaki sposób wykorzystywana jest w ich firmach sztuczna inteligencja? AI Act, czyli unijne rozporządzenie w sprawie sztucznej inteligencji (2024/1689), wymusi na biznesie wewnętrzne audyty. 2 sierpnia zaczęła obowiązywać kolejna część przepisów, w tym obowiązki dotyczące przejrzystości systemów AI oraz regulacje dotyczące modeli AI ogólnego przeznaczenia. Zasada wydaje się prosta: odbiorca czy potencjalny klient musi wiedzieć, kiedy ma do czynienia z człowiekiem i ludzką pracą, a kiedy z botem i owocami technologii. Mówimy zatem zarówno o obowiązku oznaczenia, że rozmawiamy lub piszemy z botem, jak i poinformowania odbiorcy, iż np. reklama danej usługi jest dziełem technologii, a nie np. zdjęciem salonu fryzjerskiego.

Na początek sprawdzamy jednak, jak polski biznes, zarówno ten mały, jak i giganci na rynku, korzysta z AI.

Czy firmy wiedzą, że korzystają z AI? „Czasem wymyka się to spod kontroli”

– Odpowiedź na to pytanie zależy od tego, jak definiujemy sztuczną inteligencję. W przypadku wielu małych i średnich firm w Polsce pokutuje brak wiedzy, zasobów i pieniędzy. Nie ma rozpisanych standardów wykorzystania sztucznej inteligencji, bo nie ma działu ds. tego typu wdrożeń tak jak w największych firmach. Część przedsiębiorców nie ma pojęcia, że ich pracownicy korzystają np. z Chata GPT. Jeśli nie zadbamy o edukację i szkolenia, to konsekwencje tzw. shadow AI mogą być kosztowne – mówi Joanna Plona, prezeska w Grupie WeNet.

Przeczytaj: „Kończy się etap eksperymentów z AI bez jasnych zasad”. AI Act opanuje sztuczną inteligencję?

Praktykę firm, także tę, którą można sprowadzić do braku wiedzy na temat korzystania z AI, opisuje najnowszy „Barometr rynku pracy” Gi Group Holding. Jak wynika z badania, 42,2 proc. firm deklaruje korzystanie z automatyzacji i sztucznej inteligencji, najwięcej w handlu i usługach. Odsetek ten może być większy, jeśli doliczymy tych, którzy są nieświadomi wykorzystania AI w Outlooku, na Teamsach, w systemach HR, CRM-ach czy narzędziach marketingowych. Jak jednak przekonują eksperci, wiedza o tym, kto i w jaki sposób korzysta z AI w firmie, przestaje być dobrą praktyką, a staje się obowiązkiem. AI Act wymusi bowiem wiele wewnętrznych audytów.

Największym wyzwaniem dla biznesu nie będzie wdrożenie AI Act, lecz ustalenie, gdzie sztuczna inteligencja już działa w organizacji. W wielu firmach pracownicy zaczęli korzystać z AI oddolnie i dziś nikt nie ma pełnego obrazu jej wykorzystania.

– Największym wyzwaniem dla biznesu nie będzie wdrożenie AI Act, lecz ustalenie, gdzie sztuczna inteligencja już działa w organizacji. W wielu firmach pracownicy zaczęli korzystać z AI oddolnie i dziś nikt nie ma pełnego obrazu jej wykorzystania. Tymczasem to właśnie od takiego audytu powinny rozpocząć się przygotowania do nowych obowiązków – mówi dr Judyta Latymowicz, partnerka w kancelarii LEGALLY.SMART.

AI Act. Co zmieniło się 2 sierpnia?

2 sierpnia to ważna data w walce z deepfake'ami. Każda treść: wideo lub zdjęcie przedstawiające daną osobę w sposób zmanipulowany przez AI musi być odtąd oznaczona. Komisja Europejska przygotowała w tym celu nawet propozycje ikon, które można (choć nie trzeba) umieszczać na nagraniu lub zdjęciu. Ważne, by oznaczenie było widoczne i jednoznaczne. Wyjątek stanowią np. utwory artystyczne, przy których oznaczenie może pojawić się np. w napisach końcowych lub w opisie materiału.

Wymagania przejrzystości dotyczą także kontaktów z chatbotem, wirtualnym asystentem czy automatycznym systemem obsługi klienta. Od 2 sierpnia osoba korzystająca z systemu AI powinna zostać w sposób jasny poinformowana, że prowadzi interakcję z maszyną.

– Gdy dzwonimy na infolinię, chatbot zwykle przedstawia się jako wirtualny asystent. Taką zasadę w świetle prawa powinniśmy przenieść do innych kanałów, np. czatów tekstowych. Odbiorcy powinni też wiedzieć, że mają do czynienia np. z deepfake’em. Dla mnie to tak naturalne jak oznaczanie współpracy reklamowej, oznaczanie zdjęć od fotografa czy ze stocka. Tu „autorem” jest sztuczna inteligencja – komentuje Joanna Plona.

Co istotne, za nieprzestrzeganie przepisów dotyczących przejrzystości firmom grożą kary. Maksymalna kara finansowa wynosi co do zasady 15 mln euro lub 3 proc. światowego obrotu.

„Płytkie i szerokie korzystanie z AI”

O to, jak polscy przedsiębiorcy korzystają z AI, pytamy ekspertów, którzy zasilają firmy rozwiązaniami opartymi na sztucznej inteligencji. Marcin Dąbrowski, współtwórca i lider projektu Obywatel Bielik w Bielik AI, wyjaśnia, że na polskim rynku mamy do czynienia z dwoma scenariuszami. Wykorzystanie AI może być inicjatywą oddolną, pod nadzorem przełożonych lub bez – jak w wyżej opisanym przypadku shadow AI. Może być to także pokłosie przemyślanego procesu wdrożenia konkretnej technologii.

– Ten pierwszy scenariusz jest dużo częściej spotykany, choć w statystykach widać go najsłabiej. Jeśli pracownik używa AI na własną rękę, zarząd często o tym nie wie. A to zarząd bierze udział w badaniach. Sama skala bywa zresztą podawana bardzo różnie. Według np. GUS czy Eurostatu około 9 proc. polskich firm korzysta z AI, ale znów najnowszy raport PARP i Uniwersytetu Jagiellońskiego mówi o 23 proc. Obie liczby są prawdziwe, tylko dotyczą innego wycinka gospodarki. GUS liczy wszystkie branże, a PARP celowo wybrał dwanaście o największym potencjale wdrożeniowym. I to jest ta ciekawsza liczba, bo nawet tam, gdzie sztuczna inteligencja ma najwięcej sensu, korzysta z niej mniej niż co czwarta firma – wyjaśnia ekspert.

Karol Drążek, dyrektor ds. IT w Mindbox, dodaje, że w polskim biznesie AI ma „szerokie zastosowanie, lecz płytkie użycie”.

– Dzieje się tak, gdyż wielu pracowników de facto korzysta ze sztucznej inteligencji, o czym pracodawcy często nie wiedzą. Sztuczna inteligencja zaszyta jest w najprostszych dokumentach. Próg wejścia jest tu w zasadzie zerowy, stąd potrzeba szkoleń dla pracowników – mówi ekspert.

Sztuczna inteligencja zaszyta jest w najprostszych dokumentach. Próg wejścia jest tu w zasadzie zerowy, stąd potrzeba szkoleń dla pracowników.

Nasz rozmówca dodaje, że przedsiębiorcy często nie zastanawiają się, komu powierzają dane firmy. W przypadku globalnych modeli językowych często nie konfigurują ustawień tak, by przetwarzanie danych było ograniczone.

– W obliczu AI Actu, podobnie jak w przypadku wcześniejszych reform, wiele firm zaczyna prace na ostatnią chwilę. Dopiero w ostateczności dokonują audytów narzędzi AI i tworzą niezbędne dokumenty. Jestem jednak pewien, że ta reforma okaże się dla firm formalnością i poradzą sobie z nią tak, jak poradzili sobie z RODO – dodaje ekspert.

Bot na pierwszej linii kontaktu, czyli po co firmom AI

Ekspertka z WeNet zaznacza, że firmy nie boją się inwestycji w AI, jeśli widzą korzyści, jakie ona przynosi. Nasza rozmówczyni podaje przykład WeNet Asystent AI.

– W ciągu dwóch miesięcy sprzedaliśmy ponad 1700 subskrypcji tego rozwiązania. To narzędzie, które zbiera informacje od potencjalnego klienta po to, by stworzyć dla niego ofertę. Nie potrzebujemy zostawiać do siebie kontaktu i czekać na telefon np. ze sklepu meblowego. Wirtualny asystent zna ofertę sklepu. Po uzupełnieniu informacji od klienta jest w stanie sam stworzyć ofertę. To sposób wykorzystywania AI w sektorze usługowym, który dobrze się sprawdza w biznesie – dodaje ekspertka.

Przeczytaj: Napisze pozew, doradzi albo wymyśli i wprowadzi w kosztowny błąd. „ChatGPT to nie adwokat ani doradca podatkowy”

Bota na pierwszej linii kontaktu coraz częściej stawiają też banki, placówki medyczne czy inne firmy usługowe.

– To odciąża personel od powtarzalnych pytań o terminy, cennik czy dostępność lekarzy.
Inne wykorzystanie AI to praca z dokumentami i wiedzą. Mam tu na myśli wyszukiwarki wewnętrzne, analizę umów/aktów prawnych, podsumowania, RAG. W legal-tech taki system automatycznie weryfikuje, czy przywołane orzeczenia rzeczywiście uzasadniają generowane wnioski, a w administracji publicznej narzędzia automatycznie wskazują niedozwolone klauzule we wzorcach umów, jeszcze zanim wszczęte zostanie formalne postępowanie – dodaje Marcin Dąbrowski.

Jak wyjaśnia, w kontekście Bielika – firmy sięgają po niego głównie tam, gdzie liczy się jakość języka polskiego i możliwość pracy na wrażliwych danych w lokalnym środowisku, nie w chmurze. To właśnie kwestia bezpieczeństwa danych i trafności odpowiedzi daje przewagę lokalnym modelom językowym, a nie globalnym gigantom.

Biznes nie chce paść ofiarą własnej legislacji

Nasi rozmówcy nie ukrywają, że uregulowanie zasad, jakimi rządzi się AI, to konieczność. Jak jednak zgodnie zaznaczają, ważne jest zachowanie równowagi tak, by wyważyć interesy użytkowników, których dane muszą być chronione także w sieci, i biznesu, dla którego AI stała się trwałym elementem budowania konkurencyjności.

– To krok w dobrą stronę. Jesteśmy zasypywani zdjęciami i filmami typu deepfake. Zakaz nudyfikacji także pozwoli oczyścić sieć z nieodpowiednich treści. Musimy szybko blokować niebezpieczeństwa związane z AI. Z drugiej strony mam spore obawy, żebyśmy nie stali się ofiarami własnej regulacji. By nie powstały mury, które ograniczą import technologii i inwestycje – podsumowuje Karol Drążek, dyrektor ds. IT w Mindbox.

Główne wnioski

1. W obliczu AI Actu wiele przedsiębiorstw będzie musiało zacząć nie od wdrażania nowych narzędzi, ale od sprawdzenia, gdzie sztuczna inteligencja jest już wykorzystywana. Problemem staje się tzw. shadow AI – pracownicy korzystają z chatbotów i funkcji opartych na AI w codziennej pracy, często bez wiedzy pracodawcy. Do tego dochodzą rozwiązania wbudowane w popularne programy, takie jak Outlook, Teams, systemy HR, CRM czy narzędzia marketingowe. Dlatego pierwszym krokiem do dostosowania się do AI Act będzie dla wielu firm wewnętrzny audyt, który pozwoli zidentyfikować wykorzystywane rozwiązania i ocenić związane z nimi ryzyka.
2. Nowe przepisy nie zabraniają korzystania ze sztucznej inteligencji ani nie nakładają obowiązków na każdą firmę wykorzystującą AI. Wprowadzają jednak zasadę, że w określonych przypadkach użytkownik powinien wiedzieć, kiedy ma do czynienia z systemem AI lub treścią wygenerowaną bądź zmanipulowaną przy jej użyciu. Dotyczy to m.in. chatbotów czy deepfake'ów.
3. Eksperci są zgodni, że sztuczna inteligencja przestaje być eksperymentem i staje się narzędziem wspierającym sprzedaż, obsługę klienta, analizę dokumentów czy wyszukiwanie informacji. Jednocześnie rośnie znaczenie bezpiecznego przetwarzania danych, odpowiedniego szkolenia pracowników i tworzenia zasad korzystania z AI w organizacji. W praktyce o sukcesie nie zdecyduje samo wdrożenie nowoczesnych rozwiązań, ale umiejętność ich świadomego i odpowiedzialnego wykorzystania.