Sztuczna inteligencja bez chmury? HP i NVIDIA przenoszą duże modele na biurko 

Audio generowane przez AI. Może zawierać błędy.

Chodzi o kompaktową stację AI, która może wspierać lokalne eksperymenty, ochronę własności intelektualnej i ograniczać ryzyka tzw. shadow AI. Mimo niewielkich rozmiarów (pudełko wielkości książki), HP ZGX Nano został wyposażony w najnowszy układ NVIDIA Grace Blackwell, który zapewnia wysoką wydajność potrzebną do uruchamiania i testowania zaawansowanych modeli AI bez konieczności korzystania z chmury. Skąd tak innowacyjne rozwiązanie?

Przez ostatnie lata sztuczna inteligencja rozwijała się głównie w chmurze. Wraz z jej popularyzacją wzrosło jednak znaczenie kwestii bezpieczeństwa danych. Powód? Firmy pracujące na informacjach klientów, własnym kodzie czy know-how coraz częściej szukają sposobów, by korzystać z AI bez konieczności przekazywania wrażliwych danych zewnętrznym dostawcom.

W projektach wykorzystujących sztuczną inteligencję kluczową kwestią często nie jest bowiem sam model, lecz dane, które do niego trafiają. Mogą to być informacje o klientach, dokumenty firmowe, kod źródłowy czy inne materiały objęte np. tajemnicą przedsiębiorstwa. Im więcej takich danych firma przekazuje do zewnętrznych usług, tym więcej pytań o bezpieczeństwo, prywatność i zgodność z regulacjami.

Lokalne uruchamianie modeli AI pozwala ograniczyć konieczność przesyłania danych poza organizację. Daje to firmie większą kontrolę nad tym, gdzie i w jaki sposób przetwarzane są informacje.

Lokalne uruchamianie modeli AI pozwala ograniczyć konieczność przesyłania danych poza organizację. Nie zwalnia to oczywiście z obowiązku dbania o bezpieczeństwo systemów i odpowiednie zarządzanie dostępem. Daje jednak firmie większą kontrolę nad tym, gdzie i w jaki sposób przetwarzane są informacje.

Podstawą proponowanego przez HP rozwiązania jest platforma NVIDIA przeznaczona do pracy z zaawansowanymi modelami AI. Ale HP stawia nie tylko na wydajność sprzętu, ale także na łatwość wdrożenia. Służyć ma temu pakiet narzędzi HP ZGX Toolkit, który integruje się z popularnymi środowiskami i aplikacjami wykorzystywanymi przez programistów oraz specjalistów AI.

To ważne, ponieważ w praktyce problemem projektów związanych ze sztuczną inteligencją nie zawsze jest brak mocy obliczeniowej. Równie dużo czasu zajmuje przygotowanie środowiska pracy, instalacja niezbędnych narzędzi i przenoszenie modeli między różnymi systemami. Im prostszy jest ten proces, tym szybciej można przejść od pomysłu do testów i wdrożenia.

Nowe wyzwanie dla bezpieczeństwa

Rozwiązanie pomaga też zapobiegać innemu groźnemu zjawisku, jakim jest „shadow AI”. Chodzi o sytuację, w której nieświadomym kanałem wycieku staje się pracownik. O co chodzi? 

Jeszcze kilka lat temu problemem dla działów IT było przede wszystkim tzw. shadow IT, czyli korzystanie przez pracowników z niezatwierdzonych aplikacji i usług. Dziś coraz częściej mówi się o wspomnianym już shadow AI. Chodzi o sytuacje, w których pracownicy wykorzystują publiczne narzędzia sztucznej inteligencji do codziennej pracy, kopiując do nich fragmenty dokumentów, prezentacji, kodu czy analiz biznesowych.

Dla organizacji oznacza to utratę kontroli nad tym, jakie informacje trafiają do zewnętrznych usług i w jaki sposób są później przetwarzane. Lokalna platforma AI nie eliminuje tego ryzyka całkowicie, może jednak stanowić bezpieczniejszą alternatywę, pozwalając pracownikom korzystać z możliwości sztucznej inteligencji bez konieczności przesyłania danych poza firmę.

Szczególnym wyzwaniem jest korzystanie z AI do przetwarzania danych osobowych. Nie zwalnia to organizacji z obowiązków wynikających z RODO. Niezależnie od tego, czy model działa w chmurze, czy lokalnie, firma musi zadbać o odpowiednie podstawy prawne przetwarzania danych, ich bezpieczeństwo oraz prawa osób, których dane dotyczą.

Lokalne uruchamianie modeli może ograniczyć przekazywanie informacji zewnętrznym dostawcom i ułatwić kontrolę nad przepływem danych.

Lokalne uruchamianie modeli może jednak ograniczyć przekazywanie informacji zewnętrznym dostawcom i ułatwić kontrolę nad przepływem danych.

Lokalnie nie znaczy bez odpowiedzialności

W Polsce podobnie jak w całej Unii Europejskiej, obowiązuje Dyrektywa NIS2 dotycząca cyberbezpieczeństwa. Nakłada ona obowiązek zarządzania ryzykiem i raportowania incydentów w kluczowych sektorach gospodarki. Nowe przepisy oznaczają, że wdrażanie sztucznej inteligencji nie powinno się odbywać poza istniejącymi procedurami bezpieczeństwa, lecz stać się częścią szerszej strategii zarządzania ryzykiem w organizacji.

Lokalne uruchamianie modeli AI może ograniczyć zależność od zewnętrznych usług i dostawców. Z drugiej strony oznacza większą odpowiedzialność po stronie samej organizacji. To ona musi zadbać o aktualizacje, kontrolę dostępu, usuwanie podatności, ciągłość działania oraz bezpieczeństwo całego środowiska AI.

Lokalne uruchamianie modeli AI może ograniczyć zależność od zewnętrznych usług i dostawców. Z drugiej jednak strony oznacza większą odpowiedzialność po stronie samej organizacji.

Dla sektora finansowego szczególne znaczenie ma z kolei unijne rozporządzenie DORA, które nakłada na banki, ubezpieczycieli i inne instytucje finansowe obowiązki związane z zarządzaniem ryzykiem technologicznym oraz zapewnieniem ciągłości działania. Obejmuje to również korzystanie z narzędzi opartych na sztucznej inteligencji.

Jeśli AI działa w oparciu na zewnętrznych usługach, organizacja musi uwzględnić taką zależność w swoich procesach zarządzania ryzykiem. Lokalne uruchamianie modeli może ograniczyć część tych zależności, ale nie zwalnia z odpowiedzialności za bezpieczeństwo i niezawodność systemu. Awaria sprzętu, błędna konfiguracja czy nieuprawniony dostęp do danych nadal mogą zakłócić działanie kluczowych procesów biznesowych.

AI między biurkiem a centrum danych

Czy HP ZGX Nano ma zastąpić centra danych i usługi chmurowe? Absolutnie nie. Według ekspertów chodzi raczej o model hybrydowy, w którym najbardziej wrażliwe dane pozostają w firmie, a lokalne systemy służą do testowania, prototypowania i uruchamiania modeli AI. Większe projekty wymagające dodatkowej mocy obliczeniowej mogą być przenoszone do chmury lub wyspecjalizowanych środowisk obliczeniowych. Takie podejście pozwala lepiej kontrolować koszty eksperymentów z AI i łatwiej zdecydować, które procesy powinny pozostać wewnątrz organizacji, a które można bezpiecznie realizować z wykorzystaniem zewnętrznej infrastruktury.

Główne wnioski

1. Rozwój sprzętu sprawia, że zaawansowane modele AI mogą być uruchamiane lokalnie, co daje firmom większą kontrolę nad wrażliwymi danymi i własnością intelektualną.
2. Lokalne AI może ograniczać ryzyko wycieku informacji przez publiczne narzędzia sztucznej inteligencji, ale nie zwalnia organizacji z obowiązków związanych z cyberbezpieczeństwem, RODO czy regulacjami takimi jak NIS2 i DORA.
3. Przyszłość wykorzystania AI w biznesie prawdopodobnie będzie należeć do modelu hybrydowego, łączącego bezpieczeństwo lokalnych systemów z elastycznością i skalą usług chmurowych.

Artykuł powstał na zlecenie HP.