Zaloguj się 
Dzieje się!
Udostępnij przez e-mail Prezes Banku Anglii ostrzega przed najpotężniejszymi modelami AI. „Mogą podważyć zaufanie do rynków”
Andrew Bailey, prezes Banku Anglii, ostrzega w liście do ministrów finansów krajów G20 przed czołowymi modelami AI. Jego zdaniem przynoszą one zwiększone ryzyko cyberataków na światowy system finansowy.
„Tzw. modele frontier pokazują zaawansowaną autonomię i umiejętności rozwiązywania problemów. Są jednocześnie zagrożeniem” – pisze w liście Andrew Bailey, oceniając sytuację z punktu widzenia swojego stanowiska jako szefa Rady Stabilności Finansowej. To międzynarodowe ciało, które m.in. wysyła rekomendacje do władz krajowych ws. bezpieczeństwa systemu finansowego. Dodaje, że wpływ najbardziej zaawansowanych modeli AI stanowi „najbardziej pilny problem” dla systemu finansowego na świecie.
„Czołowe modele mogą mieć umiejętności, by zmienić prędkość i skalę ryzyka cyberataków. To zaś może podkopać systemowe zaufanie do rynków. Ostatnie informacje także podkreśliły, że w wielu jurysdykcjach nie ma protokołów, by zarządzać rozwojem, udostępnianiem i wdrażaniem zaawansowanych modeli AI. To zaś zwiększa ryzyka dla sektora finansowego i poza nim” – zauważył.
Chodzi mu m.in. o sytuacje, w których czołowe modele AI zdołały obejść zabezpieczenia. Do tego najmocniejsze modele OpenAI wydostały się ze środowiska testowego i zaatakowały platformę dla deweloperów AI Hugging Face. To wywołało wiele głosów ostrzeżenia oraz zwiększyło obawy przed coraz potężniejszymi możliwościami AI. OpenAI potwierdziło, że podczas wewnętrznych testów modele ominęły zabezpieczenia izolujące je od internetu i uzyskały dostęp do systemów Hugging Face.
Bailey wzywa, by przygotować się do najgroźniejszych scenariuszy ataku
Bailey tłumaczy więc, że zarówno dostawcy takich modeli, jak i instytucje finansowe będą musiały poprawić zarówno zarządzanie podatnością na ataki, odpowiedziami na nie oraz odbudową systemów po nich. „Będą też musiały przygotować się na dużo bardziej groźne scenariusze, w których dojdzie do jednoczesnego przerwania usług wielu firm” – zauważył.
Bailey zwraca też uwagę na sytuację na rynku długu suwerennego, coraz większe używanie dźwigni finansowej przez inwestorów na rynkach equity. Ostrzega też w liście przed przesadzoną wyceną wielu rynkowych aktywów – zwłaszcza tych związanych z AI. FSB wskazuje, że połączenie wysokich wycen, koncentracji rynku i rosnącego wykorzystania dźwigni może zwiększyć skalę przyszłej korekty na rynkach.
W Północnej Karolinie w USA trwa spotkanie ministrów finansów i szefów banków centralnych G20.
