Trump podpisał z firmami „konstytucję” AI. Chodzi o bezpieczeństwo działania modeli

Prezydent USA Donald Trump podpisał wraz z szefami największych firm technologicznych „coś w rodzaju konstytucji” dla AI. Oznajmił również, że „oficjalnie” zmienił nazwę sztucznej inteligencji na „superinteligencję”.

Trump spotkał się z przedstawicielami sześciu firm z branży AI: Google, Meta, OpenAI, Anthropic, xAI i Nvidii. Uczestnicy spotkania podpisali dokument, który prezydent określił mianem „czegoś w rodzaju konstytucji”. Oficjalnie jest to porozumienie zawarte pod auspicjami Białego Domu dotyczące rozwoju i bezpieczeństwa tzw. superinteligencji.

W ramach krótkiej deklaracji firmy rozwijające najbardziej zaawansowane modele AI zobowiązały się do samodzielnego dbania o bezpieczeństwo swoich technologii oraz budowania zaufania klientów i opinii publicznej.

Polecamy również: Twórca PizzaPortal i iTaxi bierze się za usługi prawne. Lech Kaniuk buduje startup oparty na AI – XYZ

„Konstytucja” AI ma wzmocnić bezpieczeństwo modeli

Każda z firm ma wdrożyć cztery poziomy kontroli. Chodzi m.in. o wewnętrzny monitoring zgodności modeli z ich pierwotnymi założeniami. Ma to służyć zwiększeniu bezpieczeństwa i ograniczeniu ryzyka niepożądanych działań systemów, takich jak próby włamywania się do obcych sieci czy systemów.

Drugie założenie dotyczy tworzenia wewnętrznych zespołów odpowiedzialnych za sprawdzanie, czy mechanizmy bezpieczeństwa działają prawidłowo i czy skutecznie eliminują wykryte problemy.

Kolejny punkt zakłada zaangażowanie niezależnych, zewnętrznych audytorów do oceny rozwijanych systemów. Ostatni element przewiduje utworzenie niezależnego komitetu złożonego z przedstawicieli zarządów firm, który będzie nadzorował realizację zobowiązań i analizował przygotowywane raporty.

Firmy zajmujące się AI mają również regularnie spotykać się w celu wypracowywania wspólnych standardów i dobrych praktyk. W przyszłości przyjęte zasady mogą stać się podstawą regulacji prawnych.

Szefowie firm o nowej deklaracji

Po spotkaniu z Trumpem szefowie firm technologicznych odnieśli się do podpisanego dokumentu.

Prezes Mety Mark Zuckerberg powiedział, że deklaracja ma „dać ludziom zaufanie do tego, że technologia działa w pożądany sposób”. Ocenił także, że spotkanie było „historyczne” i stanowi „dopiero początek”.

Z kolei szef Anthropica podkreślił, że rozwój AI wiąże się z realnymi zagrożeniami. Dodał jednak, że trwają prace nad mechanizmami ograniczającymi te ryzyka.

Prezes Nvidii stwierdził natomiast, że „rozwój technologii idzie w parze ze zwiększaniem jej bezpieczeństwa i nie ma w tym żadnej sprzeczności”.

Obawy związane z rozwojem AI starał się tonować również Elon Musk. Szef SpaceX i xAI przyznał, że technologia znacząco zmieni rynek pracy, ale ocenił, że korzyści, zwłaszcza w obszarze medycyny, „przeważą nad kosztami”.

Jego zdaniem najbardziej prawdopodobny scenariusz to taki, który będzie „wyjątkowo korzystny” i odpowiada wizji przyszłości, jakiej oczekuje społeczeństwo.

Polecamy również: AI wycina menedżerów. „Firmy traktują to, jak szansę na odzyskanie zwinności” (WYWIAD) – XYZ

Firmy AI będą samy się nadzorować

Z wypowiedzi Trumpa wynika, że porozumienie opiera się na dobrowolnych zobowiązaniach i mechanizmach samokontroli, bez wprowadzania dodatkowych regulacji państwowych. Zapewnił jednocześnie, że „jeśli coś pójdzie nie tak, poinformuje o tym opinię publiczną”.

– Ale to one będą same się nadzorować – dodał prezydent USA.

Trump poinformował również, że „oficjalnie”, na mocy specjalnego rozporządzenia, zmienił nazwę „sztuczna inteligencja” na „superinteligencja”. Zmiana ma zostać uwzględniona w dokumentach administracji federalnej.

Jak zapewnił prezydent, „wszystkim uczestnikom spotkania spodobała się nowa nazwa”.

Źródło: PAP