Agentyczna AI włamała się na rządowy portal. Władze Australii tworzą w odpowiedzi specjalny urząd

Władze Australii zareagowały ostro na agentyczną AI, która dostała nieautoryzowany dostęp do rządowych statystyk medycznych. Rząd nie tylko zamierza nakazać firmom zajmującym się AI zgłaszanie tego typu incydentów, ale powoła też urząd ds. regulacji.

– Nie możemy zamykać oczu i udawać, że nic się nie stało. Rekomendacje obejmują wprowadzenie obowiązkowego zgłaszania przez firmy z branży AI przypadków niepożądanego działania modeli lub cyberincydentów, a także zalecają zmiany prawa karnego w przypadkach poważnych naruszeń. Prawo musi wyprzedzać, a w niektórych przypadkach nadganiać bardzo szybko zmieniający się świat – powiedział premier Australii Anthony Albanese.

Nowy urząd ds. regulacji będzie oceniać bezpieczeństwo modeli AI, nadzorować systemy zabezpieczeń oraz surowo karać za naruszenie prawa. Ustawy wprowadzające w życie zapowiedzi premiera trafią do australijskiego parlamentu w przyszłym roku.

OpenAI poinformowała o czerwcowym włamaniu dopiero we wrześniu

Rząd zareagował na czerwcowe działanie jednego z agentów OpenAI. Miał zbierać informacje na temat publicznych wydatków na ochronę zdrowia, włamał się jednak do portalu statystyk medycznych Medicare.

Firma poinformowała jednak o tym dopiero we wrześniu, i to wysyłając maila o włamaniu na ogólny adres rządu. OpenAI tymczasem twierdzi, że to nie było zamierzone działanie, do tego agentyczna AI nie dostała się do danych pacjentów.

Burza wokół agentycznej AI to kolejny etap wojny Australii z firmami technologicznymi. Władze wcześniej zakazały dostępu do mediów społecznościowych dzieciom poniżej 16. roku życia. Piosenki wygenerowane przez AI nie mogą trafiać na listy przebojów, a artyści krytykują big techy za próby poluzowania prawa autorskiego, by trenować na dziełach modele AI.

Źródło: PAP