Deloitte stworzył raport przy użyciu AI. Teraz zwróci pieniądze australijskiemu rządowi

Firma doradcza Deloitte zgodziła się zwrócić część wynagrodzenia australijskiemu rządowi po tym, jak w jej raporcie wartym 440 tys. dolarów wykryto liczne błędy. Jak przyznało przedsiębiorstwo, przy opracowaniu dokumentu wykorzystano generatywną sztuczną inteligencję - donosi The Guardian.

Raport został przygotowany na zlecenie Departamentu Zatrudnienia i Relacji w Miejscu Pracy (DEWR) w grudniu 2024 r. i dotyczył ram prawnych oraz systemu IT służącego do automatyzacji kar w australijskim systemie zasiłków dla bezrobotnych. Po publikacji w lipcu 2025 r. okazało się, że dokument zawiera nieistniejące źródła i błędne cytowania.

Deloitte użył AI, teraz zwróci pieniądze

Błędy w raporcie ujawnił naukowiec z Uniwersytetu w Sydney, dr Christopher Rudge, który zwrócił uwagę na tzw. „halucynacje” generatywnej AI – sytuacje, w których model językowy wypełnia luki wymyślonymi informacjami. W poprawionej wersji dokumentu Deloitte przyznał, że używał narzędzi opartych na modelu Azure OpenAI GPT-4o, działających w infrastrukturze departamentu.

Choć firma nie powiązała błędów bezpośrednio z użyciem AI i utrzymuje, że wnioski raportu pozostają bez zmian, zgodziła się zwrócić ostatnią część wynagrodzenia po zakończeniu audytu.

Sprawa wywołała ostrą reakcję wśród polityków. Senator Partii Pracy Deborah O’Neill stwierdziła, że „Deloitte ma problem nie z AI, ale z ludzką inteligencją”, dodając, że częściowy zwrot pieniędzy to „częściowe przeprosiny za nieprofesjonalną pracę”.

Australijskie media, w tym Australian Financial Review, ujawniły, że w pierwotnej wersji raportu znalazły się odniesienia do nieistniejących publikacji naukowców z Uniwersytetu w Sydney i Uniwersytetu w Lund, a także do fikcyjnej decyzji sądowej w sprawie robodebt.

Według oświadczenia DEWR poprawiona wersja dokumentu zawiera jedynie „niewielkie korekty w przypisach i cytatach”, a rekomendacje pozostają bez zmian.