Zaloguj się 
Dzieje się!
Udostępnij przez e-mail Były pracownik ostro krytykuje kulturę pracy w OpenAI. „Skończył się czas prób i błędów”
Kolejny specjalista z branży AI skrytykował podejście swojego byłego pracodawcy do kwestii bezpieczeństwa rozwijanej technologii. David Robinson, który przez kilka lat pracował jako specjalista ds. bezpieczeństwa w OpenAI, opublikował swoje stanowisko na temat sytuacji w firmie stojącej za ChatemGPT na łamach amerykańskiego magazynu „The Atlantic”.
W swoim eseju były specjalista OpenAI ds. bezpieczeństwa wskazał, że panująca w firmie kultura szybkiego tempa pracy, skupiona na szybkim rozwoju, zwiększa ryzyko niepowodzeń – podaje Reuters.
Zdaniem Davida Robinsona firmy tworzące AI nie są nawet bliskie zachowywania wystarczającego stopnia ostrożności. Jego zdaniem branża powinna przyjąć dużo bardziej rygorystyczne systemy zabezpieczeń, takie jak obowiązuja w energetyce jądrowej czy lotnictwie. Wskazał także, że biorąc pod uwagę tempo i sposób pracy w branży AI, nie jest niczym zaskakującym, że może dojść do incydentów takich jak głośny nieautoryzowany cyberatak agenta OpenAI na platformę Hugging Face.
„Skończył się czas prób i błędów” – napisał w swoim eseju David Robinson, cytowany przez Reutersa.
Jak zwraca uwagę brytyjski dziennik „The Guardian”, komentując esej Robinsona, swoimi zastrzeżeniami dotyczącymi bezpieczeństwa AI podzielił się ostatnio także Geoffrey Irving. On również pracował w OpenAI. Był także głównym naukowcem w brytyjskim rządowym Instytucie Bezpieczeństwa Sztucznej Inteligencji. Potem dołączył do Resolution, firmy zajmującej się badaniami nad bezpieczeństwem AI.
W opublikowanym w sobotę artykule dla magazynu „Time” Geoffrey Irving napisał: „Ostatnie ostrzeżenia o potencjalnie destrukcyjnej sile sztucznej inteligencji bagatelizują powagę sytuacji. Uważam, że istnieje około 50 proc. szans na to, że wszyscy umrzemy z powodu rozwoju systemów sztucznej inteligencji inteligentniejszych od człowieka. Decydujące w tej kwestii będą nasze działania w ciągu najbliższych 2-10 lat”.
Polecamy:
