ISTRAŽIVAČ veštačke inteligencije (AI) Džejkob Koksan, koji je radio u kompanijama Antropik i ranije OpenAI, podneo je ostavku uz ocenu da se obe tehnološke kompanije “kockaju s našim životima”, upozorivši da razvoj veštačke inteligencije ubrzano vodi ka sistemima koji bi mogli da nadmaše ljudske sposobnosti.
Foto: Kheng Ho Toh/Panthermedia/Profimedia
Koksan je svoju odluku objavio na društvenoj mreži Iks, uz upozorenje da svet ne bi trebalo da “potceni moć ove tehnologije”.
-Uskoro ćemo imati nadljudske sisteme koji mogu da hakuju bilo šta, preko noći iz temelja promene bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svedočili napretku u svakoj od tih oblasti, a napredak ne usporava, naveo je Koksan, prenosi Politiko.
On je rekao da Antropik, izumitelj Klod-a i OpenAI, stvaralac ChatGPT-a, “jure pravo ka samounapređujućoj superinteligenciji”, što se odnosi na scenario u kojem modeli veštačke inteligencije mogu da razviju sposobnijeg naslednika, stvarajući nezaustavljivu povratnu spregu.
-Ljudi koji grade veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve ubije do kraja ove decenije, napisao je Koksan u naknadnoj objavi.
Njegove tvrdnje potvrdio je i Evan Habinger, vodeći stručnjak Antropika za usklađivanje veštačke inteligencije sa ljudskim ciljevima i vrednostima, koji, međutim, nije napustio kompaniju.
-Džejkob je u pravu, mi zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude, naveo je Habinger.
On je procenio da je verovatnoća da se to dogodi u narednih deset godina veća od 10 odsto i dodao da još ne postoji plan kako bi se obezbedilo usklađivanje veštačke inteligencije sa ljudskim ciljevima u scenariju razvoja superinteligencije.
OpenAI i Antropik nedavno su prijavili incidente u kojima su agenti zasnovani na njihovim modelima postupili van predviđenih okvira, napustili izolovana testna okruženja i izveli neovlašćene sajber napade u stvarnom svetu.
Tanjug
BONUS VIDEO – Vatrena stihija u Deliblatskoj peščari