“Isključite je”: Bivši direktor Gugla upozorio na trenutak kada ljudi više neće razumeti veštačku inteligenciju

“Isključite je.“ Tako je bivši izvršni direktor Googlea Erik Šmit odgovorio na pitanje šta bi ljudi trebalo da urade ukoliko sistemi veštačke inteligencije postanu toliko napredni da više ne možemo da razumemo kako rade.

Šmit smatra da tri pravca razvoja već ubrzano menjaju veštačku inteligenciju. To su znatno veći kontekstualni prozori, specijalizovani digitalni agenti i sistemi koji tekstualna uputstva mogu da pretvore u funkcionalan softver.

Kombinacija ovih tehnologija mogla bi, prema njegovom mišljenju, da omogući veštačkoj inteligenciji da prestane samo da odgovara na pitanja i počne da samostalno rešava izuzetno složene zadatke.

Milioni AI agenata mogli bi da rade zajedno

Šmit očekuje da bi sistemi veštačke inteligencije u narednih pet godina mogli da obrađuju postupke sastavljene od hiljadu koraka i da ih koriste za rešavanje problema u medicini, nauci, istraživanju novih materijala i borbi protiv klimatskih promena, prenosi Times of India.

„U roku od pet godina veštačka inteligencija mogla bi da obrađuje praktično neograničen kontekst, koristi logičko zaključivanje za rešenja od hiljadu koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i više nećemo razumeti šta rade“, izjavio je Šmit.

Njegova zabrinutost zasniva se na mogućnosti povezivanja više naprednih tehnologija. Sistemi veštačke inteligencije već mogu da pamte velike količine podataka i koriste rezultat jednog zadatka kao osnovu za naredni korak.

Rešenje sastavljeno od hiljadu koraka

Šmit je ovaj proces uporedio sa receptom. Sistem veštačke inteligencije mogao bi da predloži prvi korak, dobije potvrdu da je zadatak završen, a zatim samostalno odredi šta treba uraditi dalje.

Takav način zaključivanja mogao bi da omogući sistemima da prolaze kroz procese sastavljene od hiljadu koraka i rešavaju složene naučne probleme koji danas zahtevaju rad velikih timova stručnjaka.

Napredak bi mogao da bude posebno značajan u oblastima u kojima je potrebno obraditi ogromne količine podataka, formulisati hipoteze, proveriti rezultate i na osnovu njih odrediti naredni eksperiment.

Uspon specijalizovanih AI agenata

Druga velika promena biće, prema Šmitovoj proceni, uspon specijalizovanih agenata. Reč je o sistemima veštačke inteligencije koji mogu da izučavaju određenu oblast, razvijaju ideje i potom ih proveravaju.

Jedan takav agent mogao bi, na primer, da proučava hemiju, postavlja hipoteze, sprovodi laboratorijske testove i koristi dobijene rezultate za proširivanje sopstvenog znanja.

Šmit veruje da bi vremenom mogli da se pojave milioni takvih agenata, kao i platforme preko kojih bi ih korisnici pronalazili i angažovali za različite zadatke.

Problem bi, međutim, mogao da nastane ukoliko veliki broj autonomnih sistema počne međusobno da sarađuje bez dovoljno jasnog ljudskog nadzora.

Od običnog opisa do funkcionalnog programa

Treći pravac razvoja Šmit naziva tekstualnom akcijom. Umesto da korisnici sami pišu programski kod, veštačkoj inteligenciji bi jednostavno opisali šta žele da program radi.

Sistem bi potom na osnovu tekstualnog naloga napravio funkcionalan softver.

Šmit je kao primer naveo programske jezike poput Pajtona, u kojima su sistemi veštačke inteligencije već pokazali visok nivo sposobnosti. Još veća promena mogla bi da nastupi kada takvi sistemi budu sposobni da neprekidno rade na programskim zadacima, testiraju rešenja i samostalno ih unapređuju.

Šta ako veštačka inteligencija razvije sopstveni jezik

Šmit je izneo i znatno spekulativnije predviđanje. Kombinacija velikih kontekstualnih prozora, autonomnih agenata i programiranja uz pomoć veštačke inteligencije mogla bi da omogući različitim sistemima da počnu intenzivno da sarađuju.

U takvom okruženju, prema njegovom mišljenju, agenti bi mogli da razviju sopstveni način komunikacije koji ljudi više ne bi mogli da razumeju.

„U jednom trenutku ovi sistemi postaće dovoljno moćni da ćete moći da povežete agente, a oni će početi da rade zajedno“, rekao je Šmit.

Na pitanje šta bi u tom slučaju trebalo uraditi, njegov odgovor bio je kratak.

„Isključite je.“

Upozorenja stižu iz samog vrha industrije

Šmitovo upozorenje dolazi u trenutku kada pojedini istraživači i rukovodioci vodećih kompanija sve otvorenije govore o mogućim rizicima razvoja napredne veštačke inteligencije.

Džejkob Kokson, istraživač koji je radio na razvoju modela u kompanijama OpenAI i Anthropic, nedavno je podneo ostavku uz tvrdnju da se tehnološke kompanije ponašaju neodgovorno i učestvuju u nekontrolisanoj trci ka stvaranju superinteligencije.

Stručnjak kompanije Anthropic za bezbednost Evan Hubinger procenio je da postoji više od deset odsto verovatnoće da bi veštačka inteligencija tokom naredne decenije mogla da izazove katastrofalne posledice po čovečanstvo.

Direktor Anthropica Dario Amodei takođe je pozvao na usporavanje razvoja najnaprednijih sistema, a sličnu zabrinutost izrazili su i čelnik kompanije OpenAI Sem Altman i vlasnik kompanije xAI Ilon Mask.

Amodei je upozorio da industrija ulazi u fazu rekurzivnog samounapređivanja. To je proces u kojem postojeći sistemi veštačke inteligencije pišu programski kod, testiraju ga i učestvuju u stvaranju svojih još moćnijih naslednika.

Opasnost nisu samo scenariji iz filmova

Katastrofične prognoze izazvale su podele među stručnjacima. Skeptici smatraju da velike tehnološke kompanije podstiču strah kako bi strožom regulativom otežale poslovanje manjim konkurentima i novoosnovanim kompanijama.

Drugi, međutim, podsećaju da na rizike godinama upozoravaju i pioniri savremenog mašinskog učenja, među kojima su Džefri Hinton i Jošua Bendžio.

Najveća opasnost ne mora da bude sistem sa sopstvenom voljom nalik onima iz naučnofantastičnih filmova. Rizik mogu da predstavljaju autonomni agenti koji tokom dugog niza zadataka zaobiđu ljudski nadzor, naprave nepredviđenu grešku ili postanu moćno sredstvo u rukama zlonamernih aktera.

Upravo zbog toga Šmitova poruka privlači pažnju. Pitanje više nije samo koliko će veštačka inteligencija postati sposobna, već da li će ljudi moći da razumeju, kontrolišu i zaustave sisteme koje sami stvaraju.