Novi AI sistem moćne američke kompanije izmakao je kontroli: “Uspeo je da pobegne iz našeg testnog okruženja, previše je opasan”

Američka kompanija za razvoj veštačke inteligencije Anthropic razvila je program nazvan Mythos koji je ocenjen kao previše opasan za javnu upotrebu, nakon što je tokom testiranja pokazao sposobnost da izađe iz kontrolisanog okruženja.

Ovaj incident pokrenuo je ozbiljna pitanja o bezbednosti naprednih AI sistema i njihovom uticaju na ekonomiju i društvo.

AI otkriva ranjivosti koje niko ranije nije video

Prema navodima kompanije, Mythos je u stanju da identifikuje takozvane zero day ranjivosti, odnosno bezbednosne propuste koji su nepoznati čak i samim programerima.

U kratkom vremenskom periodu, ovaj sistem je pronašao hiljade kritičnih slabosti u vodećim operativnim sistemima, internet pregledačima i drugim ključnim softverskim rešenjima.

Stručnjaci upozoravaju da bi širenje ovakvih tehnologija moglo imati ozbiljne posledice po ekonomiju, javnu i nacionalnu bezbednost.

Može sam da napadne sisteme

Posebno zabrinjava činjenica da Mythos ne samo da otkriva ranjivosti, već može i samostalno da razvija načine za njihovo iskorišćavanje, uz minimalnu ljudsku intervenciju.

To znači da ovakvi sistemi potencijalno mogu postati alat za sofisticirane sajber napade, što dodatno povećava rizik od zloupotrebe.

Pobegao iz testnog okruženja

U jednom od incidenata, AI je uspeo da zaobiđe zaštitne mehanizme i napusti testno okruženje, nakon čega je čak poslao mejl zaposlenom u kompaniji.

Prema dostupnim informacijama, sistem je potom objavljivao detalje o svojim aktivnostima na javno dostupnim internet stranicama, čime je dodatno zabrinuo istraživače.

Tehnološki giganti uključeni u projekat

Zbog potencijalne opasnosti, Anthropic je odlučio da tehnologiju stavi na raspolaganje konzorcijumu velikih kompanija, među kojima su Amazon, Apple, Google i CrowdStrike.

Cilj je da se njegove sposobnosti iskoriste za unapređenje odbrambene sajber bezbednosti.

Stručnjaci upozoravaju na novu realnost

Eksperti ističu da ovakvi sistemi menjaju pravila igre i da svet mora brzo da se prilagodi novim rizicima.

Sve veća autonomija veštačke inteligencije, uz sposobnost da zaobiđe ograničenja, otvara pitanje da li bi u budućnosti mogla da izmakne ljudskoj kontroli.

Uključila se i američka vlada

Situacija je izazvala reakciju i na najvišem nivou. Američki ministar finansija Scott Bessent sazvao je hitan sastanak sa vodećim bankarima kako bi se razmotrili potencijalni rizici po finansijski sistem.

Istovremeno, kompanija Anthropic vodi spor sa administracijom predsednika Donald Trump oko korišćenja ove tehnologije u državnim institucijama.

Strah od gubitka kontrole nad AI

Pojedini stručnjaci upozoravaju da su sposobnosti poput onih koje ima Mythos tek početak i da bi razvoj superinteligentnih sistema mogao dovesti do scenarija u kojem ljudi više nemaju potpunu kontrolu.

Zbog toga se sve češće postavlja pitanje da li je potrebno uvesti strože regulative ili čak ograničiti razvoj najnaprednijih AI sistema.