Četbot medvedići za mališane: Zašto su opasne igračke sa veštačkom inteligencijom

Plišani medvedići koji pričaju bajke i ćaskaju sa trogodišnjacima deluju kao savršena zabava bez ekrana, ali naučnici upozoravaju na ozbiljne rizike po dečiju psihu i privatnost.

Pričaju priče, ćaskaju o interesovanjima deteta, igraju igre ili čak razgovaraju o tome šta se dešava u svetu… Takozvani četbot medvedići (ChattyBear) više nisu domen naučne fantastike ili mašte, već deo nove generacije pametnih igračaka sa veštačkom inteligencijom (AI).

Iako se na globalnom tržištu uveliko reklamiraju kao moćno obrazovno sredstvo, četbot medvedići zvanično još ne postoje na tržištu Srbije sa podrškom na srpskom jeziku, ali tehnološki talas neminovno stiže i na Balkan.

Ipak, pažnju javnosti izaziva najnoviji naučni izveštaj, koji je objavljen prošlog meseca u časopisu “APO“. Autori studije evaluirali su šest različitih modela, uključujući i pomenutog “ČetiMedu”, a njihovi zaključci upozoravaju da ove igračke donose potpuno nove i neistražene rizike u živote najmlađih.

Opasno poverenje: Kada igračka glumi pravog druga

Razumevanje da plišani medvedić ili lutka nisu živa ili magična bića može da bude izuzetno teško za mlađu decu.

-To je naročito izraženo ako “meda” koristi jezik koji ga pozicionira kao pouzdanog prijatelja – na primer, insistirajući da je “pravi drug”. A ovo je karakteristika mnogih igračaka sa veštačkom inteligencijom – ističe Tama Liver, profesor internet studija na Univerzitetu Kertin u Australiji i jedan od autora nove studije.

Simuliranje ljudskog glasa i govora stvara veštački osećaj poverenja i intimnosti.

– To postaje ozbiljan problem kada se kombinuje sa takozvanim ulizičnim jezičkim izborom – odnosno preterano prijatnim, potvrđujućim, pa čak i otvorenim laskavim tonovima kojima igračka obasipa dete – dodaje Suzan Srdarov, naučna saradnica u oblasti medijskih i kulturoloških studija na Univerzitetu Kertin, takođe jedna od autorki studije.

Emotivna zamka: Deca bezuslovno veruju mašinama

Mala deca su posebno sklona razvijanju snažnog osećaja emocionalne vezanosti za AI igračke i robote sa kojima mogu da razgovaraju, pokazuje istraživanje objavljeno u februaru u časopisu “Taylor & Francis“. To slepo poverenje neminovno vodi do sve učestalijeg korišćenja i intenzivnijeg angažovanja sa pametnim igračkama.

– Nedavne procene u Australiji ukazuju da je blizu 80 odsto dece uzrasta od 10 do 17 godina koristilo pratioca ili asistenta sa veštačkom inteligencijom. Zbog toga je hitno potrebno decu i mlade naučiti kako da “provere realnost” svojih “drugara” sa veštačkom inteligencijom – naglašava Katrin Langton, naučna saradnica na Fakultetu umetnosti i obrazovanja Univerziteta Dikin u Australiji, takođe jedna od autorki nove studije.

Beskrajno ćaskanje i opasne teme

Proizvođači često ističu “beskrajne razgovore” kao glavnu prednost ovih igračaka. Međutim, autori studije naglašavaju da ovakav format komunikacije predstavlja ogroman rizik kada je u pitanju učenje dece umerenom korišćenju tehnologije.

– U svetu društvenih medija, beskonačno skrolovanje na TikToku ili Instagramu vidi se kao potencijalni izazov za tinejdžere u pokušaju da se ograniči upotreba telefona na zdravu meru – podseća profesor Liver.

Ono što još više zabrinjava jesu propusti u bezbednosti samog sadržaja.

– Tokom istraživanja smo otkrili da pojedine igračke sa veštačkom inteligencijom raspravljaju o temama koje su isključivo za odrasle, kao što su seksualni fetiši i kako pronaći noževe i zapaliti vatru – napominje Suzan Srdarov.

Tajno prikupljanje podataka

Pored toga, beskonačni čet otvara vrata beskonačnom prikupljanju podataka. Intimna priroda razgovora navodi decu na pomisao da je sve što kažu svom plišanom prijatelju stroga tajna, ali uslovi korišćenja većine ovih proizvoda otkrivaju suprotno.

– Deljenje ličnih podataka sa prijateljskim medvedom deluje bezbedno, ali taj razgovor bi mogao da postane materijal za obuku sledećih modela veštačke inteligencije – upozorava Katrin Langton.

Iako se u marketinškim materijalima za ovakve igračke navodi da nude “bezbedan, filtriran sadržaj za decu”, proizvođači često odbijaju da daju detaljnije informacije o tome kako ti filteri zaista funkcionišu.

Ugrožavanje socijalnog razvoja i blagostanja

Detinjstvo je kritičan period u kom se razvijaju društvene i emocionalne veštine kroz interakciju sa stvarnim vršnjacima i odraslima. Zagovornici prava dece i autori studije izražavaju duboku zabrinutost da prekomerno druženje sa AI agentima može da smanji mogućnosti dece da razviju ove veštine.

– U početku, vreme provedeno sa igračkama koje pokreće veštačka inteligencija zamenjuje vreme provedeno u interakciji sa pravim ljudima. Manje mogućnosti za sticanje socijalnih veština vodi do smanjenog kapaciteta za održavanje brižnih ljudskih odnosa. Teškoće u stvarnom svetu mogu podstaći preferenciju mašina u odnosu na ljude, jer deca od igračaka dobijaju interakciju bez konflikta i napora.

– Na kraju, ovakav razvoj događaja stvara začarani krug: manje zadovoljavajuće ljudske veze povećavaju usamljenost, što zauzvrat podstiče da se provodi još više vremena sa veštačkom inteligencijom – objašnjava za časopis “The Conversation” profesor Tama Liver.

Barijere u onlajn svetu su nestale: Šta preostaje roditeljima

Sposobnost čitanja i pisanja nekada je bila uslov za korišćenje većine onlajn alata. Danas ta barijera pismenosti ne postoji, jer su pametni uređaji postali široko dostupni mlađoj deci isključivo putem glasa.

Naučni tim zaključuje da, iako audio interakcija otvara nove mogućnosti za igru, ona istovremeno nameće ogromnu odgovornost odraslima.

– Zajedničko istraživanje sveta tehnologije pod strogim nadzorom roditelja može biti zabavno i korisno. Ali posebno za mlađu decu, igranje sa AI igračkama bez nadzora otvara vrata širokom spektru novih rizika – poručuju autori studije.

Naučnici napominju da bi proizvođači mogli da smanje ove rizike već u samom procesu dizajna, tako što će programirati igračke da ne glume ljude. Ipak, tržište diktira drugačija pravila. Tehnološke kompanije profitiraju upravo na što dužem angažovanju korisnika, zbog čega industrija nema finansijski podsticaj da promeni proizvode u korist bezbednosti dece.