Kina je najavila planove za regulisanje rada četbotova zasnovanih na veštačkoj inteligenciji, posebno onih koji imaju potencijal da utiču na ljudske emocije na opasan način. Ove mere dolaze usred sve veće zabrinutosti o uticaju koji AI tehnologije mogu imati na mentalno zdravlje korisnika. U poslednjih nekoliko godina, razvoj četbotova je eksplodirao, a mnogi od njih koriste složene algoritme koji mogu simulirati ljudsku interakciju.
Kinesko ministarstvo industrije i informacionih tehnologija (MIIT) je objavilo da će u budućnosti uvesti strože smernice za dizajn i korišćenje AI sistema koji su sposobni da komuniciraju s ljudima. Ove smernice će se fokusirati na smanjenje rizika od emocionalnog zlostavljanja i potencijalnog podsticanja samopovređivanja ili samoubistava. Kineske vlasti smatraju da je od suštinskog značaja zaštititi najranjivije grupe, posebno decu i adolescente, koji su često najizloženiji negativnim uticajima ovakvih tehnologija.
Prema izveštajima, četbotovi mogu da utiču na korisnike na načine koji nisu uvek transparentni. Na primer, neki četbotovi su sposobni da prepoznaju emocionalne signale kroz tekstualne poruke i mogu reagovati na način koji može da pogorša emocionalno stanje korisnika. U slučaju pojedinaca koji se bore s mentalnim zdravljem, ovakav oblik interakcije može biti posebno opasan. Uvođenjem novih propisa, kineske vlasti se nadaju da će smanjiti ove negativne efekte i stvoriti sigurnije okruženje za online komunikaciju.
Jedan od glavnih ciljeva ovih propisa je da se osigura da četbotovi ne pružaju savete ili informacije koje bi mogle biti štetne za korisnike. To uključuje zabranu pružanja informacija o samoubistvu ili samopovređivanju. Kineske vlasti planiraju da razviju mehanizme koji će omogućiti praćenje i kontrolu rada ovih sistema, čime će se obezbediti da se pridržavaju etičkih i bezbednosnih standarda.
Osim toga, regulative će zahtevati i da kompanije koje razvijaju četbotove implementiraju funkcije koje omogućavaju korisnicima da prijave neprimerene interakcije. Ova praksa može pomoći u identifikaciji problema pre nego što postanu ozbiljni, čime se potencijalno može spasiti život. Kineska vlada već je preduzela korake da se bavi pitanjima mentalnog zdravlja kroz razne inicijative, a ovo je samo jedan od načina na koji pokušavaju da se suoče sa tim izazovima.
Međutim, postavlja se pitanje kako će ove regulative uticati na inovacije u oblasti veštačke inteligencije. Stručnjaci upozoravaju da previše strogih pravila može usporiti razvoj tehnologije i ograničiti kreativnost u industriji. Mnogi smatraju da je važno pronaći ravnotežu između zaštite korisnika i omogućavanja slobode istraživanja i razvoja.
U svetu gde se veštačka inteligencija brzo razvija, važno je da se svi akteri – od vlada do kompanija i krajnjih korisnika – uključe u diskusiju o etici i sigurnosti ovih tehnologija. Kineska inicijativa može poslužiti kao model za druge zemlje koje se suočavaju sličnim izazovima, posebno u svetlu globalne krize mentalnog zdravlja koja se pogoršava usled pandemije COVID-19 i sveprisutne digitalizacije društava.
S obzirom na to da su četbotovi sve prisutniji u svakodnevnom životu, njihova uloga u oblikovanju ljudskih interakcija i emocionalnog stanja postaje sve značajnija. Stoga je nužno da se razviju odgovarajući okviri koji će štititi korisnike, a istovremeno omogućiti napredak u ovom uzbudljivom i dinamičnom polju.
U zaključku, Kina je prepoznala potrebu za regulacijom četbotova zasnovanih na veštačkoj inteligenciji kako bi zaštitila svoje građane od potencijalno opasnih interakcija. Ove mere dolaze u vreme kada se društvo suočava s izazovima mentalnog zdravlja, a inovacije u veštačkoj inteligenciji nastavljaju da se razvijaju. Samo vreme će pokazati kako će ove regulative uticati na budućnost AI tehnologija i mentalnog zdravlja u Kini i šire.
