Prije šest godina, memovi koji uspoređuju kineskog predsjednika Xi Jinpinga s Winnie-the-Poohom proširili su se kineskim internetom poput požara prije nego što su ih cenzori ugasili. Stvaranje i širenje sofisticiranijih digitalnih uradaka sada, međutim, može rezultirati i zatvorskom kaznom, za one koji ih kreiraju i koriste. Naime, Kinezi imaju nova pravila o tzv. deepfake tehnologiji, koji je od ovog tjedna u službenoj primjeni. Cilj im je sprečavanje zloporabe “deepfakea” uz istodobnu prilagodbu brzom razvoju industrije umjetne inteligencije (AI). Propise su zajednički predstavili Kineska uprava za kibernetički prostor, Ministarstvo industrije i informacijske tehnologije i Ministarstvo javne sigurnosti, i pritom naglasili da sintetički videozapisi i fotografije napravljeni korištenjem tehnologije duboke sinteze, poznatije kao “deepfake”, moraju biti jasno označeni kako bi se spriječila zabuna u javnosti.
U njima se ističe odgovornost kreatora “deepfakea” kao i njihovih korisnika, uključujući zabranu nezakonitih radnji korištenjem tehnologije, postavljanje sustava pregleda i identificiranje korisničkih podataka. - Specijalni propisi koje je uvela Kina za “deepfake” imaju i imat će dalekosežan utjecaj na razvoj internetskih usluga - rekao je Meng Dan, ravnatelj Instituta za informacijski inženjering Kineske akademije znanosti.
Tzv. deepfake tehnologija napravila je velik i brz skok u posljednjih nekoliko godina, a tehnike sinteze govora, zamjene lica pa čak i kreiranja digitalnih ljudi mogu biti korištene u pozitivne i zabavne svrhe, ali s obzirom na sve teže raspoznavanje stvarnih od sintetiziranih radova i uvelike zloupotrijebljene.
- Jednostavnim preuzimanjem aplikacije, korisnici mogu lako zamijeniti lice poznatog glumca svojim vlastitim na slici ili čak u cijeloj sceni iz filma u samo nekoliko sekundi. Međutim, sada će, baš kao i u reklamama u Kini, ljudi vidjeti malu oznaku u kutu tih videa i slika, što je dobra stvar kako bi se izbjegla zabuna i kriminalno korištenje. To pokazuje da Kina daje sve od sebe da održi korak s nevjerojatnim razvojem interneta i industrije umjetne inteligencije - rekao je za Global Times Ding Daoshi, analitičar u sektoru umjetne inteligencije. Osim tzv. deepfakea, AI art i AI roboti također su obuhvaćeni novim propisima. Mnogo je već problema bilo kada je riječ o tehnologiji zamjene lica. U 2019. ZAO, AI aplikacija koja može zamijeniti lica, postala je viralna nakon što su ljudi počeli postavljati svoje fotografije u ulozi protagonista raznih filmova. Međutim, tri dana nakon objavljivanja aplikacije, tvrtku koja stoji iza ZAO-a istražilo je Ministarstvo industrije i informacijske tehnologije zbog navodnog prikupljanja podataka o licima suprotno zakonima i propisima te je aplikacija uklonjena.
Osim takvih aplikacija, mnogi istraživački instituti i tvrtke također provode istraživanja o tehnologiji duboke sinteze. Početkom 2022. tim s Kineskog sveučilišta za znanost i tehnologiju nagrađen je za svoje metode stvaranja lažnih videozapisa na kineskom natjecanju umjetne inteligencije.
Stoga se nameće pitanje neće li nova pravila i zabrane usporiti brzo širenje tržišta umjetne inteligencije i dodatni razvoj tih tehnologija. Kineski stručnjaci tvrde da se to neće dogoditi.
- Glavni regulatori kibernetičkog prostora u Kini sada sprečavaju kriminalne radnje. Samo zaustavljanjem takvih nedjela dobre tvrtke mogu se dalje razvijati i izbjeći nepotrebne sporove - rekao je Ding.
Dosad nije bilo puno postignuća u smislu specifičnih zakonskih ili regulatornih ograničenja, čak ni u nekim europskim zemljama i SAD-u. EU je prije tri godine objavio tzv. Bijelu knjigu o umjetnoj inteligenciji, predlažući niz mjera za istraživanje i razvoj umjetne inteligencije i nadzor. Bijela knjiga također je izazvala reakcije mnogih velikih tehnoloških kompanija, uključujući Facebook i Google, koje su se bojale da će biti na meti regulatora kao što su bile nakon objave Opće uredbe o zaštiti podataka. Mnoge zemlje također prate i kažnjavaju zločine povezane s umjetnom inteligencijom temeljem postojećih zakona i propisa koji se tiču društvenih medija ili zaštite podataka.
Kineski novi propisi također se temelje na postojećim kineskim zakonima, istaknuli su kibernetički stručnjaci.
- Iako posebne kaznene mjere još nisu objavljene, propisi su formulirani u skladu s više zakonskih odredbi, pokrivajući mrežnu sigurnost, e-trgovinu, sigurnost podataka i zaštitu osobnih podataka - istaknuo je Ding i dodao da će se kazne izricati u skladu sa zakonima na određenom području.
Spram kineskih propisa, osobe čije lice se koristi u izradi “deepfakea” morat će na to dati pristanak. Tehnologija se neće smjeti koristiti za širenje lažnih informacija. Servisi koji pružaju usluge digitalnog sintetiziranja lica morat će prijaviti stvarne identitete svih uključenih. Svaka slika ili video nastali na taj način morat će biti jasno obilježeni. Potpuno se zabranjuje “deepfake” koji bi sadržavao i inače ilegalne sadržaje, kao i onaj koji se kosi s nacionalnom sigurnošću i interesima te šteti nacionalnom ugledu ili gospodarstvu.
