Europski parlament i zemlje članice Europske unije postigli su okvirni dogovor o ključnim pravilima regulacije korištenja umjetne inteligencije u EU, kojim će se zajamčiti sigurnost umjetne inteligencije, ali i poštivanje temeljnih prava građana na tom području, uz istodobno poticanje ulaganja i istraživanja. Privremeni dogovor uključuje i upotrebu umjetne inteligencije u biometrijskom nadzoru od strane vlasti i regulaciju sustava poput ChatGPT-ja.
Prva svjetska sila
Dogovor će osigurati da EU postane prva svjetska sila koja će dobiti sveobuhvatni zakon o umjetnoj inteligenciji, kojim se želi osigurati da proces razvoja i upotrebe umjetne inteligencije u Europi bude u potpunom skladu s pravima i vrijednostima Unije, uključujući i područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti. Europska unija tim zakonom želi osigurati bolje uvjete za razvoj i upotrebu te inovativne tehnologije, koja može donijeti brojne koristi, poput bolje zdravstvene skrbi, sigurnijeg i čišćeg prijevoza, učinkovitije proizvodnje i jeftinije i održivije energije. Dogovor je postignut nakon intenzivnih trodnevnih pregovora, a u sljedećim danima još treba dogovoriti konačnu verziju budućeg zakona. Španjolsko predsjedništvo EU dogovor proglašava povijesnim.
Jednako misli i europski povjerenik za unutarnje tržište Thierry Breton, koji pritom naglašava i činjenicu da Europska unija dogovorom o aktu o umjetnoj inteligenciji postaje prva zajednica koja uspostavlja jasna pravila za njezino korištenje, nazivajući novi zakon odskočnom daskom za startupove i istraživače u globalnom natjecanju na području umjetne inteligencije. "Ovo je povijesni dan. Europa se pozicionirala kao predvodnica shvaćajući važnost svoje uloge globalnog postavljača standarda", kazao je povjerenik Breton. I šefica Europske komisije Ursula von der Leyen ističe da novo zakonodavstvo predstavlja jedinstven pravni okvir za razvoj umjetne inteligencije, što će omogućiti razvoj tehnologije i pritom neće ugrožavati sigurnost i prava građana.
Dogovor predviđa da jezični sustavi poput ChatGPT-ja i sustavi umjetne inteligencije opće namjene (GPAI) moraju biti u skladu s obvezama transparentnosti prije nego što stignu na tržište, što uključuje izradu tehničke dokumentacije i usklađivanje s važećim zakonom EU o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za izobrazbu. Prijedlog sadrži i brojna ograničenja korištenja umjetne inteligencije. Neka od njih odnose se i na tijela progona.
U skupinu zabranjenih sustava koji predstavljaju neprihvatljiv rizik i koji se smatraju prijetnjom ljudima uvršteno je korištenje umjetne inteligencije za daljinsku biometrijsku identifikaciju "u stvarnom vremenu". Zabranjena je i "naknadna" daljinska biometrijska identifikacija na javnim mjestima, kao i biometrijska kategorizacija koja koristi osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest ili političku orijentaciju) za prognostički rad policije koji se temelji na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju pojedinca, za prepoznavanje emocija u području kaznenog progona.
Predviđene kazne
Zabranjuje se primjena takvih sustava na radnome mjestu i u obrazovnim ustanovama, kao i neselektivno prikupljanje snimki lica s interneta ili nadzornih snimki radi stvaranja baza podataka za prepoznavanje lica, čime se krše temeljna ljudska prava i pravo na privatnost. Zabranjuje se i opće izvlačenje biometrijskih podataka s društvenih mreža. U slučaju kršenja predviđene su kazne u rasponu od 7,5 milijuna eura ili 1,5 posto prometa do 35 milijuna eura ili sedam posto globalnog prometa.
