Europski parlament usvojio je Zakon o umjetnoj inteligenciji, prvu legislativu u svijetu koja regulira umjetnu inteligenciju (AI) na temelju njezine sposobnosti da uzrokuje štetu.
Europski zakon o AI usredotočen je prvenstveno na jačanje pravila o kvaliteti podataka, transparentnosti, ljudskom nadzoru i odgovornosti. U fokusu su također etička pitanja i izazovi provedbe AI u različitim sektorima, od zdravstva i obrazovanja do energetike i financija.
Europarlamentarci su o prijedlogu Zakona o AI, kojeg je prvobitna izradila Europska komisija, počeli raspravljati još u travnju 2021. Nakon uloženih 3300 amandmana i brojnih pregovora i kompromisa, donesena su pravila za razvoj i korištenje umjetne inteligencije s velikom većinom od 499 glasova za, 28 protiv i 93 suzdržana.
Što je AI?
Prvo pitanje na kojem su se zastupnici "spotaknuli" bilo je i naizgled najjednostavnije - kako definirati umjetnu inteligenciju? Ako ju definiraju usko, riskiraju da izvan opsega regulacije završe sustavi koji uzrokuju štetu. A ako pak donesu široku definiciju, postoji opasnost da će zakon uključivati velik broj sustava i ugušiti inovacije u Europi.
Na kraju su AI definirali kao sustav koji je "dizajniran za rad s različitim razinama autonomije i koji može, za eksplicitne ili implicitne ciljeve, generirati rezultate kao što su predviđanja, preporuke, ili odluke koje utječu na fizička ili virtualna okruženja". Ta je definicija bliža onoj OECD-a, nego izvornoj definiciji Komisije, koja je kritizirana kao preširoka.
Kamen temeljac Zakona o umjetnoj inteligenciji je sustav klasifikacije koji određuje razinu rizika koju tehnologija umjetne inteligencije može predstavljati za zdravlje i sigurnost ili temeljna prava građana.
Četiri razine rizika
Klasifikacija uključuje četiri razine rizika - neprihvatljiv, visok, ograničen i minimalan.
Sustavi za koje se smatra da predstavljaju neprihvatljiv rizik su primjerice sustav društvenog bodovanja koji Kina koristi kako bi rangirala svoje građane i sustav biometrijske identifikacije u stvarnom vremenu u javnim prostorima. Ti su sustavi strogo zabranjeni. Sustavi umjetne inteligencije visokog rizika uključuju autonomna vozila, medicinske uređaje i sustavi umjetne inteligencije koji se koriste za utjecaj na birače i ishod izbora. Ti su sustavi dopušteni, ali se moraju pridržavati propisa koji zahtijevaju rigorozno testiranje i odgovarajuću dokumentaciju o kvaliteti podataka. Jednostavnije rečeno, prije stavljanja visokorizičnog AI sustava na tržište ili u rad u EU, tvrtke moraju provesti prethodnu "ocjenu sukladnosti" i ispuniti dugačak popis zahtjeva kako bi osigurale sigurnost sustava. Sustavi umjetne inteligencije s ograničenim i minimalnim rizikom smiju se koristiti uz obveze transparentnosti. To su aplikacije koje već naširoko koristimo u svakodnevnom životu, poput filtra neželjene pošte ili videoigre s omogućenom umjetnom inteligencijom.
Problem ChatGPT-a
Te četiri klasifikacije predložila je Komisija još prije dvije godine. Problem je nastao kad se pojavio ChatGPT. Ova vrsta umjetne inteligencije - generativna AI temeljena na velikim jezičnim modelima - nema samo jednu namjenu - ljudi je mogu koristiti da umjesto njih napiše zadaću, ali i za stvaranje lažnih izvještaja. Europski parlament morao se vratiti na početak i pronaći rješenje kako regulirati generativni AI. Parlamentarci su odlučili zadržati koncept "umjetne inteligencije opće namjene", koji se definira kao "sustav umjetne inteligencije koji se može koristiti i prilagoditi širokom rasponu aplikacija za koje nije namjerno i posebno dizajniran". Uz to, odlučili su uvesti posebne obveze za "temeljne modele", koje su definirali kao "modele umjetne inteligencije koji se obučavaju na velikim podacima i mogu se prilagoditi širokom rasponu različitih zadataka".
Pružatelji temeljnih modela morat će procijeniti i ublažiti moguće rizike (za zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) i registrirati svoje modele u EU bazi podataka prije izlaska na tržište EU-a. Generativni AI sustavi koji se temelje na takvim modelima, poput ChatGPT-a, morat će biti u skladu sa zahtjevima transparentnosti, odnosno morat će jasno otkriti da je sadržaj generiran umjetnom inteligencijom i osigurati zaštitne mjere protiv generiranja ilegalnog sadržaja. Osim toga, tvrtke poput OpenAI-ja morat će i javno otkriti koje su materijale zaštićene autorskim pravima koristili za treniranje svojih modela AI-ja.
EU parlament je u zakon o AI-ju je uključio i opća načela o transparentnosti i privatnosti kojih će se morati pridržavati podjednako pružatelji AI-ja, ali i korisnici, bilo pravne ili fizičke osobe koje u profesionalne svrhe koriste sustave umjetne inteligencije, poput tijela javne vlasti, banaka ili supermarketa.
Predviđene i velike kazne
Ako se ne pridržavaju zakona o AI, tvrtke mogu biti kažnjene s do 40 milijuna eura, odnosno s do sedam posto godišnjeg prometa(što god je veće) ili mogu biti izbačene s europskog tržišta. Europarlamentarci se nadaju da će europska pravila o umjetnoj inteligenciji potaknuti tzv. "briselski efekt", prema kojem su tvrtke koje posluju na globalnoj razini usklađene sa standardima EU-a kako bi smanjile troškove koje bi imale usklađivanjem s različitim regulatornim režimima. Malo je vjerojatno da će tvrtke stvoriti zaseban AI chatbot za europske posjetitelje ili uskratiti Europljanima pristup svom chatbotu ili web stranici, uzimajući u obzir da je jedinstveno tržište EU-a ima oko 500 milijuna potrošača i gospodarstvo od 15 bilijuna eura.
"Zakon o umjetnoj inteligenciji postavit će standard u cijelom svijetu kad je riječ o razvoju i upravljanju umjetnom inteligencijom, osiguravajući da se ova tehnologija, koja će radikalno transformirati naša društva kroz goleme prednosti koje može ponuditi, razvija i koristi se u skladu s europskim vrijednostima demokracije, temeljnih prava i vladavine prava", kazao je nakon glasanja suizvjestitelj Dragoș Tudorache.
Zakon EU-a o umjetnoj inteligenciji vjerojatno neće stupiti na snagu prije 2025. ili čak kasnije, ovisno o tome hoće li zakonodavci dati tvrtkama godinu ili dvije za usklađivanje prije nego što provedba počne. Tvrtke se u tom vremenu trebaju pripremiti za usklađivanje s regulativom, a države članice se moraju pripremiti za provedbu pravila. Slično kao što je i s GDPR-om koji je na snagu stupio 2018., a s kojim države članice još uvijek muku muče, tako će vjerojatno biti i sa zakonom o AI-ju. Naime, nisu sve države članice podjednako spremne za regulaciju tako složene tehnologije kao što je AI. Prema indeksu digitalnog gospodarstva i društva (DESI) za 2022, oko devet posto tvrtki u Hrvatskoj koristi AI tehnologije, što je malo više od europskog prosjeka. Kako uvjeriti AI stručnjake da rade za javni sektor i kako pronaći ekspertizu bit će jedan od glavnih problema i za Hrvatsku kad je riječ o primjeni zakona o AI.