Zastupnici Europskog parlamenta brinu se da bi korištenje umjetne inteligencije (AI) u provedbi zakona i pravosuđu moglo dovesti do masovnog nadzora i kršenja temeljnih ljudskih prava.
Odbor za građanske slobode, pravosuđe i unutarnje poslove (LIBE) donio je rezoluciju s 36 glasova za, 24 protiv i 6 suzdržanih kojom se predlažu smjernice za odgovorno korištenje AI-ja.
Konkretno, europarlamentarci traže: ljudski nadzor nad sustavima umjetne inteligencije, otvorenim algoritmima i javnim revizijama; zabranu privatnih baza podataka za prepoznavanje lica osoba i vrednovanje ponašanja, odnosno rangiranje građana; te zabranu korištenja automatiziranih sustava na graničnim prijelazima.
Nacrt rezolucije naglašava mogućnost pristranosti i diskriminacije u algoritmima na kojima se temelje sustavi AI-ja i strojnog učenja.
Budući da rezultati sustava ovise o njegovim inputima, važno je uzeti u obzir pristranost algoritma. Trenutno su sustavi za identifikaciju temeljeni na AI-ju često netočni i mogu pogrešno identificirati manjinske etničke skupine, pripadnike LGBT+ zajednice, starije osobe i žene. Osim toga, predviđanja na temelju umjetne inteligencije mogu povećati postojeću diskriminaciju, što predstavlja sve veću zabrinutost u kontekstu provedbe zakona i pravosuđa.
Zastupnici Europskog parlamenta ističu da policija ne bi trebala koristiti umjetnu inteligenciju za predviđanje ponašanja na temelju prethodnih radnji ili karakteristika grupe. Što se tiče prepoznavanja lica, europarlamentarci napominju da različiti sustavi imaju različite implikacije te traže trajnu zabranu upotrebe biometrijskih detalja poput hoda, otisaka prstiju, DNK ili glasa za prepoznavanje ljudi u javnim prostorima.
Odbor također želi zabraniti tijelima nadležnima za provedbu zakona upotrebu privatnih baza podataka za prepoznavanje lica, poput Clearview AI. Zastupnici EP-a traže zabranu dodjeljivanja ocjena građanima na temelju umjetne inteligencije, ističući da bi se time kršila temeljna načela ljudskog dostojanstva. Konačno, prepoznavanje lica ne bi se trebalo koristiti za identifikaciju dok takvi sustavi ne budu u skladu s temeljnim pravima.
Europarlamentarce posebno zabrinjava korištenje biometrijskih podataka za daljinsku identifikaciju. Primjerice, automatizirani sustavi granične kontrole i projekt iBorderCtrl ("pametni sustav za otkrivanje laži" za ulazak putnika u EU) problematični su i trebali bi biti ukinuti, smatraju zastupnici i pozivaju Komisiju da po potrebi pokrene prekršajne postupke protiv država članica koje te sustave koriste.
„Upotreba umjetne inteligencije eksponencijalno raste, a stvari za koje smo mislili da su moguće samo u znanstveno-fantastičnim knjigama i filmovima – prediktivni policijski modeli, masovno nadziranje biometrijskim podacima - stvarnost su u nekim zemljama. Zadovoljan sam što većina Odbora za građanske slobode prepoznaje urođenu opasnost takvih praksi za našu demokraciju. Tehnički napredak nikada ne smije ići na štetu temeljnih ljudskih prava ", istaknuo je izvjestitelj Petar Vitanov (S&D, BG).
Europski parlament će o ovom nezakonodavnom izvješću raspravljati i glasati tijekom plenarne sjednice 13. i 16. rujna.
