Vijeće je danas odobrilo takozvani Zakon o umjetnoj inteligenciji,  s ciljem usklađivanja pravila o umjetnoj inteligenciji. Slijedio se pristup 'temeljen na riziku', što znači da što je veći rizik od nanošenja štete društvu, to su pravila stroža. Prvi je te vrste u svijetu i može postaviti globalni standard za regulaciju umjetne inteligencije. 

Cilj novog zakona je poticanje razvoja i prihvaćanja sigurnih i pouzdanih sustava umjetne inteligencije na jedinstvenom tržištu EU-a od strane privatnih i javnih aktera. Istodobno, cilj mu je osigurati poštovanje temeljnih prava građana EU-a i potaknuti ulaganja i inovacije na području umjetne inteligencije u Europi. Zakon o umjetnoj inteligenciji primjenjuje se samo na područja unutar zakona EU-a i predviđa izuzeća kao što su sustavi koji se koriste isključivo u vojne i obrambene svrhe, kao i u istraživačke svrhe.

Novi zakon kategorizira različite vrste umjetne inteligencije prema riziku. Sustavi umjetne inteligencije koji predstavljaju samo ograničeni rizik bili bi podložni vrlo blagim obvezama transparentnosti, dok bi visokorizični sustavi umjetne inteligencije bili odobreni, ali podložni nizu zahtjeva i obveza za dobivanje pristupa tržištu EU-a. Sustavi umjetne inteligencije poput, primjerice, kognitivne bihevioralne manipulacije i socijalnog bodovanja bit će zabranjeni u EU jer se njihov rizik smatra neprihvatljivim. Zakon također zabranjuje korištenje umjetne inteligencije za prediktivni rad policije na temelju profiliranja i sustava koji koriste biometrijske podatke za kategorizaciju ljudi prema određenim kategorijama kao što su rasa, vjera ili seksualna orijentacija.

Zakon o umjetnoj inteligenciji također se bavi korištenjem modela opće namjene AI (GPAI). GPAI modeli koji ne predstavljaju sistemske rizike podliježu nekim ograničenim zahtjevima, na primjer u pogledu transparentnosti, ali oni sa sistemskim rizicima morat će se pridržavati strožih pravila.

Kako bi se osigurala pravilna provedba, uspostavljeno je nekoliko upravnih tijela:

• Ured za umjetnu inteligenciju unutar Komisije za provedbu zajedničkih pravila diljem EU-a
• Znanstveni  panel neovisnih stručnjaka  za potporu provedbenim aktivnostima
• Odbor za umjetnu inteligenciju s predstavnicima država članica koji će savjetovati i pomagati Komisiji i državama članicama u dosljednoj i učinkovitoj primjeni Zakona o umjetnoj inteligenciji
• Savjetodavni forum za zainteresirane strane za pružanje tehničke ekspertize Odboru za umjetnu inteligenciju i Komisiji. 

Kazne za kršenje zakona o umjetnoj inteligenciji određuju se kao postotak globalnog godišnjeg prometa tvrtke prekršitelja u prethodnoj financijskoj godini ili unaprijed određeni iznos, ovisno o tome koji je veći. Mala i srednja poduzeća i novoosnovana poduzeća podliježu proporcionalnim administrativnim kaznama. 

Prije nego što neki subjekti koji pružaju javne usluge uvedu visokorizični sustav umjetne inteligencije, morat će se procijeniti utjecaj na temeljna prava. Akt također predviđa povećanu transparentnost u pogledu razvoja i upotrebe visokorizičnih sustava umjetne inteligencije. Visoko rizični AI sustavi, kao i određeni korisnici rizičnog AI sustava koji su javne osobe morat će biti registrirani u EU bazi podataka za visokorizične AI sustave, a korisnici sustava za prepoznavanje emocija morat će obavijestiti osobe kada su izložene takvom sustavu.

Zakon o umjetnoj inteligenciji osigurava pravni okvir pogodan za inovacije i ima za cilj promicanje regulatornog učenja utemeljenog na dokazima. Novi zakon predviđa da bi regulatorna okruženja za umjetnu inteligenciju, koja omogućuju kontrolirano okruženje za razvoj, testiranje i provjeru valjanosti inovativnih AI sustava, također trebala omogućiti testiranje inovativnih AI sustava u uvjetima stvarnog svijeta. 

Nakon što ga potpišu predsjednici Europskog parlamenta i Vijeća, zakonodavni akt će biti objavljen u Službenom listu EU u narednim danima i stupit će na snagu dvadeset dana nakon objave. Nova uredba primjenjivat će se dvije godine nakon stupanja na snagu, uz neke iznimke za posebne odredbe. 

(www.consilium.europa.eu, 21.5.2024.)

Fotografija: Unsplash