Uredba je prvi sveobuhvatni pravni okvir za umjetnu inteligenciju u svijetu. Cilj je novih pravila poticati pouzdanu umjetnu inteligenciju u Europi i izvan nje osiguravanjem da sustavi umjetne inteligencije poštuju temeljna prava, sigurnost i etička načela te uklanjanjem rizika vrlo snažnih i utjecajnih modela umjetne inteligencije.
Konkretnije, Uredba između ostalog zabranjuje rad umjetne inteligencije koji predstavlja neprihvatljiv rizik, utvrđuje popis aplikacija visokog rizika i uspostavlja upravljačku strukturu na europskoj i nacionalnoj razini. Izvršenje i provedbu Uredbe nadgleda Europski ured za umjetnu inteligenciju, koji je s radom počeo početkom 2024. godine, u okviru Europske komisije.
Usvojen je proporcionalni pristup koji se temelji na riziku. Dakle, za različite stupnjeve rizika, kao i za različitu vrstu tehnologije, propisuju se različiti zahtjevi, a stupnjevi rizika su sljedeći: neprihvatljiv rizik, koji je zabranjen, visoki rizik, sistemski rizik te nizak ili minimalan rizik.
Uz to je važno naglasiti kako se Uredba ne primjenjuje na softvere, aplikacije te sve druge proizvode koji nose oznaku UI/AI, već one koji su obuhvaćeni definicijom iz Uredbe. Uredba definira sustav umjetne inteligencije (UI sustav) kao „strojni sustav dizajniran za rad s različitim razinama autonomije, koji nakon uvođenja može pokazati prilagodljivost te koji, za eksplicitne ili implicitne ciljeve, iz ulaznih vrijednosti koje prima, zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koji mogu utjecati na fizička ili virtualna okruženja.“
Uredba sadrži popis zabranjenih UI sustava, što su npr. sustavi sa znatnim potencijalom za manipuliranje osobama primjenom subliminalnih tehnika ili koji koriste druge manipulativne ili obmanjujuće tehnike temeljem kojih se može utjecati na ponašanje ili profiliranje osoba, sustavi za daljinsku biometrijsku kategorizaciju i identifikaciju te za izvođenje zaključaka o emocijama osoba itd.
Visokorizični UI sustavi su oni koji stvaraju visok rizik za zdravlje i sigurnost ili temeljna prava pojedinaca pa time povlače i najotegotnije regulatorne zahtjeve iz Uredbe. Dopušteni su na EU tržištu samo ako su u skladu s određenim zahtjevima i prethodnim ocjenjivanjem sukladnosti. UI sustavi smatraju se visokorizičnima ako su raspoređeni u osam posebnih područja:
- biometrijska identifikacija i kategorizacija fizičkih osoba te raspoznavanje emocija
- upravljanje i rad kritične infrastrukture (poput električne energije, vodoopskrbe, plina)
- obrazovanje i strukovno osposobljavanje
- zapošljavanje, kadrovsko upravljanje i pristup samozapošljavanju (npr. postavljanje ciljanih oglasa za posao, analiza i filtriranje prijava za posao, evaluacija kandidata, donošenje odluka koje utječu na uvjete radnog odnosa poput promaknuća ili otkaza, i sl.)
- pristup osnovnim privatnim uslugama i javnim uslugama i pogodnostima te naknadama
- kazneni progon
- upravljanje migracijama, azilom i graničnim kontrolama
- upravljanje pravosuđem i demokratskim procesima.
Uredba očekivano određuje najopsežnije pravne zahtjeve za visokorizične UI sustave u pogledu podataka i upravljanja podacima, dokumentacije i vođenja evidencije, transparentnosti i informiranja korisnika, ljudskog nadzora, otpornosti, točnosti i sigurnost.
Dodatnu kategoriju čine UI modeli opće namjene sa sistemskim rizikom. Sistemski rizik znači rizik specifičan za sposobnosti visokog učinka UI modela opće namjene, koji ima znatan utjecaj na tržište EU zbog svojeg dosega ili zbog stvarnih ili razumno predvidljivih negativnih učinaka na javno zdravlje, sigurnost, temeljna prava itd. Za njih su propisane dodatne obveze.
Uredba ne propisuje dodatne zahtjeve u odnosu na ostale tj. niskorizične UI sustave, osim općeg načela transparentnosti koje podrazumijeva da su svi UI sustavi, koji su namijenjeni interakciji s pojedincima, razvijeni na način da je svakom pojedinačnom korisniku jasno da je u interakciji s UI sustavom.
Zaključno, valja naglasiti kako će se većina obveza iz Uredbe početi primjenjivati tek za 2 godine pa su praktični učinci Uredbe na adresate, kao i na samu dinamiku na tržištu, tek za vidjeti. Unatoč tome, već sada je izvjesno kako će primjena Uredbe povlačiti određene (novonastale) troškove za subjekte, posebice one koji će primjenjivati ili stavljati na tržište visokorizične UI sustave, ali će isto tako takav propis donijeti određenu razinu pravne sigurnosti i transparentnosti, posebice u ovom dinamičnom te brzo razvijajućem području kao što je umjetna inteligencija.
Tekst je pripremila Lucija Jambrović, Kovačević Prpić Simeunović odvjetničko društvo d.o.o.