EU prepovedala aplikacije za nudifikacijo in prestavila rok za sisteme UI

Evropski parlament in Svet EU sta dosegla politični dogovor o poenostavitvi pravil umetne inteligence v okviru paketa Digital Omnibus. Ključna sprememba za podjetja je jasna časovnica, pravila za visoko tvegane UI sisteme na področjih biometrike, kritične infrastrukture, izobraževanja, zaposlovanja, migracij in mejne kontrole bodo začela veljati 2. decembra 2027. Za sisteme, vgrajene v proizvode kot so dvigala ali igrače, je rok 2. avgust 2028. Dogovor mora še formalno potrditi Evropski parlament in Svet EU.

Za slovenska podjetja, ki razvijajo ali uvajajo UI, to pomeni, da imajo dve leti, da uskladijo sisteme z zahtevami UI Akta, preden se začnejo kazni. Kazni po UI Aktu za kršitve pravil o visoko tveganih sistemih znašajo do 30 milijonov evrov ali 6 odstotkov globalnega letnega prometa, kar je višje kot po GDPR.

Visoko tvegani UI sistemi po UI Aktu so točno definirani. Podjetja, ki jih razvijajo ali uvajajo, morajo do decembra 2027 izpolniti vrsto zahtev: vzpostaviti sistem za upravljanje tveganj, zagotoviti sledljivost podatkov za učenje modelov, poskrbeti za tehnično dokumentacijo, omogočiti človeški nadzor in registrirati sistem v evropski bazi podatkov.

V praksi to zadeva vsako slovensko podjetje, ki uporablja UI za odločanje o zaposlitvi, ocenjevanje kreditne sposobnosti, razvrščanje kandidatov za šolanje ali sisteme za nadzor delavcev. Prav tako zadeva bolnišnice, ki uvajajo UI za diagnostiko, in javne ustanove, ki uvajajo UI v procese, ki zadevajo posameznike.

Dogovor širi dostop do regulatornih peskovnikov, vključno z EU-ravni peskovnikom, kjer podjetja lahko testirajo UI rešitve v realnih pogojih brez polne regulatorne odgovornosti. To je praktična prednost za manjša slovenska podjetja in startupe, ki nimajo pravnih kapacitet za popolno skladnost pred lansiranjem.

Prepoved aplikacij za nudifikacijo

Dogovor prvič eksplicitno prepoveduje UI sisteme, ki generirajo nekonsenzualne spolno eksplicitne vsebine ali gradivo spolnega izkoriščanja otrok. To vključuje tako imenovane nudification aplikacije, ki iz fotografij oblečenih oseb generirajo gole slike brez privolitve. Prepoved velja za razvoj, ponudbo in distribucijo takšnih orodij v EU. Za platforme, ki bi takšna orodja ponujale ali gostile, to pomeni neposredno odgovornost.