Transparentnost umjetne inteligencije prema Uredbi o umjetnoj inteligenciji (AI ACT)

O smjernicama i praktičnim vodičima

'Popratno zakonodavstvo' uz Uredbu o umjetnoj inteligenciji može biti zbunjujuće na prvi pogled. Na primjer, Europska komisija je nedavno uz ove smjernice objavila praktični vodič (Pravilnik o transparentnosti sadržaja generiranog umjetnom inteligencijom) predstavljeno. Da biste ispravno razumjeli sustav klasifikacije, dovoljan je jednostavan razlikovni kriterij:

• Smjernice služe kao pravni interpretativni alat.. Oni definiraju pravni opseg primjene, pojašnjavaju ključne pojmove i utvrđuju iznimke za sve obuhvaćene sustave umjetne inteligencije u skladu s člankom 50. Uredbe o umjetnoj inteligenciji.
• Ovaj praktični vodič, s druge strane, usredotočen je na operativnu i tehničku implementaciju generativne umjetne inteligencije.. Utvrđuje specifične standarde za pružatelje usluga i operatere – na primjer, za provedbu mašinski čitljivih oznaka ili dizajn vidljivih etiketa za deepfake. 

Praktični vodič je ključan za praksu usklađenosti: u slučaju generativnih sustava, pridržavanje istog služi kao primarni dokaz da su zakonski zahtjevi ispunjeni. Ako se tvrtka od njega odmakne, mora proaktivno dokazati nadležnom tijelu da su njezina alternativna rješenja ekvivalentna i učinkovita.

Još uvijek slijedi mnogo materijala: delegirani akti, provedbeni akti, kodeksi prakse, kodeksi ponašanja, smjernice, harmonizirani standardi i zajedničke specifikacije. Za dobar početni pregled "pratećeg zakonodavstva" uz Uredbu o umjetnoj inteligenciji preporučujemo jasno strukturirani Informacijska stranica RTR-a o ovoj temi.

Dakle, prelazimo na sadržaj Smjernica o transparentnosti:

AI agenti: Prikažite se!

Upotreba autonomnih i poluautonomnih AI agenata u poslovanju brzo raste. Bilo da se radi o automatiziranim rezervacijama, izravnom kontaktu s kupcima ili čak neovisnim pregovorima o ugovorima – AI agenti sve više preuzimaju operativne zadatke.. Upravo ovdje konačne smjernice o članku 50. stavku 1. Uredbe o umjetnoj inteligenciji propisuju stroga pravila. Čim ti sustavi stupe u izravnu interakciju s fizičkim osobama pri obavljanju svojih zadataka, moraju se u skladu s tim identificirati..

U svakom slučaju mora biti jasno očito relevantnom pregovaračkom partneru ili kupcu da:

• Da je to oblik umjetne inteligencije.
• U ime koje osobe ili tvrtke agent djeluje.

Razlog ove stroge zahtjeve je temeljan i iz pravnog i iz ekonomskog kuta gledanja: odnosi se na transparentnost delegiranih ovlasti i pravnu odgovornost za radnje sustava.. Kada AI agent djeluje u pravnom svojstvu, drugoj strani mora biti apsolutno jasno na koga se zakonski mogu pripisati radnje tog sustava.

Svatko tko koristi agente umjetne inteligencije također bi trebao osigurati da su ovlasti agenta za donošenje odluka u svakom trenutku transparentne za drugu stranu. Prije integracije takvih sustava u operacije usmjerene prema kupcima, ključno je procijeniti i precizno provjeriti opseg ovlasti za djelovanje i obveze otkrivanja ne samo u skladu s Uredbom o umjetnoj inteligenciji, nego i s općim propisima društva i građanskog prava.

Čuvaj se "To je bilo očito, zar ne!"„ 

Uredba o umjetnoj inteligenciji (konkretno članak 50. stavak 1.) predviđa izuzeće od obveze davanja informacija u slučaju interaktivnih sustava umjetne inteligencije ako je informiranoj, promatračkoj i razumnoj osobi 'očito' da komunicira sa sustavom umjetne inteligencije.. Međutim, smjernice apsolutno jasno navode da se ovo izuzeće mora tumačiti iznimno restriktivno.. Samo opća svijest da AI postoji i da se sve više koristi nikako nije dovoljna..

Prema Komisiji, utvrđivanje je li interakcija doista očita zahtijeva procjenu na temelju kriterija utvrđenih u europskom zakonodavstvu o zaštiti potrošača (pojam "prosječnog potrošača").. Organizacije moraju točno procijeniti ciljanu skupinu, razumno predvidljivu publiku i njihov odgovarajući stupanj pismenosti o umjetnoj inteligenciji.. Apsolutno ključan čimbenik ovdje je sastav publike: čim je sustav dostupan široj javnosti i stoga može dosegnuti ranjive skupine (kao što su djeca, starije osobe ili osobe s kognitivnim oštećenjima), iznimka se općenito više ne primjenjuje, jer te osobe moraju biti učinkovito zaštićene.

S obzirom na to da glasovi zvuče sve ljudskije, avatari postaju sve realističniji, a mogućnosti dijaloga sve sofisticiranije, Komisija tvrdi da je prostor za prizivanje 'očiglednosti' ostavljen samo ako praktički više nema nikakve sumnje u umjetnu prirodu interakcije.. Priznajmo, iznimka se u praksi itekako može primijeniti – na primjer, u slučaju programskih asistenata za profesionalce ili internih AI alata koje osoblje, posebno obučeno za tu svrhu, koristi u organizacijske svrhe.. Međutim, pravilo o usklađenosti glasi ovako: općenita izjava poput 'Sigurno su to morali znati' promašuje poantu. Svaka osoba koja se poziva na ovaj izuzetak mora imati dokumentiranu procjenu specifičnu za ciljanu skupinu kako bi prošla regulatorni postupak pregleda..

Izuzeto od označavanja

Komisija pruža detaljan popis sadržaja koji nije podložan zahtjevima za označavanje i identifikaciju utvrđenima u članku 50. stavku 2. Uredbe o umjetnoj inteligenciji. Ovaj popis izričito uključuje:

• Izvorni kod i tehnički formati (uključujući API-je, SQL i JSON)
• Komunikacija mašina-mašina bez ljudske intervencije kao i sirovi podaci iz opažanja i mjerenja (kao što su zapisi s AI senzora, pametnih brojila ili GPS uređaja u industriji)
• Kratki izlazni podaci kao što su pojedinačne riječi ili oznake korisničkog sučelja
• Interne analize i sustavi preporuka koji samo strukturiraju, organiziraju ili rangiraju postojeće podatke, ali ne sažimaju niti mijenjaju njihov sadržaj.
• Pomoć pri rutinskim zadacima, kao što su provjere gramatičke ispravnosti, prijevodi, pretvorbe formata ili manje korekcije slika (npr. smanjenje šuma).
• Manje izmjene koje ne mijenjaju značenje izvornog materijala, kao što su jednostavni transkripti razgovora ili tehničke oznake na medicinskim snimkama.
• Privremeni rezultati u zatvorenim ciklusima procesa filmova, igara i oglašavanja (samo konačni proizvod treba biti označen)
• Prolazni sadržaj u stvarnom vremenu, kao što je u sektorima VR-a ili igara, koji se ne pohranjuje, pod uvjetom da označavanje tehnički nije izvedivo i da su korisnici o tome obaviješteni.

Osim toga, postoje posebna pravila za usko definirane industrijske i B2B scenarije.. Ako je izlaz umjetne inteligencije isključivo tehničke prirode, obrađuje ga samo zatvoreni krug stručnjaka, ne otkriva se izvana i zaštićen je od zlouporabe zaštitnim mjerama, zahtjev za označavanje ne primjenjuje se..

Detaljna analiza deep fake-ova 

Prema članku 50. stavku 4. Uredbe o umjetnoj inteligenciji, operateri (implementatori) koji koriste sustave umjetne inteligencije za generiranje ili manipulaciju takozvanim "deep fake" sadržajima moraju otkriti da je taj sadržaj umjetno generiran ili izmijenjen.. Smjernice sada igraju ključnu ulogu u pomaganju tvrtkama da definiraju pravni opseg i utvrde što se zapravo kvalificira kao deepfake..

U pravnom smislu, 'deepfake' se definira kao AI-generirani ili manipulirani slikovni, zvučni ili video sadržaj koji oponaša stvarne osobe, predmete, mjesta ili događaje, a koji bi osoba mogla pogrešno percipirati kao autentičan ili istinit.. Smjernice pružaju ključna pojašnjenja za ovu procjenu:

• Deepfake mora nalikovati realističnim, stvarno postojećim (ili vjerojatno postojećim) subjektima. Sadržaj koji očito krši zakone prirode (kao što je osoba koja leti bez tehničke pomoći ili izmišljena bića) izvan je područja primjene, budući da u takvim slučajevima ne postoji ozbiljan rizik od obmane.
• Bilo da se dio sadržaja pogrešno smatra autentičnim, uvijek se mora procijeniti u njegovom cjelokupnom kontekstu.. Smjernice jasno pokazuju da sam fotorealizam nije dovoljan.. Odlučujući čimbenici su kontekst u kojem je sadržaj objavljen i očekivanja publike – na primjer, pojavljuje li se manipulirani video u dokumentarcu (gdje se očekuje visoka razina istinitosti) ili kao dio prepoznatljive sekvence videoigre..
• Manja prilagodba postojećeg materijala uz pomoć umjetne inteligencije (npr. korekcije boja, smanjenje šuma, kozmetička poboljšanja ili prilagodbe pozadine potrebne za formatiranje) obično ne mijenja značajno dojam autentičnosti.. Takve standardne tehnike uređivanja ne pretvaraju sadržaj u deepfake.
• Za sadržaj koji je očito dio umjetničkog, kreativnog, satiričnog ili fiktivnog djela, smjernice predviđaju blaže zahtjeve za transparentnost.. U ovom slučaju otkrivanje mora biti učinjeno na takav način da ne ometa predstavljanje ili uživanje u djelu. Međutim, ovo izuzeće mora se tumačiti restriktivno i ne odnosi se na isključivo komercijalni ili informativni sadržaj (kao što su oglasi ili vijesti)..

Kada privatne osobe u isključivo osobnom i neprofesionalnom kontekstu generiraju i dijele deepfake sadržaje, oslobođene su obveze označavanja prema članku 50. stavku 4. Uredbe o umjetnoj inteligenciji u svojstvu operatera.. Iako obveza pružatelja usluga da osigura mašinski čitljivo označavanje na razini sustava ostaje na snazi, strogi zakonski zahtjevi su ublaženi za isključivo privatnu upotrebu. Ipak, u savjetodavnoj praksi klasifikacija uvijek ovisi o tome djeluje li osoba u konkretnom slučaju isključivo u privatnom svojstvu i ne radi komercijalnih ili profesionalnih svrha.

Ljudska provjera: Više od same provjere pravopisa

Za tekstove generirane ili manipulirane umjetnom inteligencijom koji pružaju informacije o pitanjima od javnog interesa, članak 50. stavak 4. Uredbe o umjetnoj inteligenciji predviđa osobito praktičan izuzetak od obveze označavanja.. Ovo se primjenjuje pod uvjetom da je sadržaj podvrgnut stvarnom ljudskom pregledu ili uredničkoj kontroli i da fizička ili pravna osoba snosi uredničku odgovornost.

Smjernice utvrđuju jasne zahtjeve u tom pogledu kako bi se spriječilo zaobilaženje obveza transparentnosti:

• Čisto automatizirana provjera, površinska provjera gramatičke i pravopisne ispravnosti ili formalno "gumiranje" bez ikakvog suštinskog razmatranja sadržaja ni u kojem slučaju nisu dovoljni.. Potrebno je pažljivo ispitivanje sadržaja od strane osoba s odgovarajućom stručnom prosudbom.. Stroga provjera činjenica o informacijama i izvorima apsolutni je minimum u tom pogledu.
• Koncept "uredničke odgovornosti" pretpostavlja da osoba ili organizacija (kao što su glavni urednik ili izdavačka kuća) preuzima konačnu pravnu odgovornost za publikaciju, kao i ovlast donositi odluke o njezinom sadržaju.. Kako bi se osigurala javna odgovornost, smjernice izričito zahtijevaju da identitet i kontaktni podaci voditelja obrade podataka budu lako dostupni i javno objavljeni (na primjer, u pravnim napomenama ili uvjetima i odredbama).
• Svaka značajna intervencija umjetne inteligencije koja se provodi tek nakon ljudske provjere (na primjer, kada AI automatski dodatno skraćuje ili preformulira odobreni tekst prije objave) općenito čini iznimku ništavnom.. Konačno ljudsko odobrenje mora, bez iznimke, obuhvatiti tekst u točno onom obliku u kojem je konačno objavljen..

Što učiniti sada:

Vrijeme za apstraktne interpretacije je završeno. Kako biste izbjegli da vas iznenade kad je to zaista važno, trebali biste provjeriti sljedeće točke do 2. kolovoza 2026.:

• Pažljivo provjerite konkretne slučajeve u kojima vaši AI sustavi komuniciraju izravno s fizičkim osobama (članak 50. stavak 1. Uredbe o umjetnoj inteligenciji).
• SOsigurajte da autonomni ili poluautonomni AI agenti učine transparentnom svoju umjetnu prirodu i svoje principe..
• Identificirajte interne i tehničke radne procese koji su izuzeti od ovih obveza (npr. B2B scenariji ili očite interakcije). 
• Osigurajte da 'ljudska provjera' uvijek bude posljednji korak prije konačne objave tekstova generiranih umjetnom inteligencijom na teme od javnog interesa..
• Ako koristite iznimku za urednički sadržaj, osigurajte da su identitet i kontaktni podaci odgovorne osobe ili tijela (npr. u pravnim napomenama) lako dostupni..
• Osigurajte da su obavijesti o transparentnosti i oznake pristupačne i – ovisno o ciljnoj skupini (npr. kada su uključena djeca ili starije osobe) – dizajnirane tako da budu lako razumljive..

Zaključak

Ovim smjernicama o transparentnosti Europska komisija nastoji osigurati pravnu jasnoću u vezi s vrlo složenim pitanjima transparentnosti.. U praksi je dokument, srećom, relativno proporcionalan, što, zahvaljujući jasno definiranim iznimkama, pruža vrijedan pravni okvir, osobito za industriju i interne tehničke radne procese.

U budućnosti će se rizici pojavljivati prvenstveno tamo gdje se usklađenost temelji na puko tvrdnjama, a ne na pouzdanim činjenicama.. S druge strane, oni koji na vrijeme uspostave robusne procese, ozbiljno shvate obveze dokumentiranja i vođenja evidencije (idealno koristeći praktični vodič) i održavaju transparentnost prema krajnjim korisnicima izbjeći će pravne sporove.. Svatko tko sada poduzme ove korake bit će na sigurnoj strani kada nova pravila stupe na snagu u kolovozu..

Često postavljana pitanja (FAQs)

Planirate li koristiti AI sustave ili trebate pomoć pri ispunjavanju novih zahtjeva za transparentnost?

U ATB.LAW-u pružamo tvrtkama praktične i utemeljene savjete o pravnim zahtjevima za korištenje AI sustava, osobito u pogledu Uredbe o umjetnoj inteligenciji. Procjenjujemo vaše postojeće AI aplikacije, prilagođavamo vaše strukture usklađenosti i osiguravamo da su vaše poslovne operacije pravno ispravne. Molimo kontaktirajte Stefan Knotzer i Roman Taudes u bilo kojem trenutku u office@atb.law ili telefonom na 01 39 12345 za besplatne početne konzultacije.