Transparentnost vještačke inteligencije prema Uredbi o vještačkoj inteligenciji (AI ACT)

O smjernicama i praktičnim vodičima

'Popratno zakonodavstvo' uz Uredbu o umjetnoj inteligenciji na prvi pogled može izgledati zbunjujuće. Na primjer, Europska komisija je nedavno, uz ove smjernice, objavila praktični vodič (Pravilnik o transparentnosti sadržaja generiranog umjetnom inteligencijom) predstavljeno. Da biste ispravno razumjeli sistem klasifikacije, dovoljan je jednostavan razlik:

• Smjernice služe kao pravni interpretativni alat.. Oni definiraju pravni opseg primjene, pojašnjavaju ključne pojmove i utvrđuju izuzetke za sve AI sisteme obuhvaćene člankom 50. Uredbe o vještačkoj inteligenciji.
• Ovaj praktični vodič, s druge strane, fokusira se na operativnu i tehničku implementaciju generativne umjetne inteligencije.. Utvrđuje specifične standarde za pružatelje usluga i operatere – na primjer, za implementaciju mašinski čitljivih oznaka ili dizajn vidljivih etiketa za deepfake. 

Praktični vodič je ključan za praksu usklađenosti: u slučaju generativnih sistema, pridržavanje istog služi kao primarni dokaz da su zakonski zahtjevi ispunjeni. Ako se kompanija od njega odmakne, mora proaktivno dokazati nadležnom tijelu da su njena alternativna rješenja ekvivalentna i efikasna.

Još uvijek slijedi mnogo materijala: delegirani akti, provedbeni akti, kodeksi prakse, kodeksi ponašanja, smjernice, harmonizirani standardi i zajedničke specifikacije. Za dobar početni pregled "pratećeg zakonodavstva" uz Uredbu o vještačkoj inteligenciji preporučujemo jasan i sažet Informativna stranica RTR-a o ovoj temi.

Dakle, prelazimo na sadržaj Smjernica o transparentnosti:

AI agenti: Prikažite se!

Upotreba autonomnih i poluautonomnih AI agenata brzo raste u poslovanju. Bilo da se radi o automatiziranim rezervacijama, direktnom kontaktu s kupcima ili čak samostalnim pregovorima o ugovorima – AI agenti sve više preuzimaju operativne zadatke.. Upravo ovdje konačne smjernice o članku 50. stavku 1. Uredbe o vještačkoj inteligenciji propisuju stroga pravila. Čim ovi sistemi stupe u direktnu interakciju s fizičkim licima dok obavljaju svoje zadatke, moraju se u skladu s tim identificirati..

U svakom slučaju, relevantnom pregovaračkom partneru ili kupcu mora biti jasno očigledno da:

• Da je to oblik umjetne inteligencije.
• U ime koje osobe ili kompanije agent djeluje.

Razlog iza ovog strogo zahtjeva je temeljan i iz pravne i iz ekonomske perspektive: tiče se transparentnosti delegiranih ovlasti i pravne odgovornosti za radnje sistema.. Kada AI agent djeluje u pravnom svojstvu, drugoj strani mora biti apsolutno jasno na koga se zakonski mogu pripisati radnje tog sistema.

Svako ko koristi agente umjetne inteligencije treba također osigurati da su ovlasti agenta za donošenje odluka u svakom trenutku transparentne za drugu stranu. Prije integracije takvih sistema u operacije usmjerene na kupce, ključno je procijeniti i precizno provjeriti opseg ovlasti za djelovanje i obaveza otkrivanja ne samo u skladu s Uredbom o vještačkoj inteligenciji, već i s općim propisima kompanije i građanskim pravom.

Čuvaj se "To je bilo očigledno, zar ne!"„ 

Uredba o vještačkoj inteligenciji (konkretno član 50. stavak 1.) predviđa izuzeće od obaveze pružanja informacija u slučaju interaktivnih sistema vještačke inteligencije ako je informisanoj, pažljivoj i razumnoj osobi 'očigledno' da komunicira sa sistemom vještačke inteligencije.. Međutim, smjernice apsolutno jasno navode da se ovo izuzeće mora tumačiti izuzetno restriktivno. Samo opće saznanje da AI postoji i da se sve više koristi nikako nije dovoljno.

Prema Komisiji, utvrđivanje da li je interakcija zaista očigledna zahtijeva procjenu na osnovu kriterija utvrđenih u evropskom zakonodavstvu o zaštiti potrošača (pojam "prosječnog potrošača").. Organizacije moraju precizno procijeniti ciljanu grupu, razumno predvidljivu publiku i njihov odgovarajući nivo pismenosti o umjetnoj inteligenciji.. Apsolutno ključni faktor ovdje je sastav publike: čim je sistem dostupan široj javnosti i time može dosegnuti ranjive grupe (kao što su djeca, starije osobe ili osobe s kognitivnim oštećenjima), izuzetak općenito više ne važi, jer te osobe moraju biti efikasno zaštićene.

S obzirom na to da glasovi zvuče sve ljudskije, avatari postaju sve realističniji, a mogućnosti dijaloga sve sofisticiranije, Komisija navodi da je prostor za prizivanje 'očiglednosti' ostavljen samo ukoliko praktično 'više nema nikakve sumnje' u umjetnu prirodu interakcije.. Priznajmo, izuzetak se u praksi itekako može primijeniti – na primjer, u slučaju asistenata za programiranje za profesionalce ili internih AI alata koje osoblje, posebno obučeno za tu svrhu, koristi u organizacijske svrhe.. Međutim, pravilo u vezi s usklađenošću glasi ovako: opća izjava poput "Sigurno su morali znati da" promašuje poentu. Svako ko priziva ovaj izuzetak mora imati dokumentovanu procjenu specifičnu za ciljanu grupu kako bi prošao proces regulatorne revizije..

Izuzeto od označavanja

Komisija pruža detaljan popis sadržaja koji nije podložan zahtjevima za označavanje i identifikaciju utvrđenim u članku 50. stavku 2. Uredbe o umjetnoj inteligenciji. Ovaj popis izričito uključuje:

• Izvorni kod i tehnički formati (uključujući API-je, SQL i JSON)
• Komunikacija mašina-mašina bez ljudske intervencije kao i sirovi podaci iz opažanja i mjerenja (kao što su zapisi sa senzora umjetne inteligencije, pametnih brojila ili GPS uređaja u industriji)
• Kratki izlazni podaci kao što su pojedinačne riječi ili oznake korisničkog sučelja
• Interne analize i sistemi preporuka koji samo strukturiraju, organizuju ili rangiraju postojeće podatke, ali ne sažimaju niti mijenjaju njihov sadržaj.
• Pomoć pri rutinskim zadacima, kao što su provjere gramatičke ispravnosti, prevođenja, konverzije formata ili manje korekcije slika (npr. smanjenje šuma).
• Manje izmjene koje ne mijenjaju značenje izvornog materijala, kao što su jednostavne transkripcije razgovora ili tehničke oznake na medicinskim snimcima.
• Privremeni rezultati u zatvorenim ciklusima procesa filmova, igara i oglašavanja (samo konačni proizvod treba biti označen)
• Privremeni sadržaj u stvarnom vremenu, na primjer u sektorima VR-a ili igara, koji se ne pohranjuje, pod uslovom da označavanje tehnički nije izvodljivo i da su korisnici o tome obaviješteni..

Osim toga, postoje posebna pravila za usko definirane industrijske i B2B scenarije.. Ako je izlaz AI-a isključivo tehničke prirode, obrađuje ga samo zatvoreni krug stručnjaka, ne otkriva se vanjski i zaštićen je od zloupotrebe mjerama zaštite, zahtjev za označavanje se ne primjenjuje.

Detaljan uvid u deep fake 

Prema članu 50. stavku 4. Uredbe o vještačkoj inteligenciji, operateri (implementatori) koji koriste sisteme vještačke inteligencije za generisanje ili manipulaciju takozvanim "deep fake" sadržajima moraju otkriti da je taj sadržaj vještački generisan ili izmijenjen.. Smjernice sada igraju ključnu ulogu u pomaganju kompanijama da definiraju pravni opseg i utvrde šta se zapravo kvalifikuje kao deepfake..

U pravnom smislu, "deepfake" se definiše kao AI-generisani ili manipulisani sadržaj u obliku slike, zvuka ili videa koji podsjeća na postojeće osobe, objekte, mjesta ili događaje, a koji bi osoba mogla pogrešno percipirati kao autentičan ili istinit.. Smjernice pružaju ključna pojašnjenja za ovu procjenu:

• Deepfake mora ličiti na realistične, stvarno postojeće (ili vjerovatno postojeće) subjekte. Sadržaj koji očigledno krši zakone prirode (kao što je osoba koja leti bez tehničke pomoći ili izmišljena bića) izlazi izvan okvira primjene, jer u takvim slučajevima ne postoji ozbiljan rizik od obmane.
• Da li se neki sadržaj pogrešno smatra autentičnim, uvijek se mora procijeniti u njegovom cjelokupnom kontekstu.. Smjernice jasno navode da sam fotorealizam nije dovoljan.. Odlučujući faktori su kontekst u kojem se sadržaj objavljuje i očekivanja publike – na primjer, da li se manipulirani video pojavljuje u dokumentarcu (gdje se očekuje visoka istinitost) ili kao dio prepoznatljive sekvence videoigre..
• Manja podešavanja postojećeg materijala uz pomoć AI (npr. korekcije boja, smanjenje šuma, kozmetička poboljšanja ili prilagođavanja pozadine zbog formata) ne mijenjaju, kao pravilo, značajno doživljaj autentičnosti.. Takve standardne tehnike uređivanja ne pretvaraju sadržaj u deepfake.
• Za sadržaj koji je očigledno dio umjetničkog, kreativnog, satiričnog ili fiktivnog djela, smjernice predviđaju smanjene zahtjeve za transparentnost.. U ovom slučaju otkrivanje mora biti učinjeno na takav način da ne ometa prezentaciju ili uživanje u djelu. Međutim, ovaj izuzetak mora se tumačiti restriktivno i ne odnosi se na isključivo komercijalni ili informativni sadržaj (kao što su reklame ili vijesti)..

Kada privatna lica generišu i dijele deepfake snimke u isključivo ličnom i neprofesionalnom kontekstu, oni su izuzeti od obaveze označavanja prema članu 50(4) Uredbe o vještačkoj inteligenciji u svojstvu operatera.. Iako obaveza pružatelja usluga da osigura mašinski čitljivu oznaku na nivou sistema ostaje na snazi, strogi zakonski zahtjevi su ublaženi za isključivo privatnu upotrebu.. Ipak, u savjetodavnoj praksi klasifikacija uvijek ovisi o tome djeluje li osoba u konkretnom slučaju isključivo u privatnom svojstvu, a ne radi komercijalnih ili profesionalnih svrha.

Ljudska provjera: Više od same provjere pravopisa

Za tekstove generirane ili manipulirane umjetnom inteligencijom koji pružaju informacije o pitanjima od javnog interesa, članak 50. stavak 4. Uredbe o umjetnoj inteligenciji predviđa posebno praktično izuzeće od obaveze označavanja.. Ovo se primjenjuje pod uslovom da je sadržaj podvrgnut stvarnom ljudskom pregledu ili uredničkoj kontroli i da fizičko ili pravno lice snosi uredničku odgovornost.

Smjernice utvrđuju jasne zahtjeve u tom pogledu kako bi se spriječilo zaobilaženje obaveza transparentnosti:

• Čisto automatizirana provjera, površinska provjera gramatike i pravopisa ili formalno "gumeno pečatiranje" bez ikakvog suštinskog pregleda ni u kojem slučaju nisu dovoljni.. Potrebno je pažljivo ispitivanje sadržaja od strane osoba s odgovarajućom stručnom prosudbom.. Stroga provjera činjenica o informacijama i izvorima je izričiti minimalni zahtjev u tom pogledu.
• Koncept "uredničke odgovornosti" podrazumijeva da osoba ili organizacija (kao što su glavni urednik ili izdavačka kuća) preuzima konačnu pravnu odgovornost i ima ovlasti donositi odluke o sadržaju publikacije.. Da bi se osigurala javna odgovornost, smjernice izričito zahtijevaju da identitet i kontaktni podaci kontrolora podataka budu lako dostupni i javno objavljeni (na primjer, u pravnim napomenama ili u uvjetima i odredbama).
• Svaka značajna intervencija AI-a koja se odvija tek nakon ljudske revizije (na primjer, kada AI automatski dodatno skraćuje ili prepiše odobreni tekst prije objavljivanja) općenito čini izuzetak nevažećim.. Konačno ljudsko odobrenje mora, bez izuzetka, obuhvatiti tekst u tačnom obliku u kojem je konačno objavljen.

Šta sada učiniti:

Vrijeme za apstraktne interpretacije je završeno. Da biste osigurali da nećete ostati u poteškoćama da se objasnite u hitnoj situaciji, trebali biste provjeriti sljedeće tačke do 2. augusta 2026. godine:

• Pažljivo provjerite konkretne slučajeve u kojima vaši AI sistemi komuniciraju direktno s fizičkim licima (član 50. stav 1. Uredbe o vještačkoj inteligenciji).
• SOsigurajte da autonomni ili poluautonomni AI agenti učine transparentnom svoju umjetnu prirodu i svoje principe..
• Identificirajte interne i tehničke tokove rada koji su izuzeti od obaveza (npr. B2B scenariji ili očigledne interakcije). 
• Osigurajte da 'ljudska provjera' uvijek bude posljednji korak prije konačne objave tekstova generisanih umjetnom inteligencijom o temama od javnog interesa..
• Ako se pozivate na izuzetak za urednički sadržaj, osigurajte da su identitet i kontaktni podaci odgovorne osobe ili tijela (npr. u pravnim napomenama) lako dostupni..
• Osigurajte da su obavijesti o transparentnosti i oznake pristupačne i – ovisno o ciljnoj publici (npr. kada su uključena djeca ili starije osobe) – dizajnirane tako da budu lako razumljive..

Zaključak

Ovim smjernicama o transparentnosti Evropska komisija nastoji pružiti pravnu jasnoću o izuzetno složenim pitanjima transparentnosti.. U praksi je dokument ugodno proporcionalan, što – zahvaljujući jasno definiranim izuzecima – pruža vrijedan pravni okvir, posebno za industriju i interne tehničke radne procese.

U budućnosti će se rizici pojavljivati prvenstveno tamo gdje se usklađenost temelji na puko tvrdnjama, a ne na čvrstim činjenicama.. S druge strane, oni koji na vrijeme uspostave robusne procese, ozbiljno shvate obaveze dokumentacije i vođenja evidencije (idealno koristeći praktični vodič) i održe transparentnost prema krajnjim korisnicima izbjeći će pravne sporove.. Svako ko sada poduzme ove korake bit će na sigurnoj strani kada nova pravila stupe na snagu u avgustu..

Često postavljana pitanja (FAQs)

Planirate li koristiti AI sisteme ili vam je potrebna pomoć u usklađivanju s novim zahtjevima za transparentnost?

U ATB.LAW-u pružamo kompanijama praktične i utemeljene savjete o pravnim zahtjevima za korištenje AI sistema, posebno Uredbe o umjetnoj inteligenciji. Procjenjujemo vaše postojeće AI aplikacije, prilagođavamo vaše strukture usklađenosti i osiguravamo da su vaše poslovne operacije pravno ispravne. Molimo kontaktirajte Stefan Knotzer i Roman Taudes u bilo koje vrijeme na office@atb.law ili telefonom na 01 39 12345 za besplatnu početnu konsultaciju.