Umjetna inteligencija (UI) i osjetljivi podaci

Ključne tačke na prvi pogled

• Član 9. GDPR-a zabranjuje obradu osjetljivih podataka. Dozvoljena je samo u slučaju nekog od izuzetaka iz člana 9. stav 2. GDPR-a, u praksi najčešće samo uz izričit pristanak.
• Čl. 9. GDPR isključuje primjenu čl. 6. GDPR-a. „Legitiman interes“ nije dovoljan u slučaju osjetljivih podataka.
• Namjera ponuđača nije bitna. Čak i nenamjerno ili posredno prikupljeni osjetljivi podaci potpadaju pod zabranu.
• Sud u Kelnu (LG Köln, 33 O 120/24) prvi je put primijenio ova načela na AI chatbot i zabranio Snapchatu obradu podataka bez privole.
• Uredba o vještačkoj inteligenciji dopunjuje GDPR: ona zabranjuje određene prakse vještačke inteligencije sa osjetljivim podacima i uspostavlja usko ograničenu dozvolu za korekciju pristrasnosti u čl. 4a Uredbe o VAI.
• GDPR se direktno primjenjuje u Austriji. Agencija za zaštitu podataka (DSB) potvrdila je da se za osjetljive podatke u sistemima vještačke inteligencije dodatno mora ispuniti član 9. stav 2. GDPR-a.

Šta su osjetljivi podaci prema čl. 9. GDPR-a?

Čl. 9 stav 1. GDPR obuhvata osam taksativno nabrojanih kategorija: podatke o rasnom i etničkom porijeklu, politička mišljenja, vjerska ili filozofska uvjerenja, sindikalno članstvo, genetske podatke, biometrijske podatke u svrhu jedinstvene identifikacije, podatke o zdravlju, kao i podatke o seksualnom životu ili seksualnoj orijentaciji. Norma konkretizuje zabranu informacijske diskriminacije i u uskoj je vezi sa čl. 21 Povelje o osnovnim pravima EU (Povelja o temeljnim pravima Evropske unije.

Sud pravde Evropske unije tumači ovaj pojam široko. Nije presudno da li neka informacija izričito navodi osjetljivo svojstvo, već da se to svojstvo iz nje može izvesti. Presudom od 01.08.2022. godine (C-184/20) Sud pravde EU je presudio da pod član 9. GDPR-a spadaju i podaci iz kojih se, putem „mentalne kombinacije ili dedukcije“, može izvući zaključak o seksualnoj orijentaciji. U predmetnom slučaju radilo se o navođenju imena životnog partnera u javnoj izjavi. Samo ime po sebi nije osjetljiv podatak, ali omogućava donošenje zaključaka o polu partnera, a samim tim i o seksualnoj orijentaciji.

Ovu liniju je Sud pravde EU nastavio presudom od 4.10.2024. godine (C-21/23, Lindenapotheke). Lični podaci prilikom online naručivanja lijekova koji se izdaju na recept smatraju se zdravstvenim podacima ako se iz njih mogu izvući zaključci o zdravstvenom stanju. Ova klasifikacija vrijedi bez obzira na to da li se narudžba vrši za samog korisnika ili za treću osobu. Dovoljno je da se na osnovu imena, adrese za dostavu i naručenog proizvoda, mentalnom kombinacijom, može donijeti zaključak o zdravlju.

Za sisteme vještačke inteligencije ova sudska praksa je centralna. Iz unesenih tekstova, slika, podataka o lokaciji ili ponašanja korisnika osjetljive karakteristike se mogu izvesti s velikom vjerovatnoćom. EDPB u svom mišljenju 28/2024 navodi da je sposobnost donošenja zaključaka suštinska karakteristika sistema vještačke inteligencije. Ono što Sud pravde EU opisuje kao „mentalnu kombinaciju“, kod vještačke inteligencije predstavlja ključnu funkciju.

Učinak blokiranja: Zašto član 6. GDPR-a ne pomaže

Najvažniji mehanizam za praksu je blokirajući efekat člana 9. GDPR-a. Član 9, kao lex specialis, razvija blokirajući efekat u odnosu na član 6. stav 1. GDPR-a. Pribjegavanje općim osnovama zakonitosti je isključeno ako izuzeci iz člana 9. stav 2. i 3. GDPR-a nisu primjenjivi. To se odnosi i na slučajeve kada se osjetljivi i neosjetljivi podaci prikupljaju zajedno. Sud pravde Evropske unije je u predmetu C-252/21 (Meta Platforms/Bundeskartellamt, presuda od 04.07.2023.) potvrdio da se skup podataka u cjelini mora procjenjivati u skladu sa članom 9. GDPR-a čim sadrži makar i jednu osjetljivu informaciju.

Za pružaoce usluga vještačke inteligencije to znači: ko se oslanja na legitiman interes u skladu sa članom 6. stav 1. tačka (f) GDPR-a, mora prethodno osigurati da se ne obrađuju osjetljivi podaci. Ako to ne uspije, u većini slučajeva preostaje samo izričiti pristanak u skladu sa članom 9. stav 2. tačka (a) GDPR-a ili tehničko rješenje koje uklanja lične podatke.

Odluka Zemaljskog suda u Кolnu (33 O 120/24): Snapchat „My AI“

Zemaljski sud u Kölnu primijenio je ove principe na AI chatbot presudom od 17.09.2026. Savezni savez potrošačkih centara (vzbv) tužio je Snap Group Limited, podružnicu američke kompanije Snap Inc. i ugovornog partnera njemačkih korisnika Snapchata, radi zabrane daljeg postupanja. U središtu pažnje bio je AI chatbot „My AI“, putem kojeg korisnici mogu komunicirati s umjetnom inteligencijom. Snapchat je prije prvog korištenja upozorio korisnike da se informacije unesene u chat mogu koristiti, između ostalog, za personalizaciju oglasa. Na ovu napomenu trebalo je samo kliknuti „ok“ radi potvrde.

Pored toga, vzbv je prigovorio na unaprijed označene kvačice kod preferenci oglasa, kao i na unaprijed odabrane teme „alkohol“ i „kockanje“ na korisničkim računima maloljetnika.

Rezultat

Okružni sud u Klnu u potpunosti je usvojio tužbu i naložio tuženoj strani da obustavi spornu praksu, kao i da plati troškove opomene. Čatbot obrađuje lične, dijelom osjetljive podatke bez izričitog pristanka koji je neophodan u skladu sa članom 9. stav 2. GDPR-a. Unaprijed označena polja za potvrdu (čekboksovi) u postavkama oglasa ne predstavljaju valjan pristanak. Unaprijed izabrane reklamne teme „alkohol“ i „igre na sreću“ u slučaju maloljetnika takođe krše propise o zaštiti maloljetnika u medijima i zakone o igrama na sreću.

Glavni argumenti

Sud je smatrao da je primjenjivost čl. 9. GDPR-a otvorena jer chatbot doslovno potiče korisnike da otkrivaju lične – pa čak i osjetljive – informacije. Istina je da se na jednoj podstranici „Centra za privatnost i sigurnost“ (Privacy and Safety Hub) savjetuje da se povjerljive ili osjetljive informacije ne dijele. Međutim, to je samo neobavezujući savjet, a ne zabrana, koju štaviše većina korisnika neće ni primijetiti. Posebno je težilo na vagi to što je usluga namijenjena i maloljetnicima od 13 i više godina.

Snap je tvrdio da se osjetljivi podaci ne prikupljaju namjerno, već da su „nametnuti“. Sud to nije prihvatio. Zabrana iz čl. 9. st. 1. GDPR-a prema sudskoj praksi Suda EU važi bez obzira na to da li voditelj obrade ciljano želi prikupiti osjetljive informacije. Vijeće nije uvjerila ni tvrdnja Snapa da podatke, prema vlastitim navodima, koristi samo za „kontekstualno“, umjesto za personalizirano oglašavanje. Snap je u uslovima usluge izričito zadržao pravo korištenja za personalizirano oglašavanje i to je tako predstavio i u politici privatnosti.

Sud je podredno ispitao član 6. GDPR-a. Niti postoji pristanak niti legitimni interes u skladu sa članom 6. stav 1. tačka (f) GDPR-a, budući da Snap ne pruža korisnicima potrebne informacije u trenutku prikupljanja podataka. Sud se oslonio na presudu Suda pravde Evropske unije C-394/23 (presuda od 9.1.2025.), prema kojoj se legitimni interesi moraju saopštiti već prilikom prikupljanja.

Klasifikacija

Presuda je prva objavljena odluka koja dosljedno primjenjuje zabrane iz čl. 9. GDPR-a na korištenje AI chatbota. Nov je koncept da chatbot, koji poziva na otkrivanje ličnih podataka, time sam otvara područje primjene čl. 9. GDPR-a. Iz ovoga za pružaoce usluga proizilazi: ili moraju pribaviti izričiti pristanak ili tehnički spriječiti da se osjetljivi unosi pohranjuju i obrađuju.

Osjetljivi podaci pri treningu AI: Slučaj Meta

Drugu konstelaciju tretirao je Viši zemaljski sud u Kölnu (OLG Köln) u postupku 15 UKl 2/25 (presuda od 23.05.2025.). Meta je željela koristiti javne objave punoljetnih korisnika Facebooka i Instagrama za obuku svojih jezičnih modela. OLG Köln je priznao da skup podataka za obuku obuhvaća i lične podatke trećih strana i osjetljive podatke u skladu s čl. 9. GDPR-a. Kao pravnu osnovu sud je naveo čl. 9. st. 2. toč. e) GDPR-a: Osjetljivi podaci se mogu obrađivati ako ih je ispitanik „očito javno objavio“. Međutim, to se primjenjuje samo na podatke koje je sam dotični korisnik javno objavio.

Hitni zahtjev Udruženja potrošača Sjeverne Rajne-Vestfalije (Verbraucherzentrale NRW) ostao je bez uspjeha. Međutim, odluka pokazuje granice: izuzetak iz čl. 9. st. 2. toč. e) GDPR-a vrijedi samo za podatke koje je sama dotična osoba svjesno učinila dostupnima javnosti. Sud pravde EU-a za to zahtijeva da je dotična osoba htjela podatke izričito i jasnom potvrdnom radnjom učiniti dostupnima javnosti. Za osjetljive podatke trećih strana, za privatne razgovore i za unose u chatbotove ovaj izuzetak ne vrijedi.

Šta kažu regulatorne vlasti?

EDSA-mišljenje 28/2024

Evropski odbor za zaštitu podataka je 17.12.2024. godine objavio svoje mišljenje 28/2024 o AI modelima. Ono izričito izuzima obradu posebnih kategorija ličnih podataka, ali ih ističe kao ključnu oblast koju programeri i operatori moraju uzeti u obzir. OEZP takođe ukazuje na to da se AI modeli obučeni na ličnim podacima ne mogu automatski smatrati anonimnim. Čak i nakon završetka obučavanja, model stoga može sadržavati osetljive podatke i reprodukovati ih.

Njemačka konferencija o zaštiti podataka i LfDI Baden-Württemberg

DSK u svojoj orijentacijskoj pomoći od 06.05.2024. naglašava da se kako prilikom unosa, tako i prilikom obrade i izlaza posebno zaštićenih podataka mora provjeriti da li je ispunjen neki od izuzetaka iz člana 9. stav 2. GDPR-a. Za medicinski sektor, DSK navodi dolazi u obzir informisana izričita saglasnost u skladu sa članom 9. stav 2. tačka a) GDPR-a, kojoj moraju prethoditi informacije o specifičnom načinu rada aplikacije vještačke inteligencije. Povjerennik za zaštitu podataka i slobodu informacija Baden-Württemberga (LfDI) smatra da je pravni osnov vitalnih interesa primjenjiv samo za upotrebu vještačke inteligencije u hitnim situacijama za kratkoročne mjere u cilju zaštite vitalnih interesa ispitanika.

Austrijska agencija za zaštitu podataka

DSB je u svom informativnom papiru o odnosu između GDPR-a i Uredbe o vještačkoj inteligenciji navela: U mjeri u kojoj se lični podaci obrađuju prilikom (daljeg) razvoja i upotrebe sistema vještačke inteligencije, mora postojati najmanje jedan pravni osnov iz člana 6. stav 1. GDPR-a. U mjeri u kojoj se obrađuju posebne kategorije ličnih podataka, dodatno se moraju ispuniti uslovi iz člana 9. stav 2. GDPR-a. Istovremeno, DSB pojašnjava da GDPR ne stoji na putu razvoju novih tehnologija, budući da član 5. i član 6. stav 1. GDPR-a pružaju dovoljno mogućnosti za razvoj i rad novih tehnologija u skladu s GDPR-om.

Zakon o vještačkoj inteligenciji: Zabrane i novo odobrenje

Uredba o vještačkoj inteligenciji (Uredba (EU) 2024/1689) ne zamjenjuje GDPR. Prema čl. 2. st. 7. Uredbe o VAI, GDPR ostaje u potpunosti primjenjiv. Međutim, ona dopunjuje zaštitu osjetljivih podataka u dva smjera.

Zabranjene prakse (čl. 5. Akt o vještačkoj inteligenciji)

Od 02.02.2025. primjenjuju se apsolutne zabrane iz čl. 5. Uredbe o VAI, a pravila o novčanim kaznama od 02.08.2025. Dvije od tih zabrana neposredno se tiču osjetljivih podataka:

• Prepoznavanje emocija (čl. 5. st. 1. lit. f Uredbe o VAI): Zabranjena je upotreba AI sistema za dedukciju emocija fizičke osobe na radnom mjestu i u obrazovnim ustanovama, osim ako se sistem koristi iz medicinskih ili sigurnosnih razloga. Razlog je posebna neravnoteža moći u tim kontekstima. Izvan radnog mjesta i obrazovanja prepoznavanje emocija nije zabranjeno, ali se smatra visokorizičnom vještačkom inteligencijom. Utvrđivanje fizičkih stanja kao što je umor ne računa se kao prepoznavanje emocija prema smjernicama Komisije.
• Biometrijska kategorizacija (čl. 5. st. 1. toč. g Uredbe o AI): Zabranjeni su sistemi koji kategoriziraju fizičke osobe na temelju njihovih biometrijskih podataka radi dedukcije njihove rase, političkih uvjerenja, članstva u sindikatima, religijskih ili filozofskih uvjerenja, seksualnog života ili seksualne orijentacije. Zabrana se ne odnosi na označavanje ili filtriranje zakonito prikupljenih biometrijskih skupova podataka.

U ovom slučaju ni pristanak ne pomaže. Oni vrijede i za pružatelje i za operatere. Prekršaji koštaju do 35 miliona eura ili 7 % globalnog godišnjeg prometa, ovisno o tome koji je iznos veći. Evropska komisija je u februaru 2025. godine objavila smjernice o zabranjenim praksama.

Detekcija pristranosti (čl. 4a Akt o VAI)

Digitalna omnibus uredba o vještačkoj inteligenciji (Uredba (EU) 2026/1744) objavljena je u Službenom listu EU 24.07.2026. godine, a stupila je na snagu 27.07.2026. godine. Dosadašnji čl. 10. st. 5. Uredbe o V.I. je izbrisan i zamijenjen posebnim čl. 4a. Ono što je prije svega novo jeste proširenje kruga korisnika: pravni osnova nije namijenjena samo pružaocima visokorizičnih V.I., već prema čl. 4a st. 2 i operaterima visokorizičnih V.I. sistema, kao i pružaocima i operaterima drugih V.I. sistema i modela, ukoliko je to apsolutno neophodno za otkrivanje i ispravljanje pristrasnosti.

Odobrenje je vezano uz stroge uslove. Ono podrazumijeva da se prepoznavanje i ispravljanje pristrasnosti (biasa) ne može efikasno provesti obradom drugih podataka, uključujući sintetičke ili anonimizirane podatke. Također su potrebni pseudonimizacija, stroge kontrole pristupa, zabrana prosljeđivanja trećim stranama, obaveza brisanja nakon ispravljanja pristrasnosti i dokumentovano obrazloženje u evidenciji aktivnosti obrade. Čl. 4a Uredbe o vještačkoj inteligenciji je stoga usko ograničen instrument za konkretne i dokumentovane provjere pristrasnosti. Iz ovoga se ne može izvesti paušalno odobrenje za preventivno prikupljanje osjetljivih podataka.

Izgledi: GDPR Omnibus

Evropska komisija je 19.11.2025. godine predložila i izmjene GDPR-a. Obrada ličnih podataka za razvoj i rad sistema vještačke inteligencije trebala bi se, prema nacrtu, smatrati legitimnim interesom u smislu člana 6. stav 1. tačka f) GDPR-a. Novi izuzetak u članu 9. stav 2. tačka k) nacrta GDPR-a trebao bi omogućiti „rezidualnu“ obradu osjetljivih podataka tokom razvoja i rada sistema vještačke inteligencije. Osim toga, posebne kategorije iz člana 9. GDPR-a trebale bi biti uže definisane: bili bi zaštićeni samo podaci koji direktno otkrivaju osjetljive informacije.

Ovi prijedlozi su kontroverzni. Oni su u suprotnosti s sudskom praksom Suda pravde Evropske unije, koji je potvrdio široku definiciju osjetljivih podataka i izričito utvrdio da i izvedene informacije spadaju pod član 9. GDPR-a. Do usvajanja, GDPR važi u svojoj trenutnoj verziji. Kompanije ne bi trebale svoju usklađenost zasnivati na mogućem budućem ublažavanju propisa.

Šta preduzeća u Austriji sada moraju provjeriti

Pravna situacija se može sažeti na tri nivoa: unos, obrada i izlaz.

Kod unosa: Gdje korisnici mogu unositi slobodan tekst, treba računati s osjetljivim podacima. Ko ih ne želi obrađivati, to mora tehnički osigurati, na primjer putem filtera koji prepoznaju osjetljivi sadržaj i ne pohranjuju ga. Napomena u uslovima korištenja nije dovoljna.

Prilikom obrade: Da li se istorije razgovora čuvaju, prenose li se dobavljačima modela, ocjenjuju li se radi obuke ili oglašavanja, za osjetljive podatke je potrebna izričita saglasnost. Ona se mora dati aktivno. Unaprijed podešena polja za potvrdu i klikovi za potvrdu na tekstove sa obavještenjima nisu dovoljni.

Kod izlaza: I deriviranje ili generiranje osjetljivih izjava od strane AI sistema predstavlja obradu. Ko na osnovu podataka o klijentima prognozira zdravstvene rizike ili političke sklonosti, obrađuje osjetljive podatke, čak i ako su ulazni podaci bili bezazleni.

Pored toga, vrijedi i sljedeće:

• Za aplikacije vještačke inteligencije sa osjetljivim podacima redovno je potrebna procjena uticaja na zaštitu podataka u skladu sa članom 35. GDPR-a.
• Pri prijenosu podataka pružaocima usluga izvan EU moraju se poštovati odredbe čl. 44. i sljedećih Opće uredbe o zaštiti podataka (GDPR).
• Korištenje postojećih podataka za nove svrhe vještačke inteligencije predstavlja promjenu svrhe koja se mora posebno razmotriti.
• Kršenja člana 9. GDPR-a mogu se kazniti novčanim kaznama do 20 miliona eura ili 4 % ukupnog svjetskog godišnjeg prometa.

Pravna zaštita za pogođene

Lica na koja se odnose podaci čiji su osjetljivi podaci obrađeni od strane sistema vještačke inteligencije bez pravnog osnova mogu zahtijevati informacije u skladu sa čl. 15. GDPR-a, tražiti brisanje u skladu sa čl. 17. GDPR-a, podnijeti žalbu nadležnom organu za zaštitu podataka i ostvariti pravo na naknadu štete u skladu sa čl. 82. GDPR-a.

Pored toga, praksa Suda pravde EU otvara još jedan put: u predmetu Lindenapotheke, Sud pravde EU je potvrdio da države članice mogu dopustiti tužbe konkurenata zasnovane na konkurentskom pravu zbog kršenja Opće uredbe o zaštiti podataka (GDPR). Konkurenti mogu sudski osporiti kršenje propisa o zaštiti podataka kao nepoštenu poslovnu praksu. Za Austriju to znači: ko upravlja sistemima vještačke inteligencije kršeći čl. 9. GDPR-a, ne rizikuje samo postupke pred Austrijskom agencijom za zaštitu podataka (DSB), već i tužbe za propuštanje od strane konkurenata u skladu sa Zakonom o nelojalnoj konkurenciji (UWG), kao i kolektivne tužbe kvalifikovanih ustanova.

Vaš sljedeći korak

To da li AI sistem obrađuje osjetljive podatke odlučuje o pravnom osnovu, obimu dokumentacije i riziku od odgovornosti. Advokati specijalizovani za IT pravo i zaštitu podataka iz ATB.LAW provjeravaju vašu AI aplikaciju u pogledu usklađenosti sa GDPR-om i Uredbom o vještačkoj inteligenciji (AI-VO), izrađuju izjave o pristanku i procjene uticaja na zaštitu podataka, te zastupaju lica na koja se podaci odnose u postupcima ostvarivanja prava na pristup, brisanje i naknadu štete.

Pišite nam: Dr. Stefan Knotzer LL.M. (knotzer@atb.law) / Mag. Roman Taudes, LL.M. (taudes@atb.law)

Često postavljana pitanja: