Umjetna inteligencija (AI) i osjetljivi podaci

Ključne točke na prvi pogled

• Članak 9. Opće uredbe o zaštiti podataka zabranjuje obradu osjetljivih podataka. Njena obrada dopuštena je samo u jednom od iznimaka iz članka 9. stavka 2. Opće uredbe o zaštiti podataka; u praksi to uglavnom uključuje samo izričito odobrenje.
• Članak 9. GDPR-a sprječava korištenje članka 6. GDPR-a. „Odgovarajuće pravo interesa“ nije dovoljan razlog za korištenje osjetljivih podataka.
• Nije bitno što je namjera ponuđača. Također, osjetljive podatke koji su dobiveni nenamjerno ili posredno spadaju pod zabranu.
• Žalbeni sud u Kölnu (33 O 120/24) prvi put je primijenio te načela na KI chat bot i zabranio Snapchatu obradu bez privole.
• Uredba o umjetnoj inteligenciji dopunjuje GDPR: zabranjuje određene prakse umjetne inteligencije s osjetljivim podacima i u članku 4.a Uredbe o umjetnoj inteligenciji osigurava strogo ograničeno odobrenje za korekciju pristranosti.
• DSGVO se u Austriji primjenjuje izravno. Agencija za zaštitu podataka (DSB) potvrdila je da dodatno moraju biti ispunjeni i članci 9. stavak 2. i GDPR-a za osjetljive podatke u AI sustavima.

Koje su osjetljive informacije prema članku 9. GDPR-a?

Art. 9. stavak 1. GDPR obuhvaća osam kategorija koje su konačno navedene: podaci o rasnom i etničkom podrijetlu, političkim stavovima, vjerskim ili svjetonazornim uvjerenjima, članstvu u sindikatu, genetskim podacima, biometrijskim podacima za identifikaciju, zdravstvenim podacima te podacima o seksualnom životu ili seksualnoj orijentaciji. Norma konkretizira zabranu informacijskog diskriminiranja i u uskoj vezi s člankom 21. GRCh-a (Povelja o temeljnim pravima Europske unije).

Sodišče EU-a široko tumači pojam. Ono što je važno nije to je li neka informacija izričito navodi na određenu osobinu, nego je li se ta osobina može iz nje izvesti. Sudom od 01.08.2022. (C-184/20) odlučilo da podaci iz kojih se može zaključiti o seksualnoj orijentaciji uz pomoć „mentalne kombinacije ili odvođenja“ podliježu članku 9. GDPR-a. U ovom slučaju riječ je o navođenju partnera u javnoj izjavi. Ime sam po sebi nije osjetljiva informacija, ali može ukazivati na spol partnera i time na seksualnu orijentaciju.

Sud EU-a je nastavio s tom linijom u presudi od 04.10.2024. (C-21/23, Lindenapotheke). Podaci o osobama pri online narudžbama lijekova koji podliježu propisima o lijekovima smatraju se podacima o zdravstvenom stanju ako je moguće utvrditi zdravstveni status iz tih podataka. Ova kategorizacija vrijedi bez obzira na to je li narudžba izvršena za samog korisnika ili za treću osobu. Dostatno je da se može zaključiti o zdravstvenom stanju na temelju imena, adrese dostave i proizvoda naručenog uz pomoć mentalne kombinacije.

Za sustave umjetne inteligencije ova sudska praksa je ključna. Iz unosnih tekstualnih podataka, slika, lokacijskih podataka ili ponašanja korisnika može se vrlo vjerojatno izvesti osjetljive značajke. U svojem mišljenju 28/2024 EDSA ističe da je sposobnost izvođenja zaključaka bitno obilježje sustava umjetne inteligencije. Ono što Europski sud ocjenjuje kao „mentalnu kombinaciju“ u slučaju umjetne inteligencije predstavlja osnovnu funkciju.

Učinak blokiranja: Zašto članak 6. GDPR-a ne pomaže

Najvažniji mehanizam za primjenu je djelovanje zabrane iz članka 9. GDPR-a. Članak 9. ima kao lex specialis djelovanje zabrane u odnosu na članak 6. stavak 1. GDPR-a. Povlačenje na opće zakonske odredbe nije dopušteno ako se ne primjenjuju iznimke iz članka 9. stavaka 2. i 3. GDPR-a. To vrijedi i ako se zajedno prikupljaju osjetljive i neosjetljive podatke. Sud Europske unije u predmetu C-252/21 (Meta Platforms/Bundeskartellamt, presuda od 04.07.2023.) potvrdio je da je skup podataka u cijelosti obuhvaćen člankom 9. GDPR-a čim sadrži i samo jednu osjetljivu informaciju.

Za pružatelje KI-a to znači: Ako se oslanjaju na opravdani interes u skladu s člankom 6. stavkom 1. točkom (f) GDPR-a, moraju prethodno osigurati da se ne obrađuju osjetljivi podaci. Ako to nije moguće, u većini slučajeva preostaje samo izričita privola u skladu s člankom 9. stavkom 2. točkom (a) GDPR-a ili tehnička rješenja koja uklanjaju osobnu vezu.

Rješenje LG Kölna (33 O 120/24): Snapchat „My AI“

Žalbeni sud u Kölnu primijenio je te načela presudom od 17. rujna 2026. godine. Savez potrošačkih centara (vzbv) podnio je tužbu za poništenje u ime Snap Group Limited, podružnice američke tvrtke Snap Inc. i ugovorne stranke njemačkih korisnika Snapchata. U središtu su se nalazili KI chat botovi „My AI“, putem kojih korisnici mogu komunicirati s umjetnom inteligencijom. Snapchat je korisnicima prije prve upotrebe uputio da informacije koje su unijeli u chat mogu biti korištene, između ostalog, za personalizaciju reklama. Ovaj je podsjetnik trebao biti potvrđen samo pozitivnim odgovorom „ok“.

Uz to, vzbv je kritizirao unaprijed postavljene okvire za odabir oglasa te predodređivanje tema „alkohol“ i „igra na sreću“ u korisničkom računu maloljetnika.

Rezultat

Žalbeni sud u Kölnu u cijelosti odbacio je tužbu i osudio tužitelja na obustavu i plaćanje troškova. Chatbot je obrađivao osobne, u nekim slučajevima osjetljive podatke bez izričite suglasnosti koja je potrebna u skladu s člankom 9. stavkom 2. GDPR-a. Prednastavljene okvire za odabir oglasa nisu predstavljale valjanu suglasnost. Također, odabir tema za oglašavanje „alkohol“ i „igra na sreću“ za maloljetnike krši zakon o zaštiti mladih i o igrama na sreću.

Temeljne argumente

Sud je otvorio područje primjene članka 9. GDPR-a jer chatbot uistinu potiče korisnike da otkriju osobne – čak i osjetljive – informacije. Iako se na jednoj stranici „Privacy and Safety Hub“ preporučuje da se povjerljive ili osjetljive informacije ne dijele, to je samo neodređeni savjet i ne predstavlja zabranu, što većina korisnika i ne uzima u obzir. Posebno je važno napomenuti da je usluga namijenjena i maloljetnicima starijim od 13 godina.

Snap je tvrdio da osjetljive podatke nisu prikupljani namjerno, nego su „naručeni“. Sud to nije prihvatio. Prema sudskoj praksi EU-a, zabrana iz članka 9. stavka 1. GDPR-a vrijedi bez obzira na to je li voditelj obrade namjerno htio prikupiti osjetljive informacije. Sud nije bio uvjeren da Snap, prema vlastitim tvrdnjama, koristi te podatke samo za „kontekstualiziranu“ oglašavanje umjesto personaliziranog oglašavanja. Snap je u uvjetima usluge izričito odobrila pravo na korištenje za personalizirano oglašavanje i to je tako i navelo u Obavijesti o zaštiti podataka.

Pomoću toga, sud je provjerio članak 6. GDPR-a. Ni privola, ni legitimni interes prema članku 6. stavku 1. točki f GDPR-a ne postoje jer Snap korisnicima ne pruža potrebne informacije u trenutku prikupljanja podataka. Sud se pozvao na presudu Europskog suda za ljudska prava (ECLI:C-394/23) od 09.01.2025., prema kojoj legitimni interesi moraju biti dostupni pri prikupljanju.

Klasifikacija

Ovo je prva objavljena odluka koja dosljedno primjenjuje zabranu iz članka 9. GDPR-a na korištenje umjetnih inteligencijskih chata botova. Novo je u tome što se smatra da chata bot koji poziva na otkrivanje osobnih podataka sam otvara područje primjene članka 9. GDPR-a. Za pružatelje usluga to znači: ili zatraže izričitu privolu ili tehnički onemoguće pohranjivanje i analizu osjetljivih podataka.

Osjetljivi podaci tijekom treninga umjetne inteligencije: slučaj Meta

Drugi slučaj odnosio se na Opći sud u Kölnu u postupku 15 UKl 2/25 (presuda od 23.05.2025). Meta je htjela koristiti javne podatke odraslih korisnika Facebooka i Instagrama za trening svojih jezičnih modela. Opći sud u Kölnu je prihvatio da podatak o treningu obuhvaća i osobne podatke trećih osoba i osjetljive podatke u skladu s člankom 9. GDPR-a. Kao osnovni razlog za to, sud je upotrijebio članak 9. stavak 2. točku (e) GDPR-a: Osjetljivi podaci mogu se obrađivati ako je dotična osoba „očito objavila“ te podatke. Međutim, to se odnosi samo na podatke koje je dotični korisnik sam objavio javno.

Žalbeni zahtjev potrošačke organizacije NRW ostao je bez rezultata. Međutim, odluka pokazuje granice: Izuzetak iz članka 9. stavka 2. točke (e) GDPR-a primjenjuje se samo na podatke koje je dotična osoba svjesno objavila. Sud EU zahtijeva da dotična osoba izričito i jasno potvrdi dostupnost tih podataka javnosti. Ova iznimka ne vrijedi za osjetljive podatke trećih osoba, privatne chatove i unose u chat botove.

Što kažu nadzorna tijela?

Izjava EDSA-e 28/2024

Europski odbor za zaštitu podataka objavio je svoju mišljenju 28/2024 o modelima umjetne inteligencije 17. prosinca 2024. U tom mišljenju izričito se isključuje obrada posebnih kategorija osobnih podataka, ali ističe je kao ključni aspekt koji moraju uzeti u obzir programeri i operateri. EDSA također ističe da modeli umjetne inteligencije koji su obučeni s osobnim podacima ne mogu se bez daljnjeg automatski smatrati anonimnima. Dakle, nakon završetka obuke, model može sadržavati i prenositi osjetljive podatke.

Njemačka konferencija o zaštiti podataka i LfDI Baden-Württemberg

U svojoj smjernici od 06.05.2024 DSK ističe da se pri unosu, obradi i izradi posebno zaštićenih podataka provjerava ispunjava li se iznimka iz članka 9. stavka 2. GDPR-a. U medicinskom sektoru DSK tvrdi da se može smatrati da je informirana izričita privola u skladu s člankom 9. stavkom 2. lit. a GDPR-a, pri čemu informacije o specifičnoj funkcioniranju aplikacije umjetne inteligencije moraju prethoditi. LfDI Baden-Württemberg smatra da je pravna osnova za nužne interese primjenjiva samo za korištenje umjetne inteligencije u izvanrednim situacijama za kratkoročne mjere za zaštitu životno važnih interesa dotične osobe.

Austrijska agencija za zaštitu podataka

DSB je u svojem informativnom dokumentu o odnosu između GDPR-a i GDPR-a o umjetnoj inteligenciji utvrdila: U onoj mjeri u kojoj se osobni podaci obrađuju tijekom (daljnjeg) razvoja i korištenja sustava umjetne inteligencije, mora postojati barem jedan od uvjeta legitimnosti iz članka 6. stavka 1. GDPR-a. U onoj mjeri u kojoj se obrađuju posebne kategorije osobnih podataka, dodatno moraju biti ispunjeni uvjeti iz članka 9. stavka 2. GDPR-a. Istovremeno, DSB jasno naglašava da GDPR ne protivlja razvoju novih tehnologija jer članci 5. i 6. stavka 1. GDPR-a pružaju dovoljno mogućnosti za razvoj i korištenje novih tehnologija u skladu s GDPR-om.

Naredba o umjetnoj inteligenciji: zabrane i nova dozvola

Uredba o umjetnoj inteligenciji (Uredba (EU) 2024/1689) ne zamjenjuje GDPR. U skladu s člankom 2. stavkom 7. Uredbe o umjetnoj inteligenciji, GDPR ostaje u potpunosti primjenjiv. Međutim, ona dopunjuje zaštitu osjetljivih podataka u dva smjera.

Zakazane prakse (članak 5. KI-VO)

Od 02.02.2025 primjenjuju se apsolutne zabrane iz članka 5. KI-VO, a od 02.08.2025 se primjenjuju propisi o novčanim kaznama. Dvije od tih zabrana izravno se odnose na osjetljive podatke:

• Prepoznavanje emocija (članak 5. stavak 1. točka f KI-VO): Prepovedano je korištenje AI sustava za detekciju emocija kod prirodnih osoba na radnom mjestu i u obrazovnim ustanovama, osim ako se sustav koristi iz medicinskih ili sigurnosnih razloga. Osnova za to leži posebna neravnoteža moći u tim kontekstima. Izvan radnog mjesta i obrazovanja prepoznavanje emocija nije zabranjeno, ali se smatra visokorizičnom vrstom umjetne inteligencije. Prema Komunikacijskim smjernicama, utvrđivanje fizičkih stanja kao što je umor ne spada u kategoriju prepoznavanja emocija.
• Biometrijska kategorizacija (članak 5. stavak 1. točka g. KI-VO): Zakonom je zabranjeno korištenje sustava koji kategoriziraju fizičke osobe na temelju njihovih biometrijskih podataka kako bi se utvrdile njihova rasa, politička uvjerenja, članstvo u sindikatu, vjerske ili svjetonazorske uvjerenja, seksualni život ili seksualna orijentacija. Zakon o zabrani ne odnosi se na označavanje ili filtriranje zakonito prikupljenih biometrijskih podataka.

I one od ovih zabrana ne mogu se postići uz pristanak. Oni vrijede za ponuđače i operatore jednako. Prekršaji mogu koštati do 35 milijuna eura ili 7 % posto globalnog godišnjeg prometa, ovisno o tome koji je iznos veći. Europska komisija je u veljači 2025. objavila smjernice o zabranjenim praksama.

Prepoznavanje pristranosti (članak 4.a KI-VO)

Naredba o digitalnom omnibusu za umjetnu inteligenciju (VO (EU) 2026/1744) objavljena je 24.07.2026. u Službenom listu EU-a i stupila je na snagu 27.07.2026. Do sadašnji je članak 10. stavak 5. Naredbe o umjetnoj inteligenciji uklonjen i zamijenjen zasebnim člankom 4a. Novo je, prije svega, proširenje klupskog krugu korisnika: Osnova za to nije samo davatelji visokorizične umjetne inteligencije, nego i, u skladu s člankom 4a. stavkom 2., operatori visokorizičnih AI sustava, kao i davatelji i operatori drugih AI sustava i modela, u mjeri u kojoj je to nužno za prepoznavanje i ispravljanje odstupanja.

Odobrenje je povezano s strogo određenim uvjetima. Podrazumijeva se da prepoznavanje i ispravljanje odstupanja ne mogu biti učinkovito provedene procesuiranjem drugih podataka, uključujući sintetičke ili anonimizirane podatke. Također su potrebne pseudonimizacija, stroge kontrole pristupa, zabrana prijenosa trećim stranama, obveza brisanja nakon ispravljanja odstupanja i dokumentirana obrazloženja u evidenciji obrade. Članak 4.a Uredbe o zaštiti privatnosti i slobodi podataka stoga je strogo ograničeno instrument za konkretne i dokumentirane provjere pristranosti. Iz toga ne može se izvesti opća dozvola za preventivno prikupljanje osjetljivih podataka.

Prošireni pregled GDPR-a

Europska komisija je 19.11.2025. također predložila izmjene GDPR-a. Prema nacrtu, obrada osobnih podataka za razvoj i korištenje sustava umjetne inteligencije bi se mogla smatrati legitimnim interesom u smislu članka 6. stavka 1. točke f GDPR-a. Nova iznimka iz članka 9. stavka 2. točke k GDPR-a bi trebala omogućiti „rezidualnu“ obradu osjetljivih podataka tijekom razvoja i korištenja sustava umjetne inteligencije. Također, posebne kategorije iz članka 9. GDPR-a trebale bi biti strože definirane: samo bi se zaštitile informacije koje izravno otkrivaju osjetljive informacije.

Ovi prijedlozi su kontroverzni. Oni su u suprotnosti s sudskom praksom Europskog suda pravde koji je potvrdio široku definiciju osjetljivih podataka i izričito utvrdio da i derivatne informacije spadaju pod članak 9. GDPR-a. Do njihove usvajanja GDPR-a u aktualnom izdanju primjenjuje se. Poduzeća ne bi trebala oslanjati svoju usklađenost na moguću buduću ublažnjujeću odredbu.

Što poduzeća u Austriji sada moraju provjeriti

Pravna situacija se može sažeti na tri razine: unos, obrada i izlaz.

Pri unosu: Kada korisnici mogu unijeti slobodni tekst, treba računati s osjetljivim podacima. Ako ne želite obrađivati te podatke, morate to tehnički osigurati, na primjer filtriranjem koje prepoznaje osjetljive sadržaje i ne pohranjuje ih. Jedan napomena u uvjetima korištenja nije dovoljan.

Pri obradi: Ako se zapise razgovora pohranjuju, prenose ponuditeljima modela, analiziraju za potrebe treninga ili oglašavanja, za osjetljive podatke je potrebna izričita privola. Ova privola mora biti aktivno izražena. Prednastavljene okvire i klikovi na potvrde na upitnim tekstovima nisu dovoljni.

Pri izdanju: Također, izvođenje ili generiranje osjetljivih zaključaka od strane sustava umjetne inteligencije je obrada. Osoba koja iz podataka kupaca prognozi zdravstvene rizike ili političke sklonosti obrađuje osjetljive podatke, čak i ako su podaci za unos bili nepročišćeni.

Osim toga vrijedi:

• Za aplikacije umjetne inteligencije s osjetljivim podacima redovito je potrebna procjena učinaka na zaštitu podataka u skladu s člankom 35. Opće uredbe o zaštiti podataka.
• Pri prijenosu podataka pružateljima usluga izvan EU-a moraju se poštivati odredbe članka 44. i dalje Opće uredbe o zaštiti podataka.
• Korištenje postojećih podataka iz baze za nove svrhe povezane s umjetnom inteligencijom predstavlja promjenu svrhe, koja se mora posebno provjeriti.
• Slučajevi kršenja članka 9. Opće uredbe o zaštiti podataka mogu biti kažnjeni novčanom kaznom do 20 milijuna eura ili 4 % posto globalnog godišnjeg prometa.

Obrana za stradale

Osobe koje su podnijele pritužbu zbog toga mogu zatražiti informacije u skladu s člankom 15. Opće uredbe o zaštiti podataka (GDPR), zahtijevati brisanje podataka u skladu s člankom 17. GDPR-a, podnijeti pritužbu nadzornom tijelu i tražiti naknadu štete u skladu s člankom 82. GDPR-a.

Uz to, sudska praksa Europskog suda za ljudska prava otvara novi put: u predmetu Lindenapotheke Europski sud za ljudska prava je potvrdio da države članice mogu dopustiti tužbe konkurentskih poduzeća utemeljene na tržišnom natjecanju zbog kršenja GDPR-a. Natjecatelji mogu podnijeti pravni prigovor protiv kršenja zakona o zaštiti podataka kao nepoštene poslovne prakse. Za Austriju to znači: svatko tko koristi AI sustave u suprotnosti s člankom 9. GDPR-a riskira ne samo postupke pred DSB-om, već i tužbe za prestanak kršenja od strane konkurenata prema UWG-u te tužbe kvalificiranih ustanova.

Vaš sljedeći korak

O tome je li sustav umjetne inteligencije obrađuje osjetljive podatke, o pravnoj osnovi, zahtjevima za dokumentiranje i riziku od odgovornosti odlučuje. Pravni zastupnici ATB.LAW, specijalizirani za IT pravo i zaštitu podataka, provjeravaju sukladnost vaše aplikacije umjetne inteligencije s GDPR-om i GDPR-om o umjetnoj inteligenciji, oblikuju dokumente o privoli i procjene posljedica za zaštitu podataka te zastupaju stranke u postupcima traženja informacija, brisanja i naknade štete.

Pošaljite nam poruku na: Dr. Stefan Knotzer LL.M. (knotzer@atb.law) / Mag. Roman Taudes, LL.M. (taudes@atb.law)

Često postavljana pitanja: