Poročilo o deepfake vsebinah: kaj je ugotovil Urad za avtorske pravice in kaj sledi v regulaciji umetne inteligence

Tehnologija umetne inteligence se hitro razvija in prinaša številne pozitivne spremembe, vendar hkrati odpira tudi nova vprašanja glede varnosti, zasebnosti in pravnih zaščit. Ena izmed najbolj kontroverznih aplikacij AI so digitalne replike ali t.i. deepfake vsebine, ki lahko s svojo prepričljivo natančnostjo povzročajo resne zlorabe. Poročilo Urada za avtorske pravice razkriva pomanjkljivosti obstoječe zakonodaje pri obravnavi teh izzivov in poziva k nujnim spremembam za zaščito posameznikov ter ohranjanje zaupanja v digitalni svet.

Urad za avtorske pravice je 31. julija 2024 izdal prvi del svojega poročila o avtorskih pravicah in umetni inteligenci, ki se posebej osredotoča na temo digitalnih replik ali “deepfake vsebin” – tj. video, slikovne ali zvočne posnetke, ki jih ustvari umetna inteligenca in realistično, a lažno prikazujejo posameznike. Poročilo je rezultat široke pobude za raziskovanje stičišča avtorskih pravic in umetne inteligence, podprte s serijo javnih posvetovanj in srečanj z deležniki ter več kot 10.000 javnimi komentarji avtorjev, umetnikov, založnikov, odvetnikov, akademikov, industrijskih skupin in drugih.

Glavne ugotovitve poročila

Poročilo opozarja na resne pomanjkljivosti obstoječih zakonov na področju avtorskih pravic in drugih intelektualnih pravic pri preprečevanju škode, ki jo povzročajo nepooblaščene digitalne replike. Te replike lahko ogrozijo ne le ljudi iz sveta zabave in politike, temveč tudi zasebnike.

Čeprav digitalne replike niso novost – tehnologija za izdelavo ponarejenih slik in posnetkov obstaja že leta – so generativne AI-replike bistveno bolj izpopolnjene. Uporabljajo močno tehnologijo generativne umetne inteligence za ustvarjanje neverjetno prepričljivih vsebin.

Potencialne koristi in tveganja

Poročilo poudarja, da imajo AI-generirane replike tudi pozitivne aplikacije, na primer kot orodja za dostopnost za invalide, podporo ustvarjalnemu delu ali omogočanje posameznikom, da licencirajo in prejmejo plačilo za uporabo svojega glasu, podobe in podobnosti. Vendar pa deepfake vsebine omogočajo “izjemno enostavno in sofisticirano izvajanje prevar,” ugotavlja poročilo. Poleg tega dostopnost AI-orodij povečuje potencial za zlorabe.

Skrb zbujajoči primeri

Urad za avtorske pravice navaja šokantne primere: leta 2023 so raziskovalci ugotovili, da 98 % vseh deepfake videov na spletu vsebuje eksplicitne slike žensk. Prevaranti so uporabili deepfake vsebine za izvedbo finančnih prevar in prodajo izdelkov z lažnimi trditvami o podpori slavnih oseb. Poročilo še posebej opozarja, da digitalne replike ogrožajo politični sistem in poročanje novic, saj otežujejo prepoznavanje dezinformacij.

Pregled zakonodaje

Poročilo je preučilo obstoječe zvezne in državne zakone, da bi ugotovilo, ali so obstoječa orodja zadostna ali pa je potrebna nova zakonodaja.

1. Zvezna zakonodaja
   Obstoječi zvezni zakoni so večinoma neustrezni. Na primer, avtorska pravica ne ščiti posameznikove identitete sama po sebi, tudi če je vključena v avtorsko delo. Zakon Lanham Act zahteva dokaz o komercialni uporabi in verjetnost zmede med potrošniki, kar omejuje njegovo uporabnost pri nekomercialnih deepfake vsebinah. Podobno je zakon Federal Trade Commission Act omejen na komercialne kontekste.
2. Državni zakoni
   Državni zakoni so pogosto neenotni in preveč ozko usmerjeni. Na primer, zakoni o varovanju zasebnosti pogosto zahtevajo dokaz, da je prikaz “zelo žaljiv za razumnega človeka,” kar izključuje deepfake vsebine, ki niso žaljive, a so še vedno zavajajoče.
3. Zakon o pravici do javne podobe
   Ta zakon bi lahko bil najbolj ustrezen pravni ukrep proti nepooblaščenim digitalnim replikam, vendar se njegova vsebina razlikuje med državami in je pogosto omejena na določene skupine posameznikov, kot so profesionalni nastopajoči, vojaki ali pokojne osebe.

Zaključki in prihodnji koraki

Poročilo jasno navaja: “nova zvezna zakonodaja je nujno potrebna.”

Uvedeni so že bili predlogi zakonov, kot je NO FAKES (Nurture Originals, Foster Art, and Keep Entertainment Safe) Act, ki uvaja novo zvezno pravico do avtorizacije uporabe glasu ali vizualne podobe posameznika. Predlog zakona predvideva odgovornost platform, ki ne odstranijo nepooblaščenih replik po obvestilu.

Čeprav zakonodaja na zvezni ravni morda ne bo sprejeta pred začetkom novega kongresnega mandata, so države že začele sprejemati lastne zakone. Vsaj 12 držav je sprejelo zakone o deepfake vsebinah s spolno vsebino, dodatni predlogi pa so v pripravi.

K temu se pridružujejo tudi lokalni tožilci. Avgusta 2024 je okrožni tožilec San Francisca vložil tožbo proti lastnikom 16 spletnih strani, ki omogočajo ustvarjanje nepooblaščenih golih podob žensk in deklet. Dodatne tožbe so pričakovane.