Nova forma digitalne manipulacije, poznata kao deepfake, je tehnologija koja koristi algoritme vještačke inteligencije za stvaranje ili izmjenu videa i audio snimaka. Iako je nova tehnologija, već ima visoku stopu uvjerljivosti i jako brzo postaje kvalitetnija, ali i pristupačnija. Primjena deepfake tehnologije pokreće ozbiljna etička, pravna i društvena pitanja.
Kad se govori o deepfake-u, obično se govori o potencijalnoj opasnosti da deepfake bude udar na demokratiju i bezbjednost ljudi. Ako može biti lažirano ono što političari iznose, kako će ovo oblikovati političke kampanje, izbore, državnu bezbjednost? To jeste realna briga, ali zapravo deepfake nije našao široku primjenu u drmanju političkih izbora, već se skoro pa isključivo koristi da ugrozi sigurnost žena.
Oko 96% deepfake snimaka je pornografskog sadržaja (bez pristanka onog čije se lice koristi). Od čega su u preko 90% slučajeva žrtve žene.
Žrtva deepfake-a može biti bilo ko
„Postoji deepfake tebe na internetu. Izgleda stvarno”, glasio je dio mejla koji je dobila, tad 17-godišnja, Noelle Martin. Ona se za Vox prisjetila: „Odgovorila sam: „Možeš li mi ga poslati?” Sledećih nekoliko minuta nisam bila svjesna ničega osim suvoće usana i snažnog lupanja srca. Ubrzo, stiže odgovor. U e-mail-u je bio samo link. Video se trenutak učitavao, a onda se isječak od 11 sekundi stvorio preda mnom. Bila je to žena na muškarcu, imali su seks, njeno golo tijelo je bilo vidljivo, oči su joj gledale pravo u kameru dok se njeno tijelo kretalo, a lice reagovalo na aktivnost. Osim što to nije bilo lice stranca… to je bilo moje lice.”
Noelle nije jedina žrtva. Ima ih mnogo, mnoge odluče da ne progovore jer ne znaju kome da se obrate, osjećaju sramotu i stid, pa nekad i samo odluče da se povuku sa društvenih mreža. Slučaj sa Noelle desio se 2012. godine, kad je deepfake tehnologija bila relativno nova. Dvanaest godina kasnije, i dalje nema mnogo pomaka kad se govori o regulativi, prevencijii ili kažnjavanju zlouptrebe deepfake tehnologije.
U februaru ove godine, slika koja je sadržavala deepfake Taylor Swift bila je objavljena na X-u (ranije poznatom kao Twitter). Iako je Taylor Swift najpopularnija žena na planeti i ima privilegije u sociekonomskom smislu, ipak je trebalo čak 17 sati da se slike otklone, a do tad su prikupile više od 45 miliona pregleda.
Mizoginija nema granice, i ovi slučajevi se ne dešavaju samo u Australiji, Americi, ili tamo negdje daleko. Dešavaju se i na Balkanu. Slučaj koji je nedavno skrenuo pažnju javnosti vezan je za trinaestogodišnjeg dečaka iz Srbije koji je koristio slike svih svojih nastavnica i učenica iz odeljenja da bi napravio deepfake pornografiju.
Postoje i sajtovi gdje korisnici plate za uslugu kreiranja deepfake pornografije, tako što zahtijevaju deepfake javne ličnosti ili šalju slike/snimke žena koje znaju lično, a sve su pristupačnije i aplikacije (kojima mediji nekad kriju ime, baš zbog zlouptrebe) koje su dostupne široj javnosti, gdje je jednostavno kreirati deepfake-ove.
Ovo nam govori koliko je deepfake rasprostranjen, koliko je lak za korišćenje i koliko je opasan. Patrijarhat mijenja formu, ali suština ostaje ista. Tako se patrijarhat, naravno, preliva u i digitalne prostore i samim tim je neobično kad ljudi kažu da treba da razdvojimo „stvarni život od interneta”. Internet jeste stvarni život, kao što i što su posljedice koje nosi deepfake pornografija po žrtvu stvarne.
Možemo li prepoznati manipulisani sadržaj?
Možda ste vidjeli snimke Tom Cruisea na TikToku gdje igra golf, liže lizalicu, izvodi trikove ili snima skečeve, samo što to nije bio stvarno Tom Cruise, nego njegovi deepfake-ovi. Ovi video snimci imaju desetine miliona pregleda, a kreirao ih je belgijski umjetnik specijalizovan za vizuelne efekte, Chris Ume. Lik Tom Cruise-a lijepio je na lice Miles Fishera, imitatora i glumca, kojem, kako sam kaže, ljudi cijelog života govore da liči na ovog glumca.
Kako Miles kaže, nakon prvog viralnog videa, belgijski umjetnik mu je rekao da mu se javi ako poželi još ovakvih videa. Tako je nastao profil na TikToku deeptomcruise koji broji 5 miliona pratioca, a Miles je jednom prilikom objasnio početak tog procesa: „Snimio sam petnaestosekundni selfi video u svom dvorištu i poslao mu ga (Chris-u) porukom. Dva dana kasnije, imao sam video na kojem najpoznatija svjetska filmska zvijezda nastupa u mom dvorištu. Izgledalo je nevjerojatno stvarno. Tako hiperrealno da mi je mozak malo „pukao” — znao sam da sam to ja koji pričam, ali moja psihologija to jednostavno nije mogla prihvatiti.”
Ova internet senzacija bila je mnogima prvi uvid u deepfake, a koristi se i kao primjer kako prepoznati da li je sadržaj manipulisan ili ne. Iako deepfake videi postaju sve sofistciraniji, i dalje postoje neki trikovi po kojima se može prepoznati da je u pitanju manipulisani sadržaj. Uglavnom se preporučuje obratiti pažnju na sve crte lica, u slučaju da su maglovite ili previše glatke treba biti sumnjičav, a zatim na neprirodne pokrete oka, na pokrete usana, i naročito na maglovitu liniju kod čela i kose, ili maglovitu liniju kod vrata.
Zakonski okviri i neprepoznavanje deepfake-a
Deepfake tehnologija koristi dva modela mašinskog učenja: jedan za kreiranje novog sadržaja skeniranjem postojećih snimaka ili slika, a drugi za provjeru vjerodostojnosti videa. Iako postoji potencijal za pozitivnu upotrebu u medicini, umjetnosti, forenzici, filmskoj industriji, obrazovanju i zaštiti identiteta, zloupotreba u neetičke svrhe predstavlja znatno veću prijetnju, jer se nažalost tako mnogo češće koristi.
U razgovoru sa Milom Bajić iz SHARE fondacije, saznajemo da je početkom februara usvojena prva legislativa koja se bavi nasiljem nad ženama i koja specifično problematizuje digitalno nasilje, Ona objašnjava: „Cyberflashing (slanje seksualno eksplicitnih slika bez saglasnosti, najviše dickpics) i image based sexual abuse (seksualno nasilje kroz zloupotrebu slika, gde spadaju i seksualizovani deepfake sadržaji) su samo neke od stvari koje će ovim zakonima biti regulisane. Tako da se pravi neki pomak na evropskom nivou da se ovim temama bavi, iako je istorijski na svim nivoima falilo ozbiljnog promatranja ovih problema, a kroz ove zakone se možda šalje jasnija poruka i drugim zemljama da bi trebalo da se bave dublje ovim problemima.”
Mila kaže da je posebno brine statistika koja kaže da je moguće za manje od 25 minuta i bez ikakvih troškova kreirati šezdesetosekundni deepfake pornografski video bilo koje osobe, koristeći samo jednu jasnu fotografiju lica.
Jedan od ključnih izazova u borbi protiv deepfake tehnologije je sposobnost da se takvi sadržaji precizno identifikuju i razlikuju od autentičnih materijala, što postaje sve teže. Dodatno sve komplikuju i rastuća tržišta na kojima korisnici mogu platiti za kreiranje personalizovanih deepfake pornografskih videa, jer ovo sugeriše da je potrebna globalna koordinacija i jačanje međunarodne saradnje. Pored toga, kao i obično, najčešće nisu prioritetna pitanja koja se tiču sigurnosti žena – online ili offline.
Digitalna (ne)sigurnost žena i zaštita
Na pitanje da li postoje neki pozitivni ishodi rada SHARE fondacije u ovom polju, Mila kaže da i dalje nije mnogo ovakvih slučajeva zabiljeleženo kod nas, vrlo vjerovatno zbog toga sto se oni ne prijavljuju, Mila dodaje: „A drugo, zbog toga sto oni nisu ni zakonski prepoznati. U slučaju Batajnice, devojke su već prikupile sve dokaze i posložile ih i prijavile slučaj policiji i VTK, tako da smo mi mogli samo da ih savetujemo kako da postupe dalje u slučaju. Ipak, rekla bih da je pozitivni ishod sve veća rasprostranjenost teme nasilja nad ženama u digitalnom prostoru i kontinuirani rad na ovim temama kako bi se skrenula pažnja javnosti na sistemske probleme koji tu postoje.”
Mila kaže da su kod nas organizacije kao što su Share fondacija i Babe u Hrvatskoj, tu da ponude pomoć u vidu adekvatnog prikupljanja dokaza u slučaju da se neko nađe na meti ovakvih napada i potencijalno pravno savetovanje, pošto nemaju mogućnost zastupanja žena i devojaka u pravnom postupku.
„Ovo je najviše slučaj zato što osvetnička pornografija, pa i kreiranje i deljenje deepfake sadržaja nisu klasifikovani kao posebna krivična dela, već se gone po nekoliko drugih dela – najviše polno uznemiravanje (član 182a) gde se navode polno uznemiravanje i gonjenje. Ono što je problem je što je teret dokazivanja na oštećenoj, odnosno prebroditeljki digitalnog nasilja, plus se često slučajevi i zanemaruju jer se smatra da nisu dovoljno ‘opasni’, pošto je u pitanju digitalna sfera”, objašnjava Mila.
Inicijative u Južnoj Americi koje su prepoznale ovaj problem, postavile su temelje za globalnu borbu protiv digitalnog nasilja, usmjeravajući pažnju na potrebu za jačanjem zakonodavnog okvira i edukacije o digitalnoj sigurnosti. Mila smatra da bi takve inicijative trebalo da budu primjer dobre prakse i za naše prostore: „U Latinskoj Americi, žene su jako dobro umrežene i veoma temeljno prate razvijanje zakona i samoinicijativno pokreću kampanje i projekte koji za cilj imaju osnaživanje žena i skretanje pažnje na probleme sa kojima se susreću, najviše u vidu digitalnog, ali i nasilja u analognom svetu. Neki primeri su platforme za proveravanje dokaza i pomoć za podnošenje krivičnih prijava protiv nasilja, sprovođenje istraživanja o digitalnom nasilju prema ženama i devojčicama, kampanje koje pomažu ženama i devojčicama da se edukuju o razim oblicima digitalnog nasilja i slično.”
Nedostatak specifičnih zakonskih regulativa za problem koji je tako stvaran i rasprostranjen jasno ukazuje na to da prevencija nasilja nad ženama još uvijek nije dovoljno visoko na listi prioriteta, uprkos značajnim i dugotrajnim posljedicama koje takvo nasilje ostavlja na žrtve. Ova situacija ne samo da reflektuje potrebu za hitnim djelovanjem u smislu kreiranja i implementacije odgovarajućih zakona, već i potrebu za širom društvenom sviješću i radikalnom tvrdnjom da su i žene ljudi.
Autonomni ženski centar nedavno je pozvao na potpisivanje peticije kojom se traži donošenje zakona koji bi kriminalizovao neovlašćeno deljenje intimnih snimaka, a peticiju možete potpisati ovde.
Autorka vizuala: Sve su to vještice
0 Comments