Ova spoznaja me je blago uznemirila. Profesionalno se bavim medijima, svakodnevno pišem o ovim temama, pratim tehnologiju i, na kraju krajeva, pripadam generaciji koja je odrasla uz internet. I kao što bi rekla naša pop-kulturna ikona Keri Bredšo: I couldn’t help but wonder – ako ja ne vidim razliku, kako će moji roditelji? Kako će moja baka, sedamdesetogodišnji komšija ili bilo koji prosečan konzument vesti prepoznati šta je stvarnost, a šta manipulacija?

Izgleda da više nije pitanje toga da li veštačka inteligencija može da napravi uverljivu fotografiju, jer odgovor je, očigledno, potvrdan. Ono što je upitno je šta se događa kada više ne možemo sa sigurnošću da verujemo onome što vidimo. Ovaj mali eksperiment nije bio samo test moje percepcije, već ilustracija mnogo šire promene. U eri generativne veštačke inteligencije, pitanje autentičnosti fotografije postaje jedno od ključnih pitanja savremenih medija i poverenja u iste. 

Baby steps

Koreni vizualne veštačke inteligencije sežu decenijama unazad, iako bismo na prvu rekli da je aktuelna tek nekoliko godina unazad. Kako to obično biva – mnoge stvari ne počinju od nas, iako smo ponekad uvereni u to, pa tako sudeći po članku istoričarke umetnosti Ágnes Ferenczi „From Innovation to Art: The History of AI Images” (objavljenom u Foam Magazine-u), koreni vizuelne veštačke inteligencije sežu do sredine 20. veka. Prvi pravi spoj umetnosti i AI-ja je napravio Harold Cohen 1970-ih kroz program AARON, koji je samostalno donosio odluke o kompoziciji crteža.

Ipak, AI kakav poznajemo danas, sve više ulazi u upotrebu tokom poslednje decenije. Mnogi umetnici počinju da koriste veštaku inteligenciju i to, sudeći po Ferenczi, podeljeni u dva tabora: jedni koji koriste ogromne baze slika sa interneta da prikažu kako mašina vidi ljudsko telo, dok drugi, biraju ličniji pristup i model treniraju isključivo na sopstvenim crtežima i akvarelima. 

Tako dolazimo i do prvog slučaja koji je odjeknuo u javnosti, kada je u pitanju umetnost generisana veštkačkom inteligencijom i do slučaja slike Portret Edmonda de Belamyja (eng. Portrait of Edmond de Belamy). Portret je napravljen pomoću generativne suparničke mreže (GAN) ili prostim jezikom rečeno pomoću veštačke inteligencije koja se koristi za kreiranje (generisanje) potpuno novih, neverovatno realističnih podataka, i kreirao ga je pariski umetnički kolektiv Obvious 2018. godine, koristeći bazu umetničkih dela WikiArt. Štampano na platnu, ovo delo pripada seriji generativnih slika pod nazivom La Famille de Belamy. Aukcijska kuća Christie’s je najavila nameru da ga ponudi na aukciji kao prvo umetničko delo stvoreno veštačkom inteligencijom. Licitacija na lokalnoj i onlajn aukciji počela je 23. oktobra 2018. i slika je zvanično prodata za 432.500 dolara, što ju je učinilo drugim najskupljim umetničkim delom na toj aukciji – jeftinijim samo od rada Endija Vorhola, Myths (delo iz 1981. godine). Ovo je, dobro pretpostavljate, pokrenulo polemike u društvu. 

Malo smo se šalili

Slučaj slike Portret Edmonda de Belamyja je bio samo početak debate o odnosu AI-a i umetnosti. Još jedan šamar realnosti desio se 2021. godine, kada je čuveni norveški fotograf agencije Magnum, Jonas Bendiksen, objavio knjigu „Knjiga Velesa” (eng. The Book of Veles). Bendiksen je napravio konceptualni projekat o „lažnim vestima” tako što je u prazne prostore koje je fotografisao u Severnoj Makedoniji ubacio 3D modele ljudi i medveda, pomešao ih sa delovima iz „Knjige Velesa” (falsifikovanog drevnog teksta) i tekstovima koje je generisao AI. Ova obmana, koja u početku nije bila otkrivena, promakla je njegovim kolegama iz agencije Magnum, a zatim i kustosima i publici na festivalu Visa Pour l’Image, sve dok je sam Bendiksen nije razotkrio na veb-sajtu agencije Magnum Photos. 

Njegovim stopama krenuo je i nemački umetnik Boris Eldagsen. On je izazvao burne reakcije širom sveta kada je 2023. godine otkrio da je fotografija, pod nazivom Pseudomnesia: The Electrician, kojom je osvojio prestižnu Sony World Photography nagradu u kategoriji kreativne fotografije, zapravo generisana veštačkom inteligencijom. Eldagsen je odbio nagradu i otvoreno poručio javnosti da je želeo da testira sistem i pokrene preko potrebnu debate o budućnosti fotografije.

Ovi slučajevi otvoreno su pokrenuli pitanje koliko daleko AI može da ide i koliko smo mi spremni za to, ali i pitanje sposobnost vizuelno najpismenijih ljudi u fotografskoj industriji da razlikuju stvarne fotografije od lažnih. Pa, ako ništa, bar je malo lakše znati da nisam jedina koja ne primećuje uvek razlike između generisane i negenerisane (to mu valjda dođe sve što smo do sada mislili da je umetnost i kako ona nastaje) fotografije. A malo je i zastrašujuće znati da ako žiri prestižnih nagrada iz oblasti fotografije, ne primećuje razliku, kako ću (I’m just a girl!) tek ja? 

Deepfake iliti stvarno ste nas namagarčili 

Iako može zvučati da su gorepomenuti primeri više rezervisani za krug ljudi koji se bavi fotografijom i dolazi iz te industrije, veštačka inteligencija je ubrzo pokazala da postaje deo svačijeg života. Mnogobrojni alati za automatsko stvaranje (generisanje) vizuelnog sadržaja na osnovu tekstualnog opisa poput DELL-a, ALL-E-ja (kompanije OpenAI), Midjourney-ja i Stable Diffusion-a su postali dostupni svima. Tu deepfake svom svojom snagom stupa na scenu. 

Kao jedan od najupečatljivijih primera ističe se Balenciaga papa iz 2023. godine, slika pape Franje u Balenciaga perjanoj jakni. Iako je slika pape sadržala neke prepoznatljive znake koji ukazuju na to da je reč o lažnjaku, bila je dovoljno uverljiva da prevari mnoge korisnike interneta – uključujući i, kako prenose svetski mediji, poznatu ličnost Krisi Tigen (who that?), koje je tada za medije izjavila: „Mislila sam da je papina perjana jakna stvarna i nisam dvaput razmišljala o tome”. Iako ne znam ko je Krisi, moram da kažem: same, sis!

Papa je samo jedan u moru primera deepfake-a koji smo svakodnevno okruženi – do te mere da smo se već polako i navikli, pa se više ne skandalizujemo kada shvatimo da je nešto manipulacija. 

Korišćenje AI-a u političke svrhe je, iako opasno, u svom punom jeku. Izbori širom sveta postali su pravi poligon za testiranje ovih tehnologija. Postalo je lako dodati par stotina ljudi na fotografiji mitinga, ali i dodati reku tamo gde ne postoji, na pogrešnoj strani grada (upsiiiii!). Isto, tako postalo je lako uperiti prstom u ono što je autentična fotografija, reći da je AI i da to nije stvarnost. Obrni, okreni, nova normalnost je da preispitujemo sve što vidimo i ne verujemo nikome i ničemu. 

Ko je ko i ko je kome,
Šta ću ja u svemu tome?*

(*Goribor, Sjajne niti)

Ipak, nije sve tako sivo (kao što lepo kaže Hladno pivo – kada imaš sa nekim popiti pivo). I to je tačno, ukoliko uz sebe imamo medije i profile kojima verujemo i u čiju kredibilnost ne sumnjamo (bar ne mnogo).  

Godine 2023, Associated Press, AFP, Getty Images i druge vodeće novinske agencije potpisale su Inicijativu za autentičnost sadržaja (Content Authenticity Initiative) kako bi ugradile „sertifikate porekla“ direktno u fajlove fotografija. Svaka slika koju danas naprave njihovi fotoreporteri sadrži neizbrisiv digitalni trag koji potvrđuje njenu autentičnost – svojevrsni digitalni DNK. Nekoliko agencija takođe zahteva da svaka slika generisana veštačkom inteligencijom bude jasno označena, uz pretnju isključenjem iz distribucije. Danas već viđamo prve pametne telefone i fotoaparate koji u trenutku škljocanja zaključavaju te metapodatke, stvarajući neprobojan dokaz da je iza objektiva stajao čovek, a ne algoritam.

Ipak, kako mi, obični smrtnici, možemo prepoznati genersianu fotografiju?

AI i dalje muči muku sa ljudskom anatomijom (ponekad ljudi mogu imati i šesti prst na jednoj ruci), kao i logikom stvari (neprirodni uglovi, asimetrija i slično). Generisani tekstovi posebno padaju na testu logike i činjenica: iako na prvi pogled deluju ubedljivo i stručno, svi smo vrlo brzo zaključili da AI voli da izmišlja nepostojeće podatke i citira nepostojeće izvore.

Kada, pak, niste sigurni da li je nešto AI, možete i sami provući kroz različite online alate i proveriti kolika je verovatnoća da je tekst generisan putem veštačke inteligencije iliti proveriti da li je neka vest lažna putem različitih platfromi poput Raskrinkavanja, Istinomera, Fakenews tragača.

Međutim, tehnološka odbrana je samo pola bitke. Druga polovina se vodi u našim glavama.

Vratimo se na pitanje s početka: kako će moji roditelji ili moja baka znati šta je stvarno? Odgovor je surov – gledanjem u ekran više neće znati. Vizuelna pismenost, na koju smo se oslanjali decenijama, više nije dovoljna odbrana. Nova era zahteva novu vrstu pismenosti: umesto pitanja „da li ovo izgleda stvarno?“, moraćemo da naučimo da pitamo „odakle ovo dolazi i ko stoji iza toga?“.

U svetu gde sve može biti generisano, jedina preostala valuta biće poverenje. Moć se seli sa samog vizuelnog sadržaja na kredibilitet onoga ko ga objavljuje. Zato je uloga tradicionalnih, proverenih medija i profesionalnih novinara danas važnija nego ikada pre. Mi više nismo samo oni koji prenose vesti, već postajemo gejtkiperi, filteri stvarnosti i čuvari istine. Jer, ako tehnologiju ne možemo da pobedimo u njenoj sopstvenoj igri savršenih piksela, možemo je pobediti u onome što mašina nikada neće imati: etici, odgovornosti i ljudskom integritetu.

I baš zato – podrži da se Oblakoder održi! Šalu na stranu – zato negujte medije u koje verujete, jer su oni tu za vas i zbog vas, ali su često i usamljeni u svojoj nameri da ostanu verni etici i moralu. Zato, one koji ne odustaju, cenite, jer, davno su pametniji od mene rekli, u dobru je lako dobar biti, na muci se poznaju junaci. 

Ilustracije: Olga Đelošević

Ovaj sadržaj nastao je u okviru ugovora sa Evropskom unijom. Stavovi izraženi u sadržaju isključiva su odgovornost Oblakodera i ne predstavljaju zvaničan stav Evropske unije niti Delegacije Evropske unije u Srbiji.

Članak Da li je papa stvarno nosio Balenciagu? se pojavljuje prvo na Oblakoder.