ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹ ANTENA NOVA EPIZODA: Simbol Beograda - Avalski toranj ✹

Shop    |    Newsletter    |    Podrži nas

Živeti za drugog: kako nas tehnologija nadzire

Da li će ustaljenoj praksi krađe podataka o korisnicima interneta, ciljanog oglašavanja, manipulativnog navođenja potrošača i drugim oblicima zloupotrebe moći od strane tehnoloških giganata, uskoro odzvoniti i zašto je to važno?

31. October 2023

Odlučili ste da kupite verenički prsten kako biste iznenadili izabranicu. Odlazite na sajt prodavnice i naručujete. Plaćate. Posle sat vremena prijatelj vas zove i, na vaše zaprepašćenje, čestita veridbu. Niste mu ništa rekli – video je na Fejsbuku šta ste kupili, sa linkom ka proizvodu  i cenom. I ne samo on: videli su i drugi, uključujući devojku i njene prijatelje. Sve bez vašeg znanja.

Iako zvuči previše ekstremno da bi se desilo, desilo se: novembra 2007. godine Džonatan Tren je bio besan: „Ono što je trebalo da bude doživotna uspomena, upropašćeno je iritantnim nasrtajem na moju privatnost. Upropastili su deo mog života“. Tako je glasio njegov komentar na „bikon“, kontroverzan Fejsbukov servis koji je, bez pitanja, čak i kad ste oflajn, obaveštavao vaše prijatelje koje sajtove posećujete i šta na njima kupujete. Usled ogorčene reakcije javnosti, „bikon“ je ukinut.

Šesnaest godina kasnije, uveliko znamo da računari i telefoni pamte naše pretrage kako bi nam, volšebno, iskakale reklame baš o onome što nas zanima. Ove tehnike, međutim, jedva da su vrh ledenog brega onoga što je prof. Šošana Zubof (1951), filozof i socijalni psiholog sa univerziteta Harvard, imenovala kao „nadzorni kapitalizam“. Ovaj termin sve se više koristi i centralna je tema njenih istraživanja, pretočenih 2019. godine u knjigu „Doba nadzornog kapitalizma“ (The Age of Surveillance Capitalism). Na srpskom je, po prevodu Jelene Petrović, objavljena 2020. u izdanju IP Clio.

Nadzorni kapitalizam Zubof definiše kao „novi ekonomski poredak koji podrazumeva prisvajanje ljudskog iskustva za prikrivenu poslovnu praksu iskopavanja podataka, predviđanja i prodaje“. Tu praksu utemeljio je Gugl.

Ciljano oglašavanje: prvobitni greh

Sve je počelo ranih dvehiljaditih, usponom kompanije koju su 1998. osnovali  Lari Pejdž i Sergej Brin. Gugl se kvalitetnim uslugama brzo nametnuo kao posrednik u mnogo sfera informatizovanog ponašanja. Dok su ljudi pretraživali internet svaki upit je, pored ključnih reči, produkovao niz pratećih podataka: broj, redosled i način na koji su reči otkucane, interpunkciju, dužina perioda mirovanja, obrazac klikova, lokacija itd. Ovim nusproizvodima pretrage isprva nije pridavan značaj. Međutim, Gugl je „odskočio“ kada je ovaj neprekidan, rastući dotok podataka počeo da koristi za unapređenje svojih usluga. Njihovim ugrađivanjem u korisničko iskustvo, postao je zlatni standard internet-pretraživanja. Suština je bila u recipročnom odnosu sa klijentima – korisnicima.

Sve se promenilo tokom dot-com krize 2000, kada su mnoge firme Silicijumske doline bankrotirale. Investitori su se uspaničili: preživele kompanije morale su izaći na „zelenu granu“ kako znaju i umeju. Pritisnuti zahtevima za održivim i progresivnim profitom, osnivači Gugla su se, uprkos protivljenju oglašavanju, predomislili.

Nije bilo dovoljno samo uvesti oglase. Kolateralni signali o ponašanju i dalje su korišćeni kao pre, ali su sve krupnije zalihe ovih podataka korišćene i mimo nadgradnje servisa. Baš te zalihe, koje autorka naziva „bihevioralnim viškom“ Gugl je prenamenio za razvoj ciljanog oglašavanja. Najbolju poziciju dobijao je oglašivač koji najviše plati, na osnovu cene po kliku pomnožene procenom verovatnoće da neko klikne na oglas. Ta verovatnoća računata je upravo zahvaljujući – bihevioralnom višku.

Bio je to pun pogodak: kombinacija napredne analitike i sve većih bihevioralnih zaliha spasila je Gugl. Godine 2001. konačno prelaze „u plus“. Naredne godine prihoduju 347 miliona dolara, sledeće 1,5 milijardi, a 2004. godine čak 3,2 milijarde. Prihodi su, za četiri godine, porasli 3.500%.

Počeo je show.

Nova logika

Tehnološka zajednica bila je opčinjena. Istim putem pošao je Fejsbuk, globalno otvorivši svoju platformu 2007. sa misijom „da poveže sve ljude na svetu“. Već u maju uveo je pomenuti „bikon“. Premda ga je ukinuo, presedan je napravljen, a Zakerberg je izjavio da privatnost „više nije društvena norma“. Već u martu 2008. za izvršnu direktorku postavljena je Šeril Sandberg, dotadašnja direktorka u Guglu. Fejsbuk je shvatio potencijal nadzora, ali je morao da ovlada Guglovim umećem. Kako su Pejdž i Brin svoju analitiku zaštitili, Fejsbuk je razvio vlastite algoritme za ciljanje. U praćenju korisnika, preuzimanju, skladištenju i analizi podataka otišlo se dalje: neće se ograničavati na ono što ljudi sami podele. Podaci o ponašanju mogu se koristiti ne samo za plasiranje proizvoda i usluga, već i za stvaranje tražnje za njima. Godinu dana po dolasku Sandbergove, kompanija stiče profit, a prihod za pet godina raste 1.600%.

Nadzorni kapitalizam privukao je firme iz drugih sektora. Recipročan odnos sa korisnicima zamenjen je interesima novih klijenata – oglašivača. Gugl, Fejsbuk, Amazon, Majkrosoft, Epl, Samsung i mnogi drugi naučili su da podatke o ponašanju na internetu (a potom i van njega) indeksiraju, strukturiraju i pakuju. Onda ih prodaju drugim kompanijama koje se nameću našoj pažnji.

Pakovanje se vrši uz patentiranu metodologiju i mašinsku inteligenciju koja se hrani podacima koje ostavljamo. A ostavljamo mnogo: tokom 2022. godine, Guglov pretraživač obrađivao je preko 8,5 milijardi upita dnevno. Te pakete autorka naziva „prognostičkim proizvodima“ koje druge firme kupuju kako bi znale gde ćemo kliknuti, šta ćemo misliti, osećati i raditi – danas, sutra i nadalje. Tako smanjuju rizik, učeći gde da investiraju više, a gde manje.

Juriš na privatnost

Kako je konkurencija rasla, više nije bilo dovoljno reaktivno čekati na podatke: treba ih aktivno preuzimati. Vrhunska zarada zavisila je od vrhunske tehnologije, pa su ove kompanije – koje autorka naziva nadzornim kapitalistima – počele da kupuju firme u oblastima prepoznavanja glasa i lica, dubokog učenja, proširene stvarnosti i sl. Najpre je Gugl već 2006. za 1,7 milijardi dolara preuzeo YouTube a, do početka 2023, više od 250 kompanija završilo je pod istim krovom: Motorola, HTC, reCAPTCHA, SkyBox, Deep Mind Technologies… Zakerberg je, do danas, u rebrendiranu kompaniju Meta integrisao preko stotinu njih, od startapa za virtuelnu stvarnost Oculus i kompanije Giphy do platforme Instagram. Samo WhatsApp plaćen je 19 milijardi dolara.

Ovo znači da se sve šire polje ponašanja sliva u kanale za dotok bihevioralnog viška. Kako se kanali šire, prognoze su preciznije. „Sve počinje“, kako autorka ističe, „agresivnim upadom u nebranjeni prostor“, potezima koje niko nije očekivao. Nakon reakcije javnosti, kompanije negiraju pa delimično priznaju zakulisne radnje. Dok istrage traju, praksa se nastavlja da bi se tek na kraju prilagodila, a čitav problem potcenio ili individualizovao. Time se krug zatvara, presedan postavlja, a nadzor normalizuje.

U knjizi je opisan niz skandala. Prvi poznatiji dogodio se 2004, kada je otkriveno da Gugl skenira mejlove korisnika džimejla kako bi plasirao reklame prilagođene sadržaju mejlova. Reakcije su bile ogorčene, ali se kompanija nije zaustavila. Kada je reč o projektu StreetView i Guglovim vozilima koja mapiraju teren, nemačka savezna komisija za zaštitu podataka ga je 2010. označila kao „paravan za tajno prikupljanje podataka“. Iz kompanije su to negirali, tvrdeći da su preuzimani samo javno dostupni nazivi bežičnih mreža i adrese rutera, nipošto lični podaci. Nakon dodatnog veštačenja eksperata iz Nemačke, Francuske i Holandije, utvrđeno je da su vozila preuzimala lične podatke nezaštićene enkripcijom. Imenici, brojevi telefona, informacije o uplatama, poruke, ćaskanja, fotografije, video i audio snimci – sve je bilo spremno za analizu, ukrštanje i dalju prodaju. O ovom slučaju pisali su svi svetski mediji, a Gugl je dospeo pod istragu u dvanaest zemalja Evrope, Australiji i 38 američkih saveznih država. Kompanija je višestruko kažnjavana, ali je sve pripisano grešci inženjera koji je radio na projektu.

Sličan je i put usluga poput Google+, Google Earth, a naročito operativni sistem Android za koji se, zbog otvorenog koda, lako prave aplikacije. Najbolje od njih uvezane su u prodavnicu GooglePlay, tako da proizvođači mobilnih telefona moraju da ponude Chrome, Gmail, GooglePay, YouTube, GooglePhoto itd. „Da bi svaki korisnik imao svoj lični Gugl“, rekao je 2016. generalni direktor Sundar Pičaj, „Gugl mora imati njega“.

Oko koje ne spava

Autorka ne štedi ni proizvođače kućne elektronike. Ne bi li „naš dom uklopili u naš umreženi život“ – kako je to zamislio direktor u Samsungu 2014. godine – pametni televizori zasnovani na Androidu snimaju sve što se u njihovoj blizini izgovori, pa šalju trećim stranama na obradu. To nije čak ni tajna: piše u uslovima korišćenja koji su obimni i teški za razumevanje. Samsung je do 2016. udvostručo obim operacija uz nove modele uvezanih i „ambicioznih“ lampi, ventilatora, bezbednosnih kamera, brava i drugih komponenti  tzv. interneta stvari (Internet of Things).

Većina nas možda i nije čula za interaktivne dečije igračke Genesis Toys koje, kada se povežu sa aplikacijom – a samo tada funkcionišu – razumeju, memorišu i prosleđuju sve što dete kaže. Istovremeno, aplikacija pristupa funkcijama telefona koje sa igračkom nemaju nikakve veze.

Većina nas je čula za „dot“ zvučnike Amazona, ali ne i za ugovore koji se od 2018. sklapaju sa građevinskim firmama kako bi ih ugrađivale u plafone. Njima, prekidačima za svetlo, termostatima i sličnim napravama upravlja softverski asistent Alexa. Mnoštvo slučajeva upada u unutrašnji svet ljudi našlo se na 550 strana autorkine analize: od zakulisnih radnji satova za fitnes, preko automobilskog softvera, „pametnog“ tekstila do tehnologija koje procenjuju kada smo najpodložniji komercijalnom uticaju. Kompanije uglavnom ne preuzimaju odgovornost za ono šta treće strane rade sa podacima. Umesto toga, korisnima preporučuju da pored njihovih, pročitaju i politike privatnosti trećih strana. Ove, pak, upućuju na svoje partnere i tako ukrug.

„Izbor je prost: put u ludilo ili predaja“, ističe autorka.

Šta ćemo sad?

Šta nadzorni kapitalisti žele? Žele profit i to je O.K. Zabrinjava, međutim, način na koji ga stiču – pretvaranjem ljudi, naših tela, želja, društvenih veza u besplatni i neograničeni ekonomski resurs. U sprezi sa marketingom, bez jasne saglasnosti produkuju podatke o fiziološkim procesima, govoru i pokretima očiju. Time ugrožavaju našu autonomiju. U sprezi sa politikom, bez naše svesti utiču na ishode glasanja. Time ugrožavaju demokratiju. U sprezi sa oglašivačima, netransparentno nas usmeravaju ka izvesnosti koju onda unovčavaju. Time ugrožavaju spontanost i lepotu ljudskih odnosa. Zašto je ovo važno? Ne uživamo li u nikad većem skladištu na klaudu, povezanosti i sve pametnijim uređajima? Nije li to prirodni tok razvoja tehnologije, fer cena za udobnost?

„Ne“, odlučna je Zubof i to je glavna poruka knjige. Nadzorni kapitalizam nije neizbežan. Svesno je osmišljen od konkretne grupe ljudi, u konkretnom trenutku. Počiva na našoj nesvesnosti i ranjivosti. I – dobro mu ide. Sećate se Guglovog astronomskog prihoda od 3,2 milijarde dolara u 2004? Prošle godine iznosio je 282 milijarde.

Kada povećamo svest o riziku i opasnosti, pašće i nadzorni kapitalizam i zato je autorkin doprinos nesaglediv: pregršt nalaza i podataka smešta u novi, izazovan okvir podupirući ga sa 120 strana referenci. „Najvažnije je“, kako Zubof navodi, „sprečiti korporacije da bihevioralni višak nasilno preuzimaju i na njemu zarađuju“.

P.S. Četiri godine kasnije

Čini se da se Evropa trgla: u avgustu je, nakon pritiska Evropske komisije da ukine visokopersonalizovano oglašavanje, Meta predložila da ih svede na opciju koja može da se uključi. Zimus je irsko regulatorno telo, zbog prebacivanja podataka o korisnicima iz EU u SAD, Metu kaznila sa 400 miliona dolara, a onda proletos ponovo, sa 1,3 milijardi. Prihodi ove firme, čije bezbednosne skandale nije lako ni pobrojati, u 2022. su po prvi put opali, a izazovi tek slede.

Novom EU regulacijom o digitalnim uslugama, koja je stupila na snagu 25. avgusta, tehnološke kompanije smatraće se još više odgovornim za govor mržnje, širenje lažnih informacija, manipulaciju potrošačima i slične radnje. Zabranjuje se ciljano oglašavanje usmereno ka deci, a društvene platforme će morati da izvrše (i Evropskoj komisiji dostave) procenu rizika po mentalno zdravlje dece. Regulacija zabranjuje i tzv. mračne šablone, a društvene mreže moraće da podignu nivo privatnosti, bezbednosti i zaštite korisničkih podataka. Još stroža pravila predviđena su za kategoriju „veoma velikih“ onlajn platformi i pretraživača, kao što su X, TikTok, LinkedIn, Snapchat, Bing, a pre svih – Gugl i Meta, sa svojim brojnim platformama.

Autor teksta: Ivan Radanović
Ilustracije: Nataša Mihailović

Preporučeni tekstovi

Zašto generalni štrajk?

Zašto generalni štrajk?

Studenti ne traže da ih tapšemo po ramenu, oni traže saveznike za zajedničku borbu koja će voditi ka korenitim promenama u Srbiji

Pratite nas na:

0 Comments

Submit a Comment

Vaša email adresa neće biti objavljena. Obavezna polja su označena sa *