23. ožujak 2018.

Vesselin Popov: Nakon 300 ‘lajkova‘ Cambridge Analytica vašu osobnost poznaje bolje od partnera

Digitalnu revoluciju koju je pokrenuo Michal Kosinski u Centru za psihometriju na Sveučilištu u Cambridgeu nastavlja tim stručnjaka predvođen mladim direktorom razvoja Vesselinom Popovom. Centar s pomoću algoritma analizira osobne podatke koje ostavljate na internetu – sve što ste ‘lajkali‘ na Facebooku, objavili na Instagramu, ‘guglali‘ ili kupili u e-trgovini – i konstruira vašu osobnost, odnosno stvara precizne psihodemografske profile u djeliću sekunde. Takve analize imaju veliku vrijednost za marketinške agencije i brendove koji se trude maksimalno personalizirati proizvod kako bi ostvarili što veću konverziju. Javna je tajna da se tim tehnologijama koristi i u političkim sferama kako bi prilagođenom retorikom političari pridobili što više glasača. Algoritam Kosinskog, primjerice, iskoristila je tvrtka Strategic Communication Laboratories (SCL). Kad je on posumnjao da će se njegova dostignuća iskoristiti u predizbornim kampanjama, izišao je iz tog posla, a SCL je osnovao novu tvrtku specijaliziranu za američke izbore – Cambridge Analyticu koja je ovih dana u središtu velikog skandala zbog korištenja privatnih podataka 50 milijuna korisnika Facebooka.

>>>Snowden o ‘najuspješnijoj obmani’: Facebook je alat za nadzor rebrandiran u društvenu mrežu

S Popovom smo razgovarali o ulozi psihometrije u Trumpovoj pobjedi, Brexitu, mogućnosti uporabe prediktivnih tehnologija u biznisu i budućnosti prava na privatnost.

  • Čime se trenutačno bavite u Centru za psihometriju i koja je vaša uloga u tome?

- Proučavamo ljudsko ponašanje i motivaciju upotrebljavajući velike količine podataka s društvenih mreža, online burzi poslova, stranica za upoznavanje, interneta stvari i slično. Istraživanja koja provodimo usmjerena su prema razvoju alata i metodologija za psihološku i bihevioralnu procjenu, a moja je uloga prepoznati u kojim bi se područjima psihometrija mogla upotrijebiti neovisno o tome je li riječ o optimizaciji selekcijskih procesa, personalizaciji digitalnih usluga ili poboljšanju kvalitete zdravstvene skrbi.

  • Koordinirate algoritmom za predviđanje Apply Magic Sauce. Razlikuje li se on od Kosinskijeovog algoritma i kako funkcionira?
Teško je decidirano tvrditi što je prouzročilo promjene u američkim državama klackalicama (engl. swing states). U svakom slučaju, drago mi je što vidim da se medijska pozornost usmjerila na važnije teme poput vjerojatnosti da moćne organizacije i pojedinci Trumpove administracije upotrebljavaju tehnike kojima na temelju velikih podataka manipuliraju glasačima.

- Michal Kosinski razvio je modele koji su sastavni dio algoritma Apply Magic Sauce (AMS) te i dalje s njim surađujemo. Projekt AMS je jedinstven. Nijedna druga usluga za predviđanje osobnosti ne temelji se na većoj i bogatijoj bazi podataka – za potrebe projekta podatke nam je ustupilo šest milijuna korisnika društvenih mreža. AMS upotrebljava lajkove i statuse s Facebooka i ostale digitalne tragove kako bi generirao psihološka predviđanja o pojedincu u pola sekunde. Algoritam uspoređuje digitalne otiske milijuna korisnika koji su riješili psihometrijske testove i pristali s nama podijeliti podatke s društvenih mreža. Prepoznajući obrasce u digitalnim tragovima, algoritam izabire suptilne signale koje smatra indikativnima za određene psihološke karakteristike.

  • Kojim područjima psihometrijske tehnike mogu najviše pridonijeti?

- Psihometrija ima dugu prošlost i obećavajuću budućnost, osobito u područjima obrazovanja, karijernog te kliničkog testiranja. Potaknuta našim istraživanjima, psihometrija je nedavno ušla u online svijet i donijela nove mogućnosti. Računalnim testiranjem revolucionarizirani su ispiti u području obrazovanja i napravljen je ogroman napredak što se tiče poštenosti, objektivnosti i meritokracije. Testovi sada mogu biti kraći, precizniji i, ako se pravilno izvode, teže je na njima varati. Poslovni i zdravstveni sektor u tome zaostaju. Primjećujem pretjerano oslanjanje na neznanstvene alate, što možda samo govori o zastarjelosti tržišta testova. Napori marketinga i prodaje da kategoriziraju zaposlenike u određene tipove, boje ili druge arbitrarne kategorije zamijenili su zdrav razum u preispitivanju koje su karakteristike dobrog djelatnika. Rekruteri imaju vrlo slab uvid u kvalitetu psihometrijskih testova, njihovu pouzdanost i valjanost.

  • Kako psihometrijske tehnike mogu pridonijeti poslovnom svijetu?

- Psihometrija primijenjena u velikim podacima može inspirirati sustave koji se prilagođavaju našim jedinstvenim željama i psihološkim naklonjenostima u stvarnom vremenu. Za razliku od većine aktuarskih sustava koji se upotrebljavaju u osiguranju ili bankarstvu, oni mogu objasniti njihove odluke i povezati odlučivanje s ljudskim odlikama, a ne korelacijama podataka koje je nemoguće interpretirati.

  • Koliko su točna ta predviđanja i je li riskantno potpuno se osloniti na njih?
Facebook na reklami zaradi u prosjeku manje od dva dolara na mjesec po korisniku. Zato bi se opcija nepraćenja (engl. do-not-track) mogla naplaćivati. Rado bih se pretplatio na nju i platio za svoju privatnost. No moramo paziti da privatnost ne bude elitizirana.

– Algoritam za predviđanje osobnosti može nadmašiti točnost ljudske prosudbe u određivanju rezultata na testovima osobnosti. Već na temelju 10 lajkova računalna procjena nadmašuje prosudbu kolega, na temelju 70 lajkova nadmašuje prosudbe prijatelja, a s više od 300 lajkova premašuje sposobnost procjene supružnika. Uvijek je riskantno osloniti se samo na jednu tehnologiju, ali to se baš ne razlikuje mnogo od oslanjanja na samo jedan selekcijski test ili samo jedan razgovor s poslodavcem. Većina tvrtki upotrebljava nekoliko alata i uspoređuje njihove relativne prednosti i mane. Predviđanje osobnosti na temelju digitalnih otisaka je brzo, jeftino i precizno za određene pojedince, ali ne bi se smjelo upotrebljavati kao jedini izvor podataka kada su ulozi veliki. Ipak, tvrtke se redovito oslanjaju na mnogo manje pri zapošljavanju, otpuštanju ili odabiru novog pravca strateškog djelovanja.

  • Tijekom američke predsjedničke izborne kampanje, kandidat Donald Trump angažirao je tvrtku Cambridge Analytica koja ga je savjetovala koristeći se pritom velikim podacima. Mediji su bili (i još su) puni napisa o tome kako su za Trumpovu pobjedu presudnu ulogu imali veliki podaci. Je li za njegovu pobjedu zaslužna psihologija velikih podataka?

- Nisam politički stručnjak, ali nisam vidio nijedan dokaz koji bi potvrdio da je na Trumpovu pobjedu utjecala analiza velikih podataka, mikrotargetiranje ili ijedna druga tehnika kojom se navodno Cambridge Analytica služi. Stajališta sam da na izborima pobjeđuju kandidati, a ne veliki podaci. Budući da nije transparentno kako je kampanja vođena, teško je decidirano tvrditi što je prouzročilo promjene u državama klackalicama (engl. swing states). Još se u Platonovim, Aristotelovim, pa i nekim ranijim radovima spominje da veću moć uvjeravanja imaju poruke koje apeliraju na emocije nego one usmjerene na razum. (Zanimljivo je da neki zaposlenici Cambridge Analytice u svojim nedavnim izjavama tvrde da se nikada nisu koristili psihografičkim tehnikama tijekom kampanje.) U svakom slučaju, drago mi je što vidim da se medijska pozornost usmjerila na važnije teme poput vjerojatnosti da moćne organizacije i pojedinci Trumpove administracije upotrebljavaju tehnike kojima na temelju velikih podataka manipuliraju glasačima.

  • Koliko se upotrebljavaju veliki podaci i tehnologije predviđanja u izbornim kampanjama koje su u jeku u Njemačkoj i Francuskoj te jesu li korišteni u kampanji za Brexit?

– Žao mi je, ne mogu odgovoriti na ta pitanja. Nemam nikakvih informacija o tome jesu li tehnike velikih podataka upotrijebljene u europskim izborima ili u Brexitu. Bilo je nekih pokazatelja u medijskim objavama Cambridge Analytice da traži klijente u Europi, ali veoma je tajnovita u vezi s tim s kime surađuje. Iako sam siguran da je sudjelovala u kampanji Leave. EU (sudeći prema istraživanju Observera i Guardiana), ne znam što je točno radila. Smatram da bi bilo naivno misliti da ne surađuje ili da barem ne pokušava ostvariti suradnju s desno orijentiranim klijentima u Europi poput Nacionalne fronte ili AfD-a.

  • Istraživanja koja ste proveli 2016. pokazala su da 71 posto ljudi smatra kako tvrtke koje imaju pristup njihovim osobnim podacima s tim podacima ne postupaju etično. Hoće li Opća uredba o zaštiti podataka (GDPR) popraviti situaciju?
Nemam nikakvih informacija o tome jesu li tehnike velikih podataka upotrijebljene na europskim izborima ili u Brexitu. Bilo bi naivno misliti da Cambridge Analytica ne surađuje ili da barem ne pokušava ostvariti suradnju s desno orijentiranim klijentima u Europi poput Nacionalne fronte ili AfD-a.

- Istina je da mnoge tvrtke imaju još mnogo posla kako bi uvjerile javnost da se odgovorno koriste njihovim osobnim podacima. Bio sam iznenađen kad sam vidio taj rezultat u našem istraživanju ‘Izvješće o povjerenju i prediktivnim tehnologijama 2016.‘ jer sam svjestan koliko ozbiljne financijske posljedice, pa i posljedice po ugled zloporaba podataka može imati. Druga istraživanja, primjerice ono koje je proveo Accenture, pokazuju da većina tvrtki još nije spremna za odredbe GDPR-a. Stoga očekujem da će se u prvih nekoliko mjeseci od njezinog stupanja na snagu naći dosta propusta i propisivati stroge kazne. Iako zakonodavstvo nudi učinkovitu zaštitu u prikupljanju podataka, većina zakona, uključujući i GDPR, ne prepoznaje način na koji se neosobni, naizgled bezazleni podaci mogu kombinirati s drugim bazama podataka i obraditi na način da je lako identificirati ‘anonimnog‘ pojedinca. Postoji mnogo primjera iz stvarnog svijeta u kojima su baze podataka prestale biti anonimne, poput objave povijesti gledanja sadržaja na Netflixu ili vožnje taksijem po New Yorku. Uvijek se može dogoditi da podaci procure.

  • Je li moralno upotrebljavati osobne podatke?

- Digitalni građani u tome isto imaju svoj udio odgovornosti. S mobitelima i uvijek uključenim uslugama koje nas prate tijekom cijeloga dana, moramo prihvatiti da je većina podataka za koje ne bismo voljeli da ih tvrtke upotrebljavaju već u jednom ili drugom obliku podijeljena. Klik na Google, slika na Instagramu, aplikacija za praćenje fizičkih aktivnosti – i podaci su tu. Stoga nije poenta u tome da se kontrolira kako se podaci prikupljaju, već u načinu na koji se oni kasnije upotrebljavaju te kako osigurati da su pojedinci nagrađeni zbog ustupanja podataka. Pozitivan primjer toga je CitizenMe, londonska tvrtka za istraživanje tržišta s kojom Centar surađuje. Naime, ona omogućuju da korisnici njezine aplikacije razmjenjuju osobne podatke s brendovima, odgovaraju na njihova pitanja i slično, a zauzvrat su nagrađeni uvidom u svoj psihološki profil ili novčanom naknadom.

  • Kako ohrabriti građane da se pobune protiv skupljanja i trgovanja osobnim podacima bez njihova pristanka ili odgovarajuće naknade?
Već na temelju 10 lajkova računalna procjena u samo pola sekunde nadmašuje prosudbu kolega, na temelju 70 lajkova nadmašuje prosudbe prijatelja, a s više od 300 lajkova premašuje sposobnost procjene supružnika.

- Vjerujemo da je jedan od prvih koraka naučiti građane da njihovi podaci imaju vrijednost. Većina ljudi shvaća da zdravstveno osiguranje može promijeniti premiju uplate ako ima saznanja o tome što jedu, koliko vježbaju i slično. No malo je onih koji shvaćaju da se klikovima i lajkovima može napraviti veoma osjetljiv psihološki profil u kojem su vidljive njihove želje i seksualna orijentacija. Inicijative poput Apply Magic Saucea i ostali open source alati koje objavljujemo ključni su u pokazivanju što se sve s podacima može napraviti. To pomaže da se svi dionici, uključujući i građane, uključe u otvorenu raspravu o tome kako bi prediktivne tehnologije trebale biti upotrebljavane. Ne vjerujem da je digitalno povlačenje pravi cilj. Želimo potaknuti tvrtke da osmisle bolje usluge koje razumiju naše osobnosti i bolje odgovaraju na naše potrebe. Mogu zamisliti budućnost u kojoj je isplativije zaštititi nego povrijediti privatnost i u kojoj konkurentska prednost nije količina podataka, već učinkovitost u pretvaranju tih podataka u pogodnosti za korisnika.

  • Tvrtke korisnicima nude besplatne usluge, a onda zarađuju na podacima koje su od njih prikupile. Jesmo li postali proizvod? Trebamo li početi plaćati pružateljima ‘besplatnih‘ usluga za očuvanje privatnosti?

– Ako ne plaćaš gotovinom, platit ćeš privatnošću. Ne slažem se s nekim zagovarateljima privatnosti koji vjeruju da bi kompanije poput Facebooka i Googlea trebale nastaviti pružati svoje usluge zabadava jednostavno zato što smo se na njih naviknuli u svakodnevnom životu. Facebook zarađuje od oglašavanja i stoga mora pratiti svoje korisnike. U prosjeku, Facebook na mjesec na reklami zaradi manje od dva dolara po korisniku. Tako da bi se opcija nepraćenja (engl. do-not-track) mogla naplaćivati. Rado bih se pretplatio na nju i platio za svoju privatnost. No moramo paziti da privatnost ne bude elitizirana, odnosno da se ne dogodi da je mogu imati samo oni koji si je mogu priuštiti. Ona je i dalje jedno od temeljnih prava u europskom zakonodavstvu i trebali bismo ustrajati na stvaranju inovativnih poslovnih modela koji potiču ravnopravnost u smislu privatnosti osobnih podataka.

  • Kad je riječ o velikim podacima, što nam donosi bliska budućnost?

- Umjetna inteligencija i proces robotizacije imat će važnu ulogu u budućnosti. Male i velike organizacije zajahale su taj val unatoč tome što ne razumiju u potpunosti koji će biti krajnji ishod. Napredak tehnologije doveo je do toga da su pohranjivanje i obrada podataka jeftiniji nego ikad, a time je i manja vjerojatnost da će se kompanije držati načela brisanja svih podataka koji se ne upotrebljavaju. Prema istraživanju Veritasa, većina podataka koje tvrtke zadržavaju potpuno je nekorisna, svega 14 posto uskladištenih podataka bitno je za posao. Moj je interes u budućnosti istražiti mogućnosti kombiniranja predviđanja digitalnog otiska sa sustavom ‘blockchaina‘ i stvaranje sustava za razmjenu osobnih podataka koji u stvarnom vremenu omogućuje korisnicima uvid u te podatke i naknadu za njih. Hibridno rješenje te vrste moglo  bi biti još jedan dio slagalice u našem pothvatu personalizacije interneta.

Intervju je originalno objavljen u 600. broju Lidera 31. ožujka 2017. godine.