U prethodnom delu istraživali smo kako internet može pojačavati ljudsku potrebu za pripadanjem, kako grupni identitet utiče na prihvatanje informacija i zašto emocionalno ogorčenje ponekad postaje važnije od racionalnog rasuđivanja.
Sada prelazimo na sledeće pitanje:
Šta se događa kada neko te psihološke mehanizme ne koristi slučajno, već pokušava da ih sistematski iskoristi?
U tradicionalnoj propagandi organizator je nastojao da određenu poruku prenese što većem broju ljudi. U digitalnom okruženju može pokušati nešto složenije: da stvori utisak da poruka već uživa široku društvenu podršku, da dolazi od običnih građana i da predstavlja spontano mišljenje zajednice.
Tu se nalazi jedna od ključnih razlika između običnog političkog ubeđivanja i prikrivene manipulacije.
Legitimno političko ubeđivanje podrazumeva iznošenje stavova, argumenata i poziva na delovanje. Manipulacija nastaje kada se prikrivaju izvor, identitet, koordinacija ili stvarna priroda poruke, odnosno kada se publika obmanjuje o tome ko govori i zašto.
Istraživaćemo te pojave bez pretpostavke da je svaki politički pokret veštački organizovan, da je svaka viralna objava deo kampanje ili da je svaka snažna društvena emocija rezultat spoljnog uticaja.
1. Od propagande do organizovanog digitalnog uticaja
Propaganda je mnogo starija od interneta. Države, politički pokreti, kompanije i druge organizacije decenijama su koristili novine, radio, film i televiziju za oblikovanje javnog mišljenja.
Digitalne platforme promenile su nekoliko važnih uslova.
Pre svega, komunikacija više nije ograničena na mali broj velikih medijskih organizacija. Gotovo svako može objaviti sadržaj koji potencijalno dopire do velikog broja ljudi.
Drugo, reakcije publike postale su vidljive i merljive. Broj pregleda, komentara i deljenja omogućava brzo procenjivanje popularnosti poruke, iako te metrike ne dokazuju njenu istinitost niti stvarnu društvenu podršku.
Treće, različite publike mogu dobijati različite poruke. Takva segmentacija može biti legitimna u oglašavanju i političkoj komunikaciji, ali postaje problematična kada uključuje obmanu, neprozirno korišćenje ličnih podataka ili prikrivanje sponzora.
Četvrto, digitalne kampanje mogu kombinovati ljudske operatere, automatizovane naloge, generativnu veštačku inteligenciju i stvarne korisnike koji sadržaj šire bez saznanja o njegovom poreklu.
Najvažnija posledica jeste da organizator više ne mora samo da promoviše neku tvrdnju. Može pokušati da manipuliše i društvenim okruženjem u kojem ljudi procenjuju tu tvrdnju.
2. Astroturfing: Kada organizovana kampanja izgleda kao spontani pokret
Izraz astroturfing označava stvaranje lažnog utiska spontane podrške građana ili nezavisnih aktera, iako iza aktivnosti stoji organizovana struktura.
Naziv potiče od veštačke trave AstroTurf, kao suprotnosti izrazu grassroots, koji označava autentično organizovanje građana odozdo.
U političkom kontekstu to može podrazumevati prikriveno finansiranje, lažno predstavljanje organizatora ili koordinisano nastupanje pod prividom nezavisnih glasova.
Važno je naglasiti da koordinacija sama po sebi nije dokaz astroturfinga. Građanske organizacije, sindikati, političke stranke i aktivističke grupe legitimno koordiniraju svoje poruke i aktivnosti.
Presudno pitanje nije da li postoji organizacija, već da li se publika namerno obmanjuje o njenom postojanju, poreklu ili nezavisnosti.
Zamislimo da stotine naloga istovremeno izražavaju podršku određenoj inicijativi.
To može biti autentična mobilizacija ljudi koji dele zajedničko uverenje. Može biti javno organizovana kampanja. A može biti i prikrivena operacija sa lažnim identitetima.
Sama sličnost poruka nije dovoljna da razlikujemo ove mogućnosti.
Za ozbiljnu analizu potrebni su dodatni dokazi: povezanost naloga, tragovi koordinacije, dokumentacija o finansiranju, infrastruktura kampanje ili nalazi nezavisnih istraživača.
3. Iluzija većine i psihologija društvenog dokaza
Jedan od osnovnih mehanizama društvenog uticaja jeste sklonost ljudi da ponašanje drugih koriste kao pokazatelj onoga što je prihvatljivo, popularno ili ispravno.
U neizvesnim situacijama to može biti korisno. Ali kada su signali društvene podrške veštački proizvedeni, isti mehanizam može dovesti do pogrešnih zaključaka.
Digitalne platforme prikazuju različite pokazatelje popularnosti: reakcije, broj pratilaca, komentare, rangiranje sadržaja i trending liste.
Posmatrač može zaključiti da određeni stav predstavlja mišljenje većine, iako zapravo vidi selektovan ili veštački pojačan uzorak.
Ovde treba razlikovati tri stvari:
Stvarnu popularnost — koliko ljudi zaista podržava neku ideju.
Vidljivu popularnost — koliko se podrške pojavljuje na određenoj platformi.
Percepciju popularnosti — koliko podrške posmatrač veruje da postoji.
Ove tri veličine mogu se značajno razlikovati.
A upravo ta razlika otvara prostor za manipulaciju.
4. Botovi i lažni identiteti: Ko zapravo govori?
Bot je automatizovani ili delimično automatizovani nalog ili sistem. Međutim, automatizacija sama po sebi nije štetna.
Postoje korisni botovi koji objavljuju vremenske prognoze, obaveštenja o vanrednim situacijama, naučne podatke ili informacije javnog značaja.
Problem nastaje kada se automatizacija koristi za obmanjujuće predstavljanje ljudi, prikrivanje koordinacije ili veštačko povećavanje vidljivosti određenih poruka.
Još je važnije razlikovati botove od lažnih ljudski upravljanih naloga. Organizovane operacije uticaja ne moraju se oslanjati na sofisticiranu automatizaciju. Mogu koristiti stvarne operatere koji upravljaju većim brojem identiteta.
Generativna veštačka inteligencija dodatno komplikuje ovu razliku jer omogućava brzo stvaranje različitih tekstova i vizuelnih materijala.
Ipak, nije opravdano automatski zaključiti da je nalog bot samo zato što često objavljuje, koristi slične izraze kao drugi ili zastupa nepopularno mišljenje.
Pogrešne optužbe za koordinisanu manipulaciju mogu same postati sredstvo diskreditovanja legitimnih učesnika javne rasprave.
5. Kada manipulacija postane industrija
Dugo se o propagandi govorilo prvenstveno kao o delovanju država, političkih partija i velikih medijskih organizacija.
Međutim, savremeno informaciono okruženje uključuje i privatne kompanije koje pružaju usluge političke komunikacije, upravljanja reputacijom i digitalnog uticaja.
Istraživanje Univerziteta Oksford pokazuje da takve aktivnosti nisu ograničene na nekoliko izolovanih slučajeva.
OXFORD INTERNET INSTITUTE — ISTRAŽIVANJE OBJAVLJENO 2021.
81
država sa dokumentovanim organizovanim manipulacijama društvenih mreža
48
zabeleženih slučajeva angažovanja privatnih firmi za političku manipulaciju tokom posmatranog perioda
65+
identifikovanih firmi koje su od 2018. nudile takve usluge
$60m
približno evidentirane potrošnje na angažovanje takvih firmi od 2009.
Istorijski podaci iz izveštaja Industrialized Disinformation: 2020 Global Inventory. Ne predstavljaju procenu za 2026. godinu.
demtech.oii.ox.ac.uk
Ovi nalazi ne znače da su svi politički razgovori na internetu izmanipulisani. Oni pokazuju da postoje profesionalne organizacije i tržište usluga čiji je cilj da prikriveno utiču na informaciono okruženje.
To nas dovodi do važnog zaključka: manipulacija javnim mišljenjem nije samo pitanje ideologije. Ona može biti i komercijalna delatnost.
6. Studija slučaja: Operacija Doppelganger
Jedan od najbolje dokumentovanih primera savremene digitalne operacije uticaja jeste kampanja poznata pod nazivom Doppelganger.
Od 2022. istraživači, evropske institucije i američko Ministarstvo pravde dokumentovali su mrežu lažnih internet stranica i društvenih naloga koji su oponašali poznate medije i širili političke narative povezane sa ruskim državnim interesima.
Američko Ministarstvo pravde je u septembru 2024. objavilo zaplenu 32 domena korišćena u operaciji koju je pripisalo ruskim državnim strukturama. Njegovi navodi uključivali su korišćenje lažnih medijskih sajtova, plaćenih oglasa, influensera i profila koji su se predstavljali kao obični građani.
United States Department of Justice+1
Kako je izgledao jedan dokumentovani obrazac
Imitacija poznatog medija
Stranica izgledom podseća na pouzdan novinski portal, ali koristi drugi domen.
Objavljivanje politički usmerenog sadržaja
Tekst se predstavlja u vizuelnom okruženju koje sugeriše urednički kredibilitet.
Distribucija kroz mrežu naloga
Objave, komentari i oglasi upućuju korisnike ka imitiranom izvoru.
Pokušaj prenošenja poverenja
Korisnik može pogrešno pripisati sadržaj poznatoj redakciji.
Šematski prikaz dokumentovane taktike, a ne tvrdnja da je svaka faza uvek uspevala.
EU DisinfoLab
Posebno je zanimljivo to što ovakva operacija ne pokušava samo da promeni mišljenje publike. Ona pokušava da pozajmi autoritet već poznatog izvora.
Prema tehničkom izveštaju Evropske službe za spoljne poslove iz 2024, kampanja je koristila imitacije medija, mrežu lažnih informativnih portala i hiljade neautentičnih naloga. Isti izveštaj upozorava da je stvarni uticaj na birače teško izmeriti i da nije zabeležen značajan poremećaj normalnog funkcionisanja izbornog procesa koji je proučavan.
EUvsDisinfo
Ovo razlikovanje je presudno.
Dokaz da je operacija postojala nije isto što i dokaz da je promenila mišljenje miliona ljudi ili odlučila ishod izbora.
7. Veštačka inteligencija: Jeftinija proizvodnja sadržaja, ali ne nužno uspešnija manipulacija
Generativna veštačka inteligencija omogućava brzo stvaranje tekstova, prevoda, slika i različitih verzija poruka.
Zbog toga može smanjiti troškove pojedinih aktivnosti u operacijama uticaja.
Ipak, tehnička sposobnost da se proizvede ogromna količina sadržaja ne garantuje da će taj sadržaj biti ubedljiv ili da će dopreti do stvarnih korisnika.
OpenAI je u maju 2024. objavio da je prekinuo pet prikrivenih operacija uticaja koje su koristile njegove modele. Prema tada dostupnim nalazima, nije bilo dokaza da je korišćenje tih modela značajno povećalo doseg ili angažovanje publike tih kampanja.
OpenAI
Ovaj primer otvara važnu razliku između tri nivoa uspeha:
Proizvodnja: koliko sadržaja operacija može da napravi.
Distribucija: koliko ljudi taj sadržaj zaista vidi.
Uticaj: da li sadržaj menja uverenja, emocije ili ponašanje publike.
Organizovana kampanja može biti veoma uspešna u proizvodnji, a gotovo neuspešna u stvarnom uticaju.
U istraživanju digitalne mase ne smemo mešati broj objava sa brojem ubeđenih ljudi.
8. Manipulacija ne mora da izmisli nezadovoljstvo — dovoljno je da ga iskoristi
Jedna od najvažnijih stvari koju moramo razumeti jeste da propaganda ne mora nužno stvarati nova uverenja.
Ponekad je mnogo lakše osloniti se na nezadovoljstvo koje već postoji.
Ekonomska nesigurnost, nepoverenje prema institucijama, politička korupcija, društvena nejednakost ili osećaj nepravde mogu biti potpuno stvarni problemi.
Organizovana manipulacija može pokušati da te probleme iskoristi tako što će određena objašnjenja učiniti vidljivijim, podsticati neprijateljstvo ili prikrivati informacije koje komplikuju poželjni narativ.
To znači da činjenica da neka kampanja manipuliše informacijama ne dokazuje da je nezadovoljstvo građana neosnovano.
Ovo je naročito važno pri proučavanju protesta i političkih pokreta.
Građani mogu imati legitimne razloge za nezadovoljstvo, dok različiti politički akteri istovremeno pokušavaju da utiču na njihovo tumačenje događaja.
Zato moramo odvojeno istraživati uzroke nezadovoljstva, poreklo poruka, organizaciju komunikacije i stvarne posledice.
9. Od protivnika do neprijatelja: Manipulacija kolektivnim identitetom
Ovde se vraćamo centralnim temama našeg istraživanja MASA.
Kod Le Bona smo proučavali emocionalnu zarazu, sugestibilnost i promenu ponašanja pojedinca u masi.
Kod Hoffera smo istraživali potrebu za pripadanjem, identitet masovnog pokreta i psihološku privlačnost kolektivne ideje.
Savremena digitalna manipulacija može pokušati da iskoristi upravo te mehanizme.
Jedan od mogućih obrazaca jeste predstavljanje društvenog sukoba kao borbe između dve moralno suprotstavljene zajednice.
U takvoj predstavi svet se pojednostavljuje. Složeni problemi dobijaju jednog krivca. Unutargrupne razlike postaju manje vidljive, dok se protivničkoj grupi pripisuju zajedničke negativne osobine.
Ovakva podela može biti privlačna zato što nudi jednostavno objašnjenje složenih događaja.
Međutim, ona istovremeno može otežati prepoznavanje činjenica koje ne odgovaraju grupnom narativu.
Posebno je opasna kada pojedinci počnu da smatraju da je neprijateljstvo prema drugoj grupi dokaz njihove sopstvene moralne ispravnosti.
Tada više nije dovoljno podržavati određenu ideju. Od pripadnika se može očekivati i da pokaže prezir prema onima koji je ne prihvataju.
10. Kako razlikovati autentično javno mišljenje od organizovane manipulacije?
Ovo pitanje zaslužuje posebnu pažnju, jer pogrešna procena može dovesti do ozbiljnih optužbi protiv nevinih ljudi.
Slični komentari, naglo povećanje broja objava ili snažno političko opredeljenje nisu sami po sebi dokaz prikrivene operacije.
Potrebno je posmatrati više vrsta dokaza.
Najpouzdanije analize kombinuju tehničke podatke, javno dostupne dokumente, finansijske tragove, izjave relevantnih aktera i nezavisnu proveru.
Važno je da istraživač ostane spreman da promeni zaključak kada se pojave novi dokazi.
11. Da li manipulacija može postati sredstvo međusobnog optuživanja?
Postoji još jedan problem.
Kada društvo postane svesno postojanja digitalnih manipulacija, politički akteri mogu početi da koriste samu optužbu za manipulaciju kao oružje.
Autentični kritičari mogu biti proglašeni botovima.
Legitimni protesti mogu biti predstavljeni kao potpuno veštački.
Novinari mogu biti optuženi da rade za strane interese bez dokaza.
Istovremeno, stvarne organizovane operacije mogu pokušavati da se predstave kao spontano izražavanje građana.
Tako nastaje paradoks: borba protiv manipulacije može i sama postati oblik manipulacije ako se optužbe koriste bez dokaza.
Zato naš rad mora dosledno razlikovati sumnju, indiciju, dokumentovanu povezanost i dokazanu odgovornost.
12. Zaključak: Industrija koja pokušava da oblikuje društvenu stvarnost
U prethodnom delu istraživanja pokazali smo da digitalne zajednice mogu spontano razvijati snažan grupni identitet, emocionalno ogorčenje i neprijateljstvo prema drugim grupama.
U ovom delu videli smo da postoje organizacije koje pokušavaju da utiču na takve procese.
One mogu koristiti lažne identitete, imitacije medija, koordinisanu distribuciju sadržaja i automatizovane sisteme.
Ali ne smemo precenjivati njihove mogućnosti.
Činjenica da je određena kampanja proizvela hiljade objava ne znači da je uspešno promenila javno mišljenje.
Činjenica da je neko izložen propagandi ne znači da je prihvatio njenu poruku.
I činjenica da se politički pokret razvija u informacionom okruženju u kojem postoji manipulacija ne znači da je taj pokret proizvod manipulacije.
Naše centralno pitanje zato nije samo ko proizvodi poruke, već pod kojim okolnostima poruke zaista menjaju kolektivno ponašanje.
To nas vodi ka sledećem delu.
Literatura i dokumentovani izvori
Bradshaw, S., Bailey, H. & Howard, P. N. (2021). Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. Oxford Internet Institute. Izvorni izveštaj
European External Action Service (2024). Technical Report on FIMI Threats: Doppelganger. Tehnički izveštaj
U.S. Department of Justice (2024). Justice Department Disrupts Covert Russian Government-Sponsored Foreign Malign Influence Operation. Saopštenje i sudski navodi
EU DisinfoLab. Doppelganger Hub. Dokumentacija i analize operacije
OpenAI (2024). Disrupting deceptive uses of AI by covert influence operations. Istraživački izveštaj
CeMAS (2024). To be continued: The pro-Kremlin disinformation campaign Doppelganger in Germany. Analiza kampanje u Nemačkoj
| Pojava | Šta može ukazivati na problem | Šta sama po sebi ne dokazuje |
| Veliki broj sličnih poruka | Moguću koordinaciju | Da su autori lažni nalozi |
| Nagli rast popularnosti | Neuobičajenu distribuciju | Da je popularnost kupljena |
| Više profila sa istim sadržajem | Automatizaciju ili zajednički izvor | Da postoji strani organizator |
| Nepoznat vlasnik portala | Nedovoljnu transparentnost | Da portal sprovodi propagandu |
| Dokumentovana zajednička infrastruktura | Moguću organizacionu povezanost | Da je kampanja uspešno uticala na javnost |
| Finansijski ili interni dokumenti | Poreklo i organizaciju aktivnosti | Automatski i stvarni efekat na publiku |