Moderacija sadržaja, ili: Kako je Tramp banovan sa Tvitera

Samo desetak dana pre zvaničnog odlaska sa funkcije predsednika najmoćnije države sveta, Donald Tramp ostao je bez ličnog naloga na Tviteru: trajno je suspendovan zbog „rizika od daljeg podsticanja na nasilje“, saopštila je kompanija. Odluka je doneta nakon juriša Trampovih pristalica na američki Kongres, čiji je bes zbog navodne krađe glasova Tramp često podsticao upravo sa ove platforme, na kojoj je imao oko 88 miliona pratilaca.

Tokom nereda, privremeno mu je suspendovan nalog na Fejsbuku – gde se obraćao nešto skromnijoj publici od „samo“ 35 miliona – da bi sledećeg dana suspenzija bila produžena do isteka mandata. Posle niza zabrana na manjim društvenim medijima, sličnu odluku je konačno donela i najpopularnija video platforma, YouTube.

„Banovanje“ predsednika Sjedinjenih Država raspalilo je globalnu raspravu o granicama slobode govora na mrežama, statusu komercijalnih kompanija koje donose odluke umesto javnih institucija i potrebi da se na javne onlajn forume u privatnom vlasništvu konačno uvede neki oblik odgovornosti.

Problemi moderacije sadržaja koji stvaraju i objavljuju korisnici privatnih onlajn platformi i servisa nisu novi. Međutim, do pojave Donalda Trampa, ova diskusija se uglavnom vrtela u krug, od slučaja do slučaja i niza privremenih rešenja.

Pritisak na vlasnike društvenih medija da ozbiljnije prionu na moderaciju sadržaja koje razmenjujemo na Fejsu, Tviteru i drugim platformama, dosegao je u godini pandemije neslućene visine. Spisak spornih sadržaja koje korisnici objavljuju u komentarima ili u postovima na mrežama, a koji najčešće obuhvata dečiju pornografiju, kršenje autorskih prava i nasilje, gotovo u potpunosti je ostao u senci lažnih vesti, još jedne pošasti po kojoj ćemo pamtiti 2020. Za kovid-19 vakcina je relativno brzo razvijena; protiv „alternativnih činjenica“ leka još uvek nema.

Jedno od glavnih tržišta za lažne vesti i glavni front bitke regulatora protiv vlasnika društvenih medija – koji nisu odgovorni izdavači medija u tradicionalnom smislu, ali odavno više nisu ni neutralni posrednici usluga komunikacije – svakako su Sjedinjene Države. Uprkos dubokim političkim podelama, obe sukobljene strane više puta su pozvale na brisanje odeljka 230 iz zakona o pristojnosti u komunikacijama (Communications Decency Act, Section 230), kojim se provajderima usluga i vlasnicima raznih sajtova garantuje zaštita od odgovornosti za sadržaj trećih lica.

Motivi, međutim, značajno variraju. Dok Republikanci i različite konzervativne i desničarske grupe u SAD optužuju društvene medije da već godinama nesrazmerno suzbijaju slobodu izražavanja njima srodnih ideja, Demokrate mrežama pripisuju krivicu za potapanje javnosti teorijama zavera, govorom mržnje i verbalnim nasiljem. Međusobne optužbe i zajednički napadi Republikanaca i Demokrata na vlasnike Fejsbuka, Tvitera, Jutjuba i ostalih, kulminirali su saslušanjem u američkom Senatu.

Najpoznatija žrtva pojačane moderacije sadržaja na mrežama svakako je američki predsednik Donald Tramp, čiji je tvit prošlog leta po prvi put prikriven upozorenjem ostalim korisnicima. Najpre skromno, kao retka izolovana napomena o manipulaciji video klipom, mediji su izračunali da je tokom izbornih dana početkom novembra više od trećine Trampovih tvitova bilo označeno kao činjenično osporen sadržaj.

Kad ni predsednik najjače svetske sile, čiji se tvitovi čuvaju u Kongresnoj biblioteci kao deo političkog nasleđa, nije pošteđen moderacije na mrežama, šta obični građani mogu da očekuju? I kako će se ovaj sukob korporacija i državnih regulatora na kraju završiti?

Medijski filteri


Tradicionalna uloga medija da posreduju događajima i sortiraju, tačnije filtriraju bitne od nebitnih, te lažne od istinitih vesti, predstavlja stub demokratske svakodnevice koji je dugo uspevao da odoli raznim društvenim promenama i tehničkim inovacijama. Eksplozija demokratizacije javnog polja, gde svako može da učestvuje u informisanju javnosti, uz ekspanziju društvenih medija i platformi za neposredovanu razmenu sadržaja, pokazalo se, nije zadala udarac samo konceptu uredničkog medija, već i samoj demokratiji.

Alan Rasbridžer, dugogodišnji glavni urednik jednog od najuglednijih svetskih medija, britanskog Gardijana, ilustrovao je ovu novu stvarnost na primeru Donalda Trampa: pre dve godine, američki predsednik imao je oko 50 miliona pratilaca na Tviteru, dok je Gardijanovo onlajn izdanje u to vreme imalo oko 10 miliona posetilaca dnevno. Istovremeno, prema tadašnjoj Gardijanovoj analizi, oko 60% svih Trampovih objava na Tviteru sadržalo je neistine. Drugim rečima, neistina će stići do pet puta brojnije publike od one koju ima odgovoran, urednički oblikovan medij koji proverava činjenice pre objave. Razmere tog uticaja sam Tramp je rečito opisao: „Mogao bih da pucam u nekoga nasred Pete avenije, još uvek ne bih izgubio svoje birače.“

U mnogim zemljama je sve veći udeo stanovništva, posebno među mlađim generacijama, koji se informiše isključivo na društvenim medijima. Razni uređaji za kreiranje i obradu video i audio materijala, danas su objedinjeni u jedan pametni telefon koji stane u džep i komercijalno je dostupan najširim slojevima. Društveni mediji praktično su integrisani u sav internet saobraćaj, a njihovo korišćenje je besplatno i gotovo neograničeno. S obzirom na to da su kompanije kao što su Gugl, Fejsbuk ili Tviter među najprofitabilnijim organizacijama na svetu, postavlja se pitanje ko su zapravo njihovi klijenti i šta je predmet kupovine? Klijenti ovih kompanija su oglašivači, oni koji plaćaju prostor na mrežama kako bi promovisali svoje proizvode ili ideje. Obični korisnici društvenih mreža zapravo su objekti, a ne subjekti tog posla, dok su njihovo vreme i pažnja – uz lične podatke – roba kojom se trguje. 

U dokumentarnom filmu The Social Dilemma (2020), bivši uposlenici Fejsbuka, Jutjuba, Gugla, Tvitera i Instagrama otvoreno govore o načinima na koje ove kompanije koriste znanja individualne i socijalne psihologije kako bi uticale na korisnike da uvećaju svoje učešće, kroz određeni vid radikalizacije, ali i kroz stvaranje psihološke zavisnosti od prisustva na mrežama.

Svaka aktivnost na Fejsbuku – klik, šer, lajk – doprinosi izgradnji virtuelnog profila korisnika, čija  algoritamska analiza omogućava mikrotargetiranje sadržajima za koje bi korisnik mogao biti zainteresovan, kao i predviđanje njegovog ponašanja. Svaki korisnik društvenih mreža ima slično iskustvo: pretraga nekog pojma ili onlajn kupovina konkretnog proizvoda, dovoljni su da pokrenu reklame istih ili srodnih tema na različitim platformama. Manje upadljivi od oglasa su sadržaji kojima nije nužno cilj da navedu korisnika na kupovinu, već da mu okupiraju pažnju i zadrže ga na platformi: psihološka zakonitost ukazuje da je to najlakše postići podsticanjem osećanja kao što su indignacija, prezir, povređenost, ljutnja i sličnih. Na primer, iako podaci policije govore da su slučajevi nasilja koje su počinili migranti u Beogradu praktično nepostojeći, ukoliko Fejsbukovi algoritmi procene da je to tema koja će zaokupiti korisnika, naći će dovoljno sadržaja među lažnim vestima i fabrikovanim poluinformacijama, i povezati ga sa drugim korisnicima koji dele slična interesovanja i verovanja. Fejsbuk grupa „Stop naseljavanju migranata u Srbiji“ trenutno broji preko 300.000 članova koji dalje distribuiraju priče iz paralelne stvarnosti. Pre ili kasnije, realnost sa društvenih mreža preliva se u svakodnevicu, utiče na političke odluke i životne izbore, a ponekad joj je epilog i stvarno nasilje.

U ovakvom biznis modelu profit direktno zavisi od broja korisnika, kao i od vremena koje će oni provesti na određenoj društvenoj mreži. Iz perspektive velikih tehno korpova, dobrodošao je svako ko može privući pažnju, kao i svaki sadržaj koji će naći svoju publiku. Logika zadržavanja pažnje nalaže dodatno podsticanje učešća, najčešće kroz senzacije i radikalizaciju na koje više nisu imuni ni predsednici država. Bez provere i kontrole, to će uglavnom značiti poplavu verbalnog nasilja, raznih zavera i izmišljotina. Istovremeno, mnogi korisnici će ih smatrati za kredibilan izvor.

Epilog je društvo post-istine u kom činjenice gube značaj pri oblikovanju javnog mnjenja, a njihovo mesto zauzimaju emocije i lična uverenja u takmičenju u popularnosti, umesto u pouzdanosti. Širenjem teorija zavere, podriva se poverenje u državne institucije. Urušavanje poverenja za sobom povlači i same temelje države kao zajednice građana i građanki. Kada Donald Tramp, bez konkretnih dokaza, tvrdi da je došlo do krađe na izborima i da je zapravo on pobedio, on na taj način urušava poverenje u jednu od ključnih institucija demokratije, slobodne izbore. Takođe, slom poverenja u naučno utvrđene činjenice, posebno je rizičan u vreme globalne krize javnog zdravlja. Podrivanje poverenja u medicinu već nanosi nepopravljivu štetu kapacitetima za obuzdavanje pandemije, čije će se posledice svakako osećati još dugi niz godina.

Moderacija i provera činjenica


Merljiva šteta distribucije lažnih vesti preko društvenih mreža, u nešto ograničenim razmerama, zabeležena je 2016. tokom referenduma o Bregzitu, izlasku Ujedinjenog Kraljevstva iz Evropske unije, kao i u vreme američkih izbora krajem iste godine. Odsustvo bilo kakve odgovornosti kompanija u čijem su vlasništvu platforme za razmenu sadržaja, postalo je sve teže odbranjivo, dok rutinske opcije za moderaciju više nisu dovoljne.

Moderacija sadržaja može se poveriti ljudima ili mašinama, što je češći slučaj s obzirom na ogromne količine komentara, postova, klipova i linkova koje korisnici svakodnevno objavljuju na sajtovima ili društvenim medijima. Automatska moderacija može biti jednostavna, sa unapred zadatim pravilima čije kršenje isključuje mogućnost objave spornog sadržaja, ili ga prosleđuje na ljudsko odlučivanje kada registruje prijave ostalih korisnika. Korisničke prijave, međutim, nisu uvek pouzdan oslonac, lako se mogu zaobići ili zloupotrebiti, dok su filteri već notorno neosetljivi za ironiju, metafore i druge satirične forme.

Stoga se pažnja softverske industrije sve više okreće razvoju AI rešenja za moderaciju sadržaja, odnosno složenih algoritama za mašinsko „učenje“ koji su u stanju da za kratko vreme obrade velike količine teksta, fotografija i video snimaka, uzimajući pritom u obzir kontekst, emocije i razumevanje različitih sadržaja u konkretnim okolnostima. „Sve velike platforme sanjaju o softveru koji može da identifikuje govor mržnje, pornografiju ili pretnje brže i pravičnije od ljudi, pre nego što uvredljivi sadržaji postanu vidljivi.“ No, da li se društveni problemi zaista mogu rešavati tehničkim sredstvima?

Pritisak javnosti za efikasniju moderaciju sadržaja, otvorio je prostor za različite predloge načina za suzbijanje toksičnog uticaja društvenih mreža koji, umesto mašinskog, uključuju ljudsko odlučivanje. Vremenom jača pozicija organizacija za proveru činjenica (fact-checking), te će 2016. grupa od više desetina njih u otvorenom pismu vlasnicima Fejsbuka istaći da je „vreme da se otvori dijalog o tome kako doći do istinitijeg informativnog eko-sistema“ za korisnike.

Neposredna posledica ovog procesa bila je Fejsbukova odluka da proveru sadržaja prepusti nezavisnim organizacijama koje se bave proverom činjenica. Ove organizacije se sertifikuju i angažuju kroz međunarodnu mrežu za proveru činjenica (International Fact-Checking Network, IFCN). Da bi organizacija postala deo ove mreže, mora da ispuni određene uslove, a pre svega da bude nezavisna, što znači da njom ne upravlja vlada ili neki politički subjekt. Ostali uslovi podrazumevaju političko nesvrstavanje, transparentnost u pogledu izvora finansiranja, kao i u pogledu metodologije i standarda provere, te jasno upućivanje na izvore informacija kojima se određeni sadržaj osporava. 

Jedna od ovih organizacija od jula 2020. je i Istinomer koji se bavi dezinformativnim sadržajem na srpskom jeziku.

Proces provere sadržaja funkcioniše tako što se na osnovu prijava korisnika ili putem algoritma programiranog da prepozna potencijalno problematičan sadržaj, kreira baza spornih sadržaja koje analizira organizacija za proveru činjenica. Nakon sprovedene provere ovakav sadržaj može biti označen kao „ekstremna dezinformacija“ u kom slučaju se uklanja. Najčešće se sadržaji obeležavaju etiketom „neistina“ ili „delimična neistina“, što znači da ostaju vidljivi, ali će se pored etikete nalaziti i link ka objašnjenju zašto je sadržaj označen kao sporan. Tako obeleženom sadržaju može biti ograničena distribucija, kao i onemogućeno plaćeno mikro targetiranje. U slučaju da određeni kreator sadržaja više puta prekrši pravila, postoji mogućnost i trajnog uklanjanja sa društvene mreže. 

Iako načelno dobar, ovaj sistem se pokazao kao nedovoljno efikasan. Naime, iako nezavisne organizacije za proveru činjenica imaju slobodu u svom radu, Fejsbuk ima poslednju reč, bez obaveze da prihvati njihov sud. U mnogim slučajevima kompanija ne prihvata procenu nezavisnih organizacija, ignoriše ih ili snižava ocenu, obeležavajući određeni sadržaj kao „delimična neistina“, umesto „neistina“, kako je sugerisano. Fejsbuk ovakve postupke pravda odlukom da se od procesa provere izuzimaju sadržaji koji predstavljaju mišljenje, a ne informaciju, odnosno vest. Na stolu su sloboda govora, vrhunska vrednost američke demokratije, ali i profit ovog specifičnog biznis modela.

Kada odlučuje o uklanjanju određenog sadržaja, Fejsbuk se vodi i pretpostavkom o tome kakav bi odjek takva odluka mogla imati u javnosti. Veština balansiranja između optužbi da podstiče širenje društveno nepoželjnih stavova i optužbi da cenzuriše govor i ugrožava građanske slobode, značajno utiče na profit kompanije. 

Jedan od rečitih primera je slučaj američkog desničarskog portala PragerU. U maju 2020, ovaj portal je imao dva posta na Fejsbuku o klimatskim promenama koji su označeni kao „neistina“, što ih je kvalifikovalo za suspenziju prava na tzv. sponzorisane postove. U tom trenutku portal je imao preko 500 aktivnih sponzorisanih postova i bio u top 10 potrošača u oblasti političkih organizacija na platformi, što je svakako uticalo na odluku Fejsbuka da ignoriše sud organizacija za proveru činjenica i ne preduzme nikakve korake prema ovom korisniku.

Veličina Fejsbuka počela je da predstavlja problem i za mašine. Sredinom 2020. godine, platforma je imala 2,7 milijardi korisnika koji neprestano proizvode i umnožavaju ogromne količine sadržaja. U slučaju da se proverom činjenica određeni sadržaj proceni kao sporan, Fejsbukov algoritam bi trebalo da ga automatski skine, ili adekvatno obeleži. Nedavno istraživanje u SAD pokazalo je neefikasnost algoritma da ukloni, odnosno označi sadržaj koji su organizacije za proveru činjenica prepoznale kao sporan, pogotovo ako je u daljem širenju mrežom neznatno izmenjen. U većini slučajeva, sporni sadržaj je ostao na mreži, bez ikakve oznake.

U osnovi Fejsbukovog programa provere činjenica koju sprovode nezavisne organizacije, očigledno stoji nastojanje kompanije da zadrži neutralnu poziciju provajdera usluga koji se ne meša u uređivanje sadržaja i samim tim ne snosi za njega pravnu odgovornost poput tradicionalnih medija. U slučaju dileme među samim organizacijama koje proveravaju činjenice, međutim, lopta se vraća na Fejsbukov teren. Naime, prostor između puke činjenice i istine koja zavisi od raznih, promenljivih aspekata, dovoljno je velik za političke interpretacije. Danas politički sporovi više nisu retki ni među onima koji samo utvrđuju činjenice.

Politika Tvitera donekle je drugačija. Tokom 2020. godine ova platforma je preduzela značajne korake kako bi se uhvatila u koštac sa problemom dezinformacija, posebno u svetlu pandemije, a zatim i američkih izbora i delovanja „najuticajnijeg“ tviteraša, predsednika SAD Donalda Trampa. Kako je kompanija saopštila, u skladu sa osnovnom svrhom ove društvene mreže „da podstiče dijalog“, Tviter će se manje oslanjati na uklanjanje sadržaja, a više na pružanje različitih pogleda. Kompanija je saopštila da je njihov „fokus na davanju konteksta, ne na proveri činjenica“, posebno kada je reč o sadržaju koji ima najveći potencijal da pričini štetu u društvu, kao što su medijske manipulacije, ključna politička i društvena pitanja i sadržaj vezan za pandemiju. Ovaj pristup se sastoji u označavanju onih objava koje po oceni platforme zahtevaju posebnu pažnju. Tri osnovne kategorije su obmanjujuće informacije, osporene tvrdnje i nepotvrđene tvrdnje. Kada je sadržaj svrstan u jednu od ovih kategorija, pored oznake nalazi se i link ka izvoru koji daje dodatne informacije o temi o kojoj je reč. U pitanju nije klasična provera činjenica, kao kod Fejsbuka, već je ovaj sistem kontrole više „savetodavnog“ tipa, s ciljem da podstakne korisnike da potraže dodatne informacije. Treba dodati i da se ovako označeni tvitovi prikazuju sa upozorenjem umesto sadržaja, a da bi ih korisnik video potreban je dodatni klik na dugme, odnosno svesna i voljna radnja. Za razliku od Fejsbuka koji je zvanično ove odluke prepustio nezavisnim organizacijama, Tviter koristi svoje resurse pa je i više izložen kritici javnosti zbog navodne pristrasnosti.

Najpoznatiji korisnik na kom je ovaj sistem isproban bio je Donald Tramp krajem maja 2020. kada je par njegovih tvitova najpre označen kao „potencijalno obmanjujući“. Nekoliko dana kasnije, Tramp je povodom nereda na protestima protiv policijskog nasilja, tvitovao: „Kada počnu pljačke, počinje i pucanje“. Tviter je ovu objavu označio kao „glorifikaciju nasilja“. Od tada su tvitovi predsednika SAD više puta označeni kao sporni, posebno kako se zahuktavala izborna kampanja.

Korisnici Tvitera su primetili još jednu novost prošle godine: nalozi pojedinih medijskih organizacija, ali i nekih novinara ili analitičara, sada nose oznaku vladine afilijacije ili državnog vlasništva. Prema novim pravilima platforme, ova oznaka zasad je rezervisana samo za medije i ličnosti direktno povezane sa državama stalnim članicama Saveta bezbednosti UN (Kina, Francuska, Rusija, Ujedinjeno Kraljevstvo i SAD), a funkcionalnost im je ograničena utoliko što se njihovi nalozi i tvitovi neće naći u preporukama za korisnike.

Moderacija 2021.


Istorijske promene društva često pamtimo i nazivamo po specifičnim procesima, događajima ili odlukama koji su značajno odredili razvoj u određenom periodu. Vreme u kom živimo lako bismo mogli nazvati erom društvenih mreža. S obzirom na njihovu rasprostranjenost, uticaj i još uvek nesagledive promene koje su pokrenule u životima ljudi, ovakva definicija savremenog doba ne bi bila pogrešna.

Društveni mediji su postali sastavni deo svakodnevice: u privatnom aspektu postale su važno sredstvo komunikacije i socijalizacije, a vremenom je njihova moć došla do izražaja i u javnoj sferi. Lako dostupne platforme, odnosno mediji za gotovo svakog stanovnika planete, pružaju gotovo neograničene mogućnosti ne samo u pogledu masovnosti publike, već i po pitanju sadržaja koje korisnici slobodno kreiraju i plasiraju. Ono što se, međutim, nije posebno promenilo jesu društvene boljke: prelazeći iz fizičkog u digitalni svet, ljudi su sa sobom poneli i svoje zloupotrebe i manipulacije, iz poštene gluposti ili zle namere, svejedno. Ponekad se čini da toliko dominiraju društvenim medijima, da bi malo ko žalio zbog njihovog ukidanja.

Uvrede, pretnje, osećaj da nas neko proganja, prevare i laži koje ugrožavaju i ličnu i širu društvenu dobrobit, mogu imati teške posledice na život i zdravlje ljudi. Moderacija sadržaja svakako je neophodna i to dovoljno kompleksna da u obzir uzme i kontekst i granice slobode govora, koje ponekad nisu do kraja jasne. Neistine ili pretnje koje nedvosmisleno ugrožavaju bezbednost konkretnog pojedinca lakše je prepoznati od sadržaja koji, s obzirom na potencijalnu publiku, može u nekom budućem trenutku naneti širu društvenu štetu. No, ovako neodređeni kriterijumi lako mogu ići na ruku diktatorima koji će „društvenu štetu“ naći u istopolnoj ljubavi, političkoj kritici ili angažovanom umetničkom delu.

Mašine su još daleko od razumevanja suptilnih nijansi ljudskog govora, dok ljudima u ulozi moderatora još uvek nedostaje jasnije definisan etički i normativni kodeks. Ko će nas i kako od sada moderirati na društvenim mrežama, tek ostaje da se vidi.



Stefan Milosavljević je završio osnovne studije na Fakultetu političkih nauka i trenutno pohađa master program ,,Demokratija i demokratizacija”. Urednik je političke edicije u izdavačkoj kući ,,Srednja zemlja”. Njegove oblasti interesovanja su post-socijalistička tranzicija, demokratizacija post-konfliktnih društava, tranziciona pravda i politička teorija.