Aktuelne teme Feministički internet

Facebook politika; cenzura, osvetnička pornografija & aktivizam

Krajem maja Guardian je objavio Facebook datoteke, interne dokumente koji su procurili i otkrili na koji način kompanija moderira sadržaj. Mnogi od nas već dugo traže 
transparentnost vezanu za moderiranje sadržaja od strane Facebooka, kako bi mogli bolje razumjeti nasilje na temelju spola koje se dešava na platformi, te dati povratne 
informacije. Iako je Facebook napravio određena poboljšanja ovi dokumenti potvrđuju da je to često jedan korak naprijed, jedan korak unazad, 
obzirom da platforma nastavlja cenzurisati isticanje ženske samostalnosti, posebno kod 
žena druge bojea naročito u vezi sa aktivizmom, dok istovremeno dozvoljava da se uznemiravanje nastavi. 
 Nasilje na temelju spola
 
Ljudi koji se suočavaju s online nasiljem kontaktiraju mnoge od nas za pomoć, a prema njihovim 
izvještajima, Facebook i Facebook Messenger su uglavnom platforme na kojima se kršenja najviše 
događaju. Pojedinosti o moderiranju sadržaja na Facebook-u precizno potvrđuju koje žene – bez 
obzira jesu li one heteroseksualne, LGTBQI – ili osobe koje su atipične za svoj spol, govore svoje 
iskustvo na platformi. Zloupotreba, posebno neovlašteno dijeljenje slika, je zastrašujuće, a izvještaji 
se često odbacuju s objašnjenjem da zloupotreba nije kršila smjernice Facebook-a, iako su ti 
procureni dokumenti pokazali da su to bila čista kršenja. Za mnoge korisnike to je jednako kao 
kada bi neko rekao kako se preživljeno zlostavljanje nije desilo. Iz iskustva znamo da se i osobe 
koje se bave zaštitom ljudskih prava često ušutkuju od strane Facebook-a i suočavaju s velikim 
brojem zlostavljanja od strane ostalih korisnika, poput stvaranja lažnih profila koji diskreditiraju ili 
kleveću, vrše promjenu fotografije radi stvaranja lažnih intimnih slika, šalju govor mržnje, prijetnje 
i maliciozno objavljuju privatne ili lične informacije.  
 
Facebook-ove politike još uvijek ne odražavaju puno razumijevanje prema iskustvima ljudi koji se 
suočavaju s nasiljem. Jedno zanimljivo pitanje je korištenje pojma “vjerodostojno nasilje”, slično 
popularno ismijavanom pojmu “legitimno silovanje”, koje samo po sebi produžava nasilje. Drugi 
problem je politika da se dozvole objave koje pokazuju nasilje nad maloljetnicima, što doprinosi 

viktimizaciji mladih i normalizaciji nasilja.

Jasno, ograničena Facebook-ova konsultacija s grupama za prava žena i aktivistima nije bila 
dovoljno značajna da kreira stvarne promjene. Čini se da saznanja iz ovih interakcija ostaju kod 
prisutnih predstavnika kompanije, obzirom na kontinuirano iskustvo da jedna ruka kompanije ne 
razgovara s drugom. Nadalje, ljudi koji oblikuju Facebook-ove funkcije moraju to direktno čuti od 
korisnika i zagovornika, ali inženjeri nikada nisu u prostoriji. Pitamo se da li Facebook prati 
efikasnost svojih odgovora na nasilje zasnovano na spolu i druge probleme na web stranici. Oni 
sigurno ne komuniciraju javno o onome što nauče unatoč velikoj količini informacija koje 
posjeduju.  
Jezik i kulturološki kontekst 
 
Mnogi izvještaji su odbijeni zbog neuspjeha Facebook-a da održi korak s trendovima slenga i 
uznemiravanja, te da podrži sve jezike korisnika i razumije različite kulturne kontekste. Osobe koje 
govore manjinske jezike mogu se suočiti s većom štetom vezanom za online zlostavljanja jer su 
njihove prijave odbijene ili jer mehanizam prijavljivanja nije bio na njihovom jeziku. Facebook-ove  
smjernice za “osvetničku pornografiju” ne odražavaju razumijevanje štete u različitim kontekstima. 
Kada zahtijevaju da slika uključuje seksualnu aktivnost, čini se da ne razumiju da se definicija 
takve aktivnosti može razlikovati u različitim zajednicama. Slike koje mogu biti savršeno 
prihvatljive u jednoj zajednici mogu predstavljati rizik za ženu iz druge zajednice. Platforma ne 
prepoznaje da ono što je najvažnije jeste da li osoba na slici smatra da je ono postavljeno bez 
pristanka i da li se suočava s rizikom od zla.  
 
To je područje gdje bi značajan angažman s različitim zainteresovanim stranama mogao napraviti 
značajnu razliku, no vidimo samo uspjeh na individualnom nivou, a ne na sistemskom nivou, a taj 
uspjeh zavisi o zagovornicima koji rade s predstavnicima Facebook-a kako bi se riješile 
pojedinačne prijave korisnika. U stvari, mnogi od nas i naši partneri u različitim dijelovima svijeta 
mogu direktno kontaktirati kompaniju da radi na pojedinačnom slučaju, ali taj posao nije održiv i ne 
djeluje na cijeloj platformi. Ne bismo trebali raditi posao umjesto Facebook-a. Oni bi trebali 
angažovati grupe za zaštitu prava žena u državama u kojim postoji platforma za konsultacije o 
politikama i protokolima, a koja se bavi sistemskom promjenom, umjesto da se oslanja na te grupe 
da stavljaju zavoje na slomljeni sistem.  
 
 
Zaštićene kategorije 
 
Uzimajući u obzir intersekcioni pristup prema spolu, postavljamo pitanja o rezonovanju iza 
Facebook-ovih zaštićenih kategorija vezanih za govor mržnje, koje ne slijedi međunarodni okvir 
ljudskih prava. Smjernice ne uspijevaju riješiti pitanje kasti, premda ako Facebook pogrešno uključi 
kaste u “društvenu klasu”, nema zaštite za Dalite.

Kompanija tvrdi da je povukla svoju politiku da zabrani objavljivanja koja pohvaljuju ili podržavaju 
“nasilje da se odupre okupaciji međunarodno priznate države”, ali od korisnika znamo da, na primjer, 
Facebookovi korisnički računi kašmirista koji su postavili fotografije Burhan Wania, još uvijek bivaju 
suspendovani ili zatvoreni.   
Osobe iz bilo koje države su zaštićene kategorije, ali osobe koje migriraju iz jedne države u drugu 

su samo kvazi-zaštićene.

 S obzirom na visoku stopu fizičkog i online nasilja nad migrantima, zašto 

oni nisu u potpunosti zaštićeni? Zato što ih Facebook smatra vrućom temom: “Kao kvazi-zaštićena 
kategorija, oni neće imati punu zaštitu naše politike protiv govora mržnje jer želimo omogućiti 
ljudima da imaju široke rasprave o migrantima i imigraciji, što je vruća tema na predstojećim 
izborima.” Nadalje, zaštićena kategorija u kombinaciji s nezaštićenom kategorijom ukida zaštitu, 
kao da muslimani koji nisu izbjeglice zaslužuju više zaštite od muslimana koji su izbjeglice. 
Uznemirujući primjer vodiča pokazuje da crna djeca (rasa + dob) nisu zaštićena, ali da bijeli 
muškarci (rasa + spol) jesu, što predstavlja primjer više nego zamršenih smjernica. Te politike 
ignorišu način na koji se višestruke represije presjecaju. 
 
 
Moderatori 
 
Jasno je da Facebook nema dovoljno moderatora, a vjerovatno je i da moderatori koje oni  
zapošljavaju nemaju dovoljno različite pozadine u pogledu karakteristika kao što su ekonomija, 
rasa/etnička pripadnost, kasta, religija, jezik i region. Ipak, jednostavno povećanje moderatora ne 
može prevazići pogrešne politike ili neadekvatnu obuku i upravljanje. Ipak, curenje nije otkrilo ono 
što smo godinama tražili. Koja je demografija ljudi koji rade na moderaciji sadržaja? Kakvu su 
vrstu obuke dobili mimo ovih internih smjernica? Koju vrstu podrške dobijaju?  
 
Mi shvatamo da se ljudi, koje Facebook zapošljava radi obavljanja intenzivnog rada na analiziranju 
nasilnih slika i uvredljivog teksta sa niskim platama, suočavaju sa sekundarnom traumom. Po 
vlastitom priznanju, ovi moderatori se bore, i smatramo da su greške u Facebook-ovim politikama i 
protokolima, a ne u samim moderatorima. Kada proizvod stavlja čak i svoje osoblje u rizik,​   
kompanija mora početi da se bavi problemom nasilja na sistemskom nivou. Najzad, procureni 
dokumenti se odnose samo na ljudsku moderaciji, ali algoritamska moderacija, iako smanjuje teret 
ljudskih moderatora, pati od istih predrasuda koje informišu gore opisane politike. 
 
 Medijske lekcije 
 
Čestitamo Guardian-u na njihovom izvještavanju o Facebook moderaciji sadržaja i njihovom 

pristupu pitanju online uznemiravanja i srodnog nasilja.

Nadamo se da će drugi mediji pratiti njihov model u analiziranju i razmjeni podataka o zlostavljanju na svojim platformama, radeći na zaštiti svojih pisaca i pokrivajući ovo pitanje iz perspektive zasnovane na pravima.   

 
Zahtjevi 
Kao organizacije i pojedinci koji rade na ženskim ljudskim pravima online i offline, zahtjevamo od 
Facebook-a: 
 
1. Obezbijedite veću transparentnost i odgovornost u vezi sa sljedećim: 
● Implementaciji smjernica za moderaciju sadržaja; 
● Odbacivanju izvještaja o online zlostavljanju i razdvojenim podacima o primljenim 
izvještajima; 
● Odjeljenjima i osoblju odgovornom za odgovor na žalbe vezane za sadržaj i privatnost. 
2. Obezbijedite dodatnu obuku moderatora koja će se baviti kulturnim i jezičkim barijerama,  
dinamikom moći i pitanjima kao što su rodna pristrasnost i LGBTQ osjetljivost. 
3. Nađite više poznavaoca jezika koji su trenutno nedovoljno zastupljeni među moderatorima 
sadržaja. 
4. Poboljšajte mehanizam izvještavanja tako da ispunjava sljedeće kriterije: 
● Legitimitet: mehanizam se smatra pouzdanim i pouzdan je onima koji ga koriste. 
● Pristupačnost: mehanizam se lako locira, koristi i razumije. 
● Predvidljivost: postoji jasan i otvoren postupak sa indikativnim vremenskim okvirima, 
jasnoća procesa i sredstava praćenja implementacije. 
● Ravnopravnost: pruža dovoljno informacija i savjeta kako bi se pojedincima omogućilo 
da se uključe u mehanizam na pravičnoj i pouzdanoj osnovi. 
● Transparentnost: pojedinci se redovno informišu o napretku svog slučaja. 
● Poštivanje prava: ishodi i pravni lijekovi su u skladu sa međunarodno priznatim 
ljudskim pravima. 
● Izvor kontinuiranog učenja: omogućava platformi da iskoristi iskustva kako bi 
identifikovala poboljšanja mehanizma i spriječila buduće žalbe. 
5. Povećajte raznolikost na svim nivoima osoblja i usvojite principe osnaživanja žena. 
 
 
Potpisnici