Tko bi trebao odlučivati što vidimo na internetu?

Online platforme rangiraju i moderiraju sadržaj bez da nam daju do znanja kako i zašto to rade. Javlja se hitna potreba za transparentnošću praksi i politika tih online platformi.

Naši životi usko su povezani s tehnologijom. Jedan od očitih primjera je kako pretražujemo, čitamo i komuniciramo kada smo online. U ovom članku promišljamo o dvije metode koje kompanije koriste za dostavu sadržaja: rangiranje i moderiranje.

Rangiranje sadržaja

Platforme koriste automatske mjere za rangiranje i moderiranje sadržaja koji uploadamo. Kada, tijekom predaha na poslu, tražite one videe s mačkama, rezultati pretraživanja ne nude svaki video s mačkom koji je online. Rezultat ovisi o vašoj lokaciji, postavkama jezika, nedavnim pretraživanjima i svim podacima koje tražilica zna o vama.

Usluge organiziraju i rangiraju sadržaj dok predviđaju vaše osobne preferencije i online ponašanje. Tako utječu ne samo na naš pristup informacijama, nego i na to kako oblikujemo mišljenja i sudjelujemo u javnom diskursu. Predviđanjem naših preferencija, one ih također oblikuju i polako mijenjaju naše online ponašanje.

One odlučuju što čitamo i gledamo. To je kao da ste u stranoj zemlji na turi u kojoj samo vodič govori jezik. I vodič odlučuje što ćete vidjeti i s kim ćete razgovarati. Slično, te online usluge odlučuju što gledate. Povećanjem i kvantificiranjem popularnosti određenih vrsta senzacionalnog sadržaja koji povećava angažman, uz često nepredvidljive nuspojave¨algoritamske personalizacije, rangiranje sadržaja postalo je roba od koje platforme stječu korist. Štoviše, to može voditi manipulaciji vaše slobode formiranja mišljenja. Međutim, sloboda formiranja mišljenja je apsolutno pravo, što znači da zakonom nije dopušteno nikako uplitanje u tu slobodu mišljenja i da to ne može biti prihvatljivo u nijednom demokratskom društvu.

Automatsko organiziranje našeg sadržaja određuje koji tip informacije primamo i koliko vremena provodimo u pretraživanju platforme. Većina nas nema dovoljno informacija o tome kako algoritmi za preporuke oblikuju hijerarhiju sadržaja na internetu. Neki ljudi čak ni ne znaju da rangiranje postoji. Značajna transparentnost mehanizama organizacije preduvjet je koji omogućava korisničku akciju u smislu alata koji pomažu u oblikovanju našeg informacijskog krajolika. Trebamo znati kada smo izloženi automatskom donošenju odluka i imamo pravo ne samo na objašnjenje, već i na prigovor. Kako bismo vratili našu akciju i svjesnost u smislu organizacije sadržaja, online platforme trebaju implementirati značajne zahtjeve o transparentnosti. Robusna transparentnost i objašnjenje automatskih mjera preduvjeti su za uživanje našeg prava slobode govora kako bismo se mogli učinkovito žaliti na neopravdano ograničavanje sadržaja.

Moderiranje sadržaja

Online platforme organiziraju i moderiraju kako bi pomogle u dostavi informacija, ali i zato što im EU i nacionalni zakonodavci nameću sve veću odgovornost da ispituju sadržaj koji korisnici uploadaju, često pod prijetnjom oštrih kazni. Prema zakonskom okviru, platforme su, jednom kada postanu svjesne njegova postojanja, dužne odmah ukloniti ilegalni sadržaj, kao što je materijal zlostavljanja djece ili teroristički sadržaj. Svi se slažemo da bi pristup ilegalnom sadržaju trebalo zabraniti. Međutim, u nekim slučajevima je nezakonitost dijela sadržaja vrlo teško procijeniti i zahtjeva primjerenu pravnu evaluaciju. Primjerice, video može predstavljati ili kršenje autorskih prava ili bi se trebao slobodno uploadati ako je korišten kao parodija.

Granica između ilegalnog i legalnog može biti izazovna. "Zeznuto" je to što se online platforme, zbog opsega upravljanja online sadržajem, oslanjanju na alate za automatsko donošenje odluka kao ultimativno rješenje za ovu vrlo kompleksnu zadaću. Kako bi izbjegle odgovornost, platforme koriste automatiku kako bi filtrirale potencijalno ilegalni sadržaj. No, trebamo mjere zaštite i ljudsku intervenciju kako bismo kontrolirali automatiku. Ne možemo se ekskluzivno oslanjati na te alate.

Koje mjere zaštite trebamo?

Bez sumnje, konstantno moderiranje je ekstremno zahtjevan zadatak. Svaki dan, online platforme trebaju donositi teške izbore i odlučiti koji sadržaji bi trebali ostati online i kako ih pronaći. Proces automatiziranog donošenja odluka nikad neće riješiti društvene probleme kao što su govor mržnje ili dezinformacije, da ne spominjemo problem terorizma, Neće zato što ne mogu. Dok automatika može dobro funkcionirati za online sadržaj koji je očito ilegalan bez obzira na njegov kontekst, kao što je materijal zlostavljanje djece, ona ne uspijeva u područjima koja nisu striktno crno-bijela. Nijedan alat neće nas spasiti od društvenih problema i nijedan od njih ne bi trebao imati zadnju riječ oko zaštite slobode govora ili vašeg privatnog života.

Kako sada stvari stoje, online platforme rangiraju i moderiraju sadržaj bez da nam daju do znanja kako i zašto to rade. Postoji goruća potreba za transparentnosti praksi i politika tih online platformi. One trebaju otkriti informacije o tome kako poštuju slobodu govora i koje mjere istrage primjenjuju. Moraju biti transparentne oko svog svakodnevnog funkcioniranja, procesa donošenja i implementacije odluka, kao i procjena učinka i drugih politika koje imaju posljedice na naša temeljna prava.

Osim transparentnosti, trebamo i primjereno objašnjenje mehanizme pritužbe i ljudske intervencije kada god se primjenjuje proces automatskog donošenja odluka. Bez ljudi, bez transparentnog mehanizma prigovora kojem je lako pristupiti ili bez toga da se ljude poziva na odgovornost radi politika, nema učinkovitog lijeka. Ako postoji šansa da je sadržaj uklonjen neopravdano, tada to treba provjeriti stvarna osoba koja može odlučiti koji je sadržaj nezakonit a koji nije. I uvijek bismo trebali imati pravo da se obratimo sucu, koji je jedina osoba koja je pravno kvalificirana da donese finalnu odluku o bilo kojoj stvari koja možda kompromitira naše pravo na slobodu govora.

Autorice: Eliška Pírková iz Access Now i Eva Simon iz Libertiesa