​Cine ar trebui să decidă ce vedem online?

Platformele online pun materialele într-o anumită ordine și le sortează fără a ne anunța cum și de ce o fac. Există așadar o nevoie urgentă de transparență a practicilor și politicilor acestora.

Viața noastră merge mână în mână cu tehnologia. Un exemplu evident este modul în care navigăm, citim și comunicăm online. În acest articol discutăm despre două metode pe care le folosesc platformele online atunci când vă pun la dispoziție materiale: așezarea lor într-o anumită ordine și sortarea.

Așezarea materialelor într-o anumită ordine

Platformele folosesc metode automate pentru a pune într-o anumită ordine și pentru a sorta materialele pe care le încărcăm. Atunci când cauți videoclipuri cu pisici când te plictisești la muncă, nu îți vor apărea toate videoclipurile cu pisici existente online. Ce vei vedea va depinde de locația ta, de setările cu privire la limba pe care o preferi, de căutările recente și de toate informațiile pe care le are despre tine motorul de căutare.

Materialele sunt apoi puse în ordine în funcție de preferințele tale și de comportamentele tale din mediul online. În acest fel se influențează nu numai accesul nostru la informație, ci și modul în care ne formăm opiniile și participăm la dezbaterile publice. Prevăzându-ne preferințele, ele ajung în timp să le modeleze și ne schimbă încet comportamentul online.

Decid așadar ce citim și ce vizionăm. Este ca și cum ai fi într-o țară străină într-un tur în care doar ghidul vorbește limba locală. Și ghidul ajunge să aleagă ce vezi și cu cine vorbești. În mod similar, aceste servicii online decid ce vezi. Prin amplificarea și cuantificarea popularității anumitor tipuri de conținut senzațional care îți stimulează implicarea, împreună cu efectele secundare adesea imprevizibile ale personalizării algoritmice, așezarea materialelor într-o anumită ordine a devenit o practică ce aduce platformelor o multitudine de beneficii. Mai mult decât atât, se poate ajunge astfel la manipularea libertății tale de a-ți forma o opinie. Libertatea de a ne forma opinii este însă un drept absolut, ceea ce înseamnă că legea nu permite nicio interferență cu aceasta, interferențele fiind inacceptabile în societățile democratice.

Așezarea materialelor într-o anumită ordine determină ce tip de informații primim și cât timp petrecem pe o anumită platforma. Majoritatea dintre noi nu avem suficiente informații despre modul în care algoritmii de recomandare decid ordinea materialelor pe care le vedem pe internet. Unii oameni nici măcar nu știu că există un astfel de clasament. Transparența semnificativă a mecanismelor de stabilire a acestui clasament este o condiție necesară pentru ca utilizatorilor să li se ofere putere asupra peisajului informațional la care au acces. Trebuie să știm când suntem supuși unor mecanisme automate care iau decizii pentru noi și avem dreptul nu doar la explicații, ci și la posibilitatea de a ne opune lor. Pentru a ne recâștiga controlul și a fi conștienți de aceste mecanisme automate, trebuie ca platformele online să implementeze măsuri cu privire la transparență. Transparența adecvată și primirea de explicații cu privire la aceste mecanisme sunt absolut necesare pentru ca noi toți să ne putem exercita libertatea de exprimare, astfel încât să ne putem opune restricțiilor nejustificate cu privire la anumite materiale.

Sortarea materialelor

Platformele online pun materialele într-o anumită ordine și le sortează pentru a contribui la furnizarea de informații, dar și pentru că legislatorii de la nivelul UE și de la nivelele naționale le impun din ce în ce mai multă responsabilitate cu privire la materialele pe care le încarcă utilizatorii, acestea fiind uneori amenințate de amenzi uriașe. Conform cadrului legal european, platformele trebuie să îndepărteze rapid materialele ilegale, cum ar fi cele care includ abuzuri asupra copiilor sau cele legate de activități teroriste, imediat ce află de existența acestora. Suntem cu toții de acord că accesul la materialele ilegale ar trebui interzis. Cu toate acestea, în unele cazuri legalitatea unui material este foarte greu de evaluat și necesită o examinare legală profundă. De exemplu, un video poate include o încălcare a dreptului de autor, sau paote fi în regulă dacă a fost făcut disponibil gratuit cu scopul de a parodia ceva.

Limita dintre legal și ilegal poate fi așadar greu de stabilit. Partea complicată este că platformele online se bazează pe instrumente automate de luare a deciziilor ca soluție finală pentru îndeplinirea acestei sarcini atât de complexe datorită amplorii gestionării de materiale disponibile online. Pentru a evita să fie trase la răspundere, platformele folosesc instrumente automate pentru a elimina orice material care ar putea fi ilegal. Avem însă nevoie de garanții și intervenție umană pentru a controla această automatizare. Nu ne putem baza exclusiv pe instrumentele automate.

De ce garanții avem nevoie?

Este evident că sortarea materialelor e o sarcină deosebit de dificilă. Platformele online trebuie să facă în fiecare zi alegeri grele și să decidă ce materiale rămân online și cum le găsim. Procesul automat de luare a deciziilor nu va rezolva niciodată problemele sociale legate de discursul prin care se instigă la ură sau dezinformarea, fără să mai vorbim de terorism. Nu o va face pentru că nu poate. În timp ce automatizarea poate funcționa bine pentru materialele online vădit ilegale, indiferent de context, cum ar fi materialele care includ abuzuri asupra copiilor, acesta va eșua în cazurile în care situația e mai nuanțată. Nici un instrument automat nu ne va salva de problemele sociale și nu ar trebui să aibă ultimul cuvânt atunci când vine vorba despre protejarea libertății de exprimare sau a dreptului nostru la viață privată.

La momentul de față platformele online pun în ordine și sortează materialele disponibile online fără a ne anunța cum și de ce o fac. Există o nevoie urgentă de transparență a practicilor și politicilor acestor platforme online. Trebuie să ni se ofere informații despre modul în care ne respectă libertatea de exprimare și despre ce măsuri au implementat în acest sens. Trebuie să fie transparente în ceea ce privește funcționarea lor de zi cu zi, procesul de luare a deciziilor și punerea în aplicare a acestora, precum și cu privire la evaluările de impact pe care le fac și la alte politici care au impact asupra drepturilor noastre fundamentale.

Pe lângă transparență, avem, de asemenea, nevoie de mecanisme elaborate în mod corespunzător și de intervenție umană ori de câte ori există un proces automat de luare a deciziilor. Nu se poate spune că există un remediu eficient fără oameni, fără mecanisme de examinare a contestațiilor, care să fie accesibile și transparente sau fără tragerea la răspundere a celor responsabili cu crearea de politici. Dacă există vreo posibilitate ca materiale care nu merită asta să fie eliminate, atunci procesul de luare a deciziei trebuie luat de o persoană care poate decide cu privire la legalitatea acestuia. Și ar trebui să avem întotdeauna dreptul de a ajunge, dacă dorim, în fața unui judecător, care este singura autoritate calificată să ia decizia finală cu privire la orice situația care ne-ar putea compromite dreptul la liberă exprimare.

Autori: Eliška Pírková de la Access Now & Eva Simon de la Liberties