Kes peaks otsustama mida me internetis näeme?

Veebiplatvormid pingereastavad ja modereerivad sisu ilma teavitamata meid sellest kuidas ja miks nad seda teevad. Nende võrguplatvormide tavade ja tegevuspõhimõtete läbipaistvuse järele on tungiv vajadus.

Meie elu on tihedalt tehnoloogiaga läbi põimunud. Üks ilmne näide on see, kuidas sirvime, loeme ja suhtleme internetis. Selles artiklis arutame kahe meetodi üle, mida ettevõtted kasutavad sulle sisu edastamiseks: pingeritta panemine ja modereerimine.

Sisu pingereastamine

Platvormid kasutavad automatiseeritud meetmeid, et pingereastada ja modereerida sisu, mida üles laadime. Kui otsid tööl olles vaiksetel hetkedel kassivideoid, ei näita otsingutulemus igat kassivideot võrgus. Tulemus sõltub sinu asukohast, keelesätetest, sinu hiljutistest otsingutest ja kõigist andmetest, mida otsingumootor sinu kohta teab.

Teenused kureerivad ja pingereastavad sisu samal ajal kui nad ennustavad meie isiklikke eelistusi ja käitumist veebis. Sel viisil ei mõjuta nad vaid meie juurdepääsu andmetele, aga ka seda, kuidas kujundame oma arvamusi ja osaleme avalikus suhtluses. Meie eelistusi ennustades nad ka kujundavad neid ja muudavad aeglaselt meie käitumist veebis.

Nad otsustavad mida me loeme ja vaatame. See on nagu välisriigis ekskursioonil olemine, kus vaid giid kohalikku keelt räägib. Ja giid saab valida, mida sa näed ja kellega räägid. Samamoodi otsustavad need veebiteenused, mida sa näed. Võimendades ja kvantifitseerides teatud tüüpi sensatsioonilist sisu, mis suurendab huvi, saadetuna sageli algorütmide personaliseerimise ettearvamatutest kõrvalmõjudest, on sisu pingereastamine muutunud kaubaks, millest platvormid kasu saavad. Lisaks võib see viia sinu arvamuse moodustamise vabaduse manipuleerimiseni. Kuid vabadus moodustada arvamust on absoluutne õigus, mis tähendab, et sellesse vabadusse sekkumine on seadusega keelatud ja ei saa olla demokraatlikus ühiskonnas aktsepteeritud.

Meie sisu automatiseeritud kureerimine otsustab selle üle, millist liiki teavet me saame ja kui palju aega veedame platvormil sirvimisele. Enamikul meist ei ole piisavalt teavet selle kohta, kuidas soovitusalgoritmid internetis sisu hierarhiasse seavad. Mõned inimesed isegi ei tea, et pingereastamine eksisteerib. Kureerimismehhanismide tähenduslik läbipaistvus on eeltingimus, mis võimaldab kasutajal kontrollida tööriistu, mis aitavad kujundada meie informaatilist maastikku. Me peame teadma, kui toimub automaatne otsuste tegemine, ja meil on õigus mitte ainult selgitusele, vaid ka sellele vastu olla. Selleks, et saada tagasi oma agentsus ja teadlikkus sisu kureerimise üle, vajame, et veebiplatvormid kehtestaksid olulised läbipaistvusnõuded. Tugev läbipaistvus ja automatiseeritud meetmete selgitatavus on eeltingimused sellele, et saaksime tõhusalt kasutada oma õigust sõnavabadusele, et saaksime tõhusalt edasi kaevata põhjendamatute sisupiirangute üle.

Sisu modereerimine

Veebiplatvormid kureerivad ja modereerivad, et aidata teavet edastada, kuid nad teevad nii ka selle pärast, et EL-i ja riikliku õiguse loojad asetavad aina rohkem vastutust neile, et nad kontrolliks kasutajate poolt üleslaaditud sisu, sageli neid ränkade trahvidega ähvardades. Euroopa õigusraamistiku kohaselt on platvormid kohustatud kiiresti eemaldama ebaseadusliku sisu, näiteks materjali laste kuritarvitamisest või terroristlikku sisu, niipea, kui nad on selle olemasolust teadlikud. Me kõik nõustume, et juurdepääs ebaseaduslikule sisule peaks olema keelatud. Kuid mõnel juhul on sisu ebaseaduslikkust väga raske hinnata ja selleks on vaja korralikku õiguslikku hindamist. Näiteks võib video rikkuda autoriõigust, või seda võib vabalt uuesti üles laadida, kui seda kasutatakse paroodiana.

Piir seadusliku ja ebaseadusliku vahel võib olla keeruline. Probleemne on see, et võrguplatvormid tuginevad automatiseeritud otsusetegemisvahenditele lõpliku lahendusena väga keerulisele ülesandele, kuna võrgusisu haldamise ulatus on nii suur. Vastutuse vältimiseks kasutavad platvormid automatiseerimist, et välja filtreerida igasugune võimalikult ebaseaduslik sisu. Kuid me vajame automatiseerimise kontrollimiseks kaitsemeetmeid ja inimsekkumist. Me ei saa ainult nendele tööriistadele toetuda.

Milliseid kaitsemeetmeid vajame?

Kahtlemata on sisu modereerimine äärmiselt raske ülesanne. Iga päev peavad veebiplatvormid tegema raskeid valikuid ja otsustama, milline sisu jääb veebi ja kuidas me seda leiame. Automatiseeritud otsusetegemise protsess ei lahenda kunagi vaenukõne või valeinformatsiooni sotsiaalseid probleeme, terrorismist rääkimata. Nad ei tee seda, sest nad ei suuda seda. Automatiseerimine võib hästi toimida veebisisu puhul, mis on kontekstist hoolimata selgelt ebaseaduslik, näiteks laste kuritarvitamise materjali puhul; see ei toimi endiselt sisu puhul, mis ei ole rangelt võttes must-valge. Ükski vahend ei päästa meid sotsiaalsetest probleemidest ja ükski vahend ei tohiks olla viimaseks sõnaks väljendusvabaduse või sinu eraelu puutumatuse kaitsel.

Praeguse seisuga pingereastavad ja modereerivad veebiplatvormid sisu ilma meid sellest teavitamast kuidas ja miks nad seda teevad. Nende võrguplatvormide tavade ja tegevuspõhimõtete läbipaistvuse järele on tungiv vajadus. Nad peavad avalikustama teavet selle kohta, kuidas nad austavad meie sõnavabadust ja milliseid nõuetekohaseid hoolsusmehhanisme nad on rakendanud. Nad peavad olema läbipaistvad oma igapäevases tegevuses, otsusetegemisprotsessides ja rakendamises, aga ka mõjuhinnagutes ja muudes tegevuspõhimõtetes, mis mõjutavad meie põhilisi inimõigusi.

Lisaks läbipaistvusele vajame ka korralikult välja töötatud kaebuste esitamise mehhanisme ja inimsekkumist, kui on olemas automatiseeritud otsustamisprotsess. Ilma inimesteta, ilma ligipääsetavate ja läbipaistvate edasikaebamismehhanismideta, või tegevuspõhimõtete eest vastutavate inimesteta ei saa olla tõhusat õiguskaitsevahendit. Kui on võimalus, et sisu eemaldati valedel alustel, siis peab seda kontrollima päris inimene, kes saab otsustada, kas sisu oli seaduslik või mitte. Ja meil peaks alati olema õigus viia asi kohtuniku ette, kes on ainus isik, kes on õiguslikult kvalifitseeritud tegema lõplikku otsust mis tahes küsimuses, mis võib ohustada meie õigust sõnavabadusele.

Autorid: Eliška Pírková Access Now'st ja Eva Simon Libertiesest