Automatizálás és illegális tartalom: Jó az, ha gépek döntenek helyettünk?

A felhasználók óriási mennyiségű tartalmat osztanak meg egymással, ennyi adatot csak automatizált eszközökkel lehet kezelni. Csakhogy a gépek gyakran tévednek, ami súlyos következményekkel jár a jogainkra és a társadalom jóllétére nézve.

Legtöbben úgy vagyunk vele, hogy szívesen vitatunk meg az interneten apró-cseprő vagy éppen nagyszabású kérdéseket, osztjuk meg életünk boldog és szomorú pillanatait, vagy online játsszunk egymással. Ezek mind nagyszerű dolgok. Hiszen úgy van rendjén, ha értesülhetünk az újdonságokról, ápolhatjuk a barátságainkat és ismeretlenekkel is kapcsolatba léphetünk. Pillanatonként osztunk meg fotókat, videókat, gondolatokat az interneten: minden percben 527 760 fotót posztolunk a Snapchatre, 4 146 600 YouTube videót nézünk meg, 456 000-szor tweetelünk és kb. 46740 fotót teszünk fel az Instagramra. Na és hány percből áll egy nap? 1440.

Különböző jellegű információkról van itt szó. Home videókról, amelyekkel semmi dolga a törvénynek. De vannak egyértelműen törvénysértő tartalmak is, mint a gyermekpornó vagy az erőszakra felbujtás. A törvényes és törvénytelen tartalmak között elhelyezkedő harmadik csoportba tartozó elemeket egyesek károsnak tartják, míg másoknak nincs velük bajuk. Hiába nem ütközik törvénybe, azért vannak szülők, akik nem szeretnék, hogy a 12 éves gyermekük hozzáférjen pornográf tartalmakhoz. Ám nem könnyű meghatározni, de még osztályozni sem mely tartalmak tekinthetők ártalmasnak, és kik számára. Besorolásuk nagyban függ a kultúrától, az életkortól, a körülményektől és még számos egyéb tényezőtől.

Az online tartalmak nagy részét internetes platformokon tárolják, és ezek kénytelenek automatizált módon kiszúrni és kezelni az esetleg problémás tartalmak különféle típusait. Az olyan kulcsszereplők, mint a Facebook vagy a Google megfigyelő és szűrő eszközöket vetett be a nemkívánatos tartalmak felismerése és eltávolítása céljából. És ugyan ki ne értene egyet azzal, hogy ne lehessen gyermekbántalmazó felvételeket vagy az ISIS toborzó videóit terjeszteni?

Az EU és egyes tagállamai folyamatos nyomást gyakorolnak az internetes platformokra, hogy mielőbb távolítsák el az illegális vagy esetleg kárt okozó tartalmakat, így az online gyűlöletbeszédet vagy a terrorista megnyilvánulásokat. Gyakran büntetést is kell fizetniük, ha nem lépnek időben. Az ilyen elvárások teljesítéséhez a tech cégek kénytelenek automatizált módon kiszűrni az olyan anyagokat, amelyek nem válhatnak online elérhetővé.

A felhasználók óriási mennyiségű tartalmat osztanak meg egymással, ennyi adatot csak automatizált eszközökkel lehet kezelni. Csakhogy a gépek gyakran tévednek, ami súlyos következményekkel jár a jogainkra és a társadalom jóllétére nézve.

1 Az automatizált eszközök érzéketlenek a kontextusra, ezért törvénybe nem ütköző beszédmegnyilvánulásokat is letiltanak

Az automatizált döntéshozó eszközök nem érzékelik a nyelvi és kulturális árnyalatokat. A tartalomfelismerő technológiák pontatlanok, egészen egyszerű helyzetekben is juthatnak téves következtetésre. 2017-ben Ariana Grande elkezdte a YouTube csatornáján streamelni a "One Love Manchester" című jótékonysági eseményét. A YouTube feltöltési szűrője azonban nyomban leállította a közvetítést, azt vélelmezve, hogy a koncert sugárzása szerzői jogot sért - mégpedig magáét a popsztárét. Ennél súlyosabb volt az az eset, amikor ugyanez az önműködő szűrőrendszer ezrével távolított el olyan YouTube videókat az internetről, amelyekkel bizonyítani lehetett volna szíriai civilek ellen elkövetett atrocitásokat, veszélyeztetve, hogy valaha is kivizsgálják majd ezeket a háborús bűnöket és bíróság elé citálják az elkövetőket. Mivel tehát képtelenek felmérni a helyzetet, értelmezni a felhasználók szándékait és az általuk tulajdonított jelentéseket, az automatizált eszközök teljesen törvényes tartalmakat is kiszűrnek és eltávolítanak. Az internetes cégek rosszul működő szűrőrendszereket üzemeltetnek, és ezért könnyen előfordulhat, hogy újságírók, aktivisták, komikusok, művészek vagy bárki, aki gondolatokat közöl, videókat vagy képeket oszt meg az interneten cenzúra áldozata lesz.

2 Nem csodaszer

Az ilyen technológiákat olykor "mesterséges intelligenciának" nevezik, amiről sokaknak emberfeletti számítástechnikai intelligencia jut az eszébe. De ne számítsunk ilyesmire. Mindössze korszerű statisztikai módszerekről van szó, amelyek mindenféle "értelem" vagy "intelligencia" híján felismernek bizonyos mintázatokat. Ezek a tartalomfelismerő technológiák nem fogják fel a közösségi médiában posztolók értelmezéseit vagy szándékait, vagy azt, hogy az adott tartalom milyen hatással lehet másokra. A posztok átfésülésekor egyszerűen bizonyos képi, nyelvi vagy hangzó tartalmi mintázatokat keresnek, amelyek azonosítására - így például a "gyűlöletbeszéd" vagy a "terrorista tartalom" felismerésére - beprogramozták őket. Márpedig tökéletes programozás nem létezik, aminek révén kétségeket kizáró felismerőkészséggel rendelkezhetnének ezek a szűrőrendszerek. Csak azokat a konkrét elemeket, mintázatokat veszik észre, amelyeket előzőleg beléjük tápláltak. Egészen jól teljesítenek az egyértelmű, következetes formában jelentkező mintázatok felismerésében, ugyanakkor sosem lesznek képesek olyan kényesebb feladat ellátására, mint azt megállapítani, hogy valami gyűlöletbeszédnek számít-e vagy sem.

A kormányok érthető okokból éreztetni kívánják az állampolgáraikkal, hogy igyekeznek védelmet nyújtani a számukra a terrorizmussal, a gyűlöletbeszéddel, a gyermekbántalmazással vagy a szerzői jog megsértésével szemben. A cégek pedig mint valami csodaszert, úgy kínálgatják az automatizált technológiákat az egyszerű megoldásokra törekvő politikusoknak. Ám ne feledjük: a társadalomban mélyen gyökeredző problémákra nincsen automatikus válasz. Az ilyen módszerek legfeljebb arra jók, hogy enyhítsék az online platformok nehézségeit. Nekünk azonban garanciákra van szükségünk annak biztosítására, hogy nem kell feláldoznunk az emberi jogainkat és a szabadságunkat rosszul működő automatizált eszközök oltárán.

Tehát akkor ki döntsön arról, mit láthatunk az interneten? Erről a kérdésről szól majd a sorozatunk következő része. Maradjatok velünk!

Írta: Eliška Pírková (Access Now) & Simon Éva (Liberties)