Existuje algoritmus na boj proti online extrémizmu

Existuje algoritmus na boj proti online extrémizmu

Začiatkom roku 2000 mal internet problém s detskou pornografiou. Pokiaľ ide o Spojené štáty, nepredpokladali explóziu nelegálnych obrázkov, ktoré sa objavili online v prvých dňoch internetu. Sledovanie týchto nezákonných aktivít sa stalo oveľa zložitejším a odstránenie všetkých stôp po obrázkoch z World Wide Web sa zdalo takmer nemožné. Vládni predstavitelia sa preto obrátili so žiadosťou o pomoc na Silicon Valley.

Technologické spoločnosti však ťahali nohy. Do roku 2008 sa urobilo len málo pre vyriešenie problému online detskej pornografie, kým jeden technický šéf – Microsoft – nekontaktoval počítačového vedca Hanyho Farida z Dartmouth College.



Farid je odborník na forenznú fotografiu, techniky používané najčastejšie na identifikáciu falošných obrázkov. Farid a Microsoft však spoločne vytvorili nástroj na identifikáciu akéhokoľvek obrázka pomocou jedinečného podpisu, napríklad odtlačku fotografie. S týmto podpisom mohla spoločnosť Microsoft porovnať obrázky - predtým, ako boli zverejnené na webových stránkach - s databázou takmer 30 000 obrázkov detskej ponornej grafiky, ktorú katalogizovalo Národné centrum pre nezvestné a zneužívané deti. Farid testoval nástroj iba na 10 obrázkoch, pričom predpokladal, že nájdenie zhody bude trvať niekoľko týždňov, ak nie mesiacov. Trvalo to len štyri dni. Technologické spoločnosti začali tento nástroj osvojovať v priebehu nasledujúceho desaťročia; Google sa konečne prihlásil v roku 2014.

Teraz je Farid pripravený použiť rovnakú technológiu na boj proti ďalšiemu internetovému strašidlu – teroristickým správam. Podľa projektu Counter Extremism Project (CEP) hrajú online teroristické videá a obrázky dôležitú úlohu pri radikalizácii extrémistov. Ale na rozdiel od obrázkov vykorisťovania detí nie sú pravidlá, ktoré upravujú, čo je a čo nie sú teroristické správy, také jasné. Takéto správy nie sú podľa zákonov USA nezákonné a niektorí sa obávajú, že svojvoľná definícia „teroristických správ“ by pripravila pôdu pre cenzúru. Silicon Valley sa opäť snaží nájsť riešenie, aj keď sa množia dôkazy, že obsah na ich webových stránkach je čiastočne zodpovedný za nedávne teroristické činy. V skutočnosti začiatkom tohto mesiaca dve ženy podali žalobu na Twitter za napomáhanie pri teroristických útokoch, pri ktorých v rokoch 2015 a 2016 zahynuli ich milovaní.

Farid sa pripája k Irovi, aby diskutoval o tom, ako by mohla forenzná fotografia obmedziť teroristické správy online. V diskusii o technológii a hraniciach cenzúry sa k nemu pripája Jillian York, riaditeľka pre medzinárodnú slobodu prejavu v Electronic Frontier Foundation.

Aktualizácia: Facebook sa nám ozval po minulotýždňovej relácii o teroristických správach. Povedali, že v tejto otázke spolupracujú so spoločnosťami Microsoft, Twitter a Youtube. Môžete si prečítať ich tlačovú správu tu .