Facebook prezradil ako plánuje poraziť teroristov

Facebook chce verejnosť ubezpečiť, že proti terorizmu aktívne bojuje. Na svojom blogu zverejnil detailné postupy, ktoré mu pomáhajú odhaliť teroristov a ich propagandu šíriacu sa na sociálnych sieťach.

17.06.2017 07:30
Instant Articles, Facebook Foto:
Ilustračné foto
debata (1)

Vlády tlačia na technologické firmy, aby efektívnejšie a aktívnejšie bojovali proti terorizmu a extrémizmu. Najviac sú pritom pod tlakom sociálne siete, ktoré sa tieto skupiny používateľov snažia úplne vytesniť či zablokovať. Zatiaľ však nie príliš efektívne. Facebook sa ale vo svojom najnovšom blogovom príspevku snaží presvedčiť, že robí oveľa viac, než sa od neho vyžaduje. Aby mu verejnosť uverila, rozhodol sa, že bude otvorene hovoriť o svojich postupoch.

Ako teda najväčšia sociálna sieť bojuje proti propagande a extrémizmu? Jej hlavným tromfom je umelá inteligencia, ktorá dokáže rozpoznať obrázky, videá a text súvisiaci s terorizmom. “Chceme takýto obsah nájsť okamžite, skôr než ho uvidia ľudia z našej komunity,” píše Facebook na svojom blogu. To znamená, že sa nechce spoliehať len na ľudí, ktorí by účty a obsah nahlasovali. “Väčšinu účtov, ktoré z dôvodu terorizmu odstránime, už aj tak nachádzame sami,” dodal.

Facebook hľadá podobnosti na fotkách, videách ale aj príspevkoch

Facebook umelú inteligenciu využíva pri rozpoznaní fotiek a videí, ktoré už v minulosti niekto na server nahral. Ak sa podobajú, či sú dokonca identické s tými, ktoré v minulosti Facebook zaradil na čiernu listinu (či už kvôli terorizmu alebo z iných dôvodov), zablokuje ich. “Nedávno sme začali experimentovať s využitím umelej inteligencie pri rozpoznaní textu, ktorý by mohol podporovať terorizmus,” píše Facebook. V súčasnosti mu má analýza textu pomôcť identifikovať sympatizantov a podporovateľov teroristických skupín ako je ISIS alebo Al-Káida, ktorých účty môže jednoducho zablokovať. V budúcnosti by vďaka strojovému učeniu mohol rozpoznať aj text, ktorý je svojim obsahom podobný tomu, ktorý Facebook označil za nevhodný či extrémistický.

Zablokované môžu byť aj účty, ktoré majú podobné znaky s účtami, ktoré už z dôvodu podpory terorizmu zablokované boli. Facebook napríklad sleduje, či užívatelia nezdieľajú rovnakých priateľov alebo vo svojich kontaktoch nemali väčší počet osôb, ktorých účty boli z takýchto dôvodov zablokované. Efektívnejšie má byť aj odhaľovanie falošných duplicitných účtov používaných teroristami. Na druhej strane ale Facebook pripúšťa, že musí svoje techniky neustále zdokonaľovať, lebo teroristi sú vynaliezaví. V budúcnosti plánuje viac sledovať aj aktivitu na účtoch na WhatsApp a Instagrame.

Strojové učenie nestačí

Boj proti terorizmu musí byť ale sofistikovaný, čo často znamená, že je za hranicami schopností a možností umelej inteligencie. Umelá inteligencia nemusí správne vyhodnotiť napríklad články z overených zdrojov, ktoré len dokumentujú aktivity teroristov a používajú ilustračné obrázky. To isté platí aj o rôznych virálnych anti-kampaniach, ktoré majú za cieľ zdiskreditovať teroristické skupiny a používajú pri tom fotky a videá identické s tými, ktoré používajú teroristi. Facebook preto pripúšťa, že dôležitý je najmä kontext, s ktorého identifikovaním mu pomôže jeho vlastná komunita a ďalšie firmy a organizácie, s ktorými spolupracuje.

© Autorské práva vyhradené

1 debata chyba
Viac na túto tému: #terorizmus #facebook #sociálna sieť #Instagram #extrémizmus #Whatsapp