Európska únia podporila vývoj aplikácie na blokovanie detskej pornografie

Aplikácia Salus má pomôcť pri blokovaní detskej pornografie priamo v mobilnom zariadení. Jej tvorcovia získali z grantov Európskej únie 2 milióny eur na podporu jej vývoja a trénovania umelej inteligencie.

10.03.2023 08:00
mobil, sledovanie, telekomunikácie Foto: ,
Ilustračné foto
debata (2)

Dopyt po detskej pornografii je podľa odborníkov na vzostupe. Tím európskych odborníkov sa preto rozhodol vytvoriť aplikáciu, ktorá dokáže škodlivý obsah detegovať a automaticky ho zablokovať. Do vývoja projektu s označením Protech sa zapojila jedna z najväčších univerzitných nemocníc v Európe, berlínska CUB, ako aj experti z rôznych oblastí vrátane kriminológie, verejného zdravotníctva, klinickej a forenznej psychológie, softvérového inžinierstva, internetovej bezpečnosti a ochrany deti. Európska komisia dva roky trvajúci vývoj projektu podporila grantom vo výške dvoch miliónov eur.

Vývoj aplikácie s názvom Salus má začať v marci tohto roka. Na jej zdokonaľovaní sa majú podieľať aj dobrovoľníci, ktorí pomôžu pri trénovaní algoritmov strojového učenia. Analýza obsahu totiž bude prebiehať priamo v zariadení bez odosielania obsahu a citlivých používateľských dát na vzdialené servery. Aplikácia bude bežať na pozadí a monitorovať sieťovú prevádzku vrátane načítavaných fotiek a videí. Ak odhalí, že môže ísť o potenciálne škodlivý obsah, automaticky jeho zobrazenie zablokuje. Od používateľa sa nebude vyžadovať žiadna interakcia. Zatiaľ nie je jasné do akej miery bude nastavenie filtrovania obsahu automatizované a či zmenu natavení budú môcť vykonať aj používatelia v aplikácii.

Podporu projektu už prisľúbila aj nezisková organizácia Internet Watch Foundation (IWF), ktorá sa dlhodobo venuje monitorovaniu obsahu na internete a vyhľadávaniu a nahlasovaniu detskej pornografie. IWF má Protechu pomôcť pri trénovaní umelej inteligencie s využitím zdrojov a obsahu, ktorý má k dispozícii. V pilotnej fáze bude aplikáciu Salus počas 11 mesiacov testovať 180 používateľov v piatich európskych krajinách – v Nemecku, Holandsku, Belgicku, Írsku a vo Veľkej Británii.

© Autorské práva vyhradené

2 debata chyba
Viac na túto tému: #Európska komisia #Európska únia #detská pornografia #Protech #Salus #IWF