Facebook úplne zakáže deep-fake videá

V upravených videách, v ktorých môže byť do úst vybranej osoby vložený úplne ľubovolný text, budú na Facebooku zakázané.

08.01.2020 16:30
facial recognition, rozpoznávanie tvárí, AI,... Foto:
Ilustračné foto
debata

Takzvané deep fake videá môžu v budúcnosti miasť ľudí a dokonca spôsobovať nepokoje. Stačí, ak programátor vloží do úst vybranej osoby nejaký text, ktorý nikdy nepovedala. Napríklad prezident Trump môže v deep fake videu schvaľovať zabíjanie civilistov a slovenský premiér hovoriť o spájaní s extrémistami či prijímaní tisícok utečencov. Tieto slová pritom osoby nemuseli nikdy povedať. Stačí, ak zručný programátor dokáže upraviť ich hlas a mimiku a počítačovo ich syntetizovať. Počítačovo generované klipy potom môžu vyzerať ako pravé a o ich hodnovernosti väčšina ľudí nebude ani len pochybovať. Ak sa navyše začnú virálne šíriť, môžu byť aj veľmi nebezpečné.

Deep fake videá sú na vzostupe, no stále nie sú trendom, ktorý by sa v hojnom počte objavoval na sociálnych sieťach. Facebook sa pokúsi zabrániť tomu, aby videí nepribúdalo. Na svojom blogu uviedol, že tento typ videí zakáže a z prostredia sociálnej siete ich bude automaticky mazať. Akonáhle Facebook zistí, že video bolo upravené spôsobom, ktorý by bežný človek nemal šancu rozpoznať, zakáže ho. Na overenie autenticity videí a obsahu použije aj ľudí kontrolujúcich faktickú správnosť obsahu.

Nový typ falošných videí, ktoré sú aj významnou technologickou výzvou do budúcnosti, na internete pribúda. Vznikajú za pomoci strojového učenia a softvéru, ktorý dokáže spájať, vymieňať a vytvárať obsah videí spôsobom, aby už na prvý pohľad vyzeral reálne. Politici tak môžu povedať to, čo by nikdy z ich úst nevyšlo a celebritám zas môžu deep fake videá takisto „zavariť“. Len v septembri minulého roka Facebook oznámil, že investuje 10 miliónov dolárov do zdokonalenia technológií na rozpoznanie deep fake videí.

© Autorské práva vyhradené

debata chyba
Viac na túto tému: #facebook #deep fake #falošné videí