Microsoft vyvinul nástroj, ktorý rozpozná podvodné videá

04.09.2020 18:00
deepfake, video, umelá inteligencia
Príklad úpravy videa na takzvaný deepfake. Autor:

Takzvané deepfake videá, v ktorých sú známej osobnosti vkladané do úst slová, ktoré nikdy nepovedala, sú na vzostupe. V budúcnosti by mohli takéto videá spôsobiť veľký rozruch a mohli by mať veľkú dohru. Microsoft vraj vyvinul technológiu, ktorá id dokáže detegovať.

S pojmom deepfake sa budú onedlho stretávať všetci počítačovo gramotní ľudia. Čo to je? Slovo Deepfake nie je možné do slovenčiny jednoducho preložiť. Pochopiť ho však možno ako zneužitie umelej inteligencie k povodu alebo manipulácii. Je to technológia na báze umelej inteligencie, ktorá zhromažďuje modely ľudského chovania a používa ich na „úpravu reality“. Je to podobné, ako v animovaných filmoch, v ktorých zvieratá rozprávajú a aj sa chovajú ako ľudia. Ich mimika a gestikulácia je rovnaká ako u ľudí, navyše v posledných rokoch vyzerajú zvieratá aj veľmi realisticky a na nerozoznanie od skutočnosti. Podobné je to aj pri deepfake videách no s tým rozdielom, že namiesto zvierat sú na modelovanie použití ľudia.

V praxi to vyzerá tak, že známemu politikovi alebo hercovi dokážu programátori vložiť do úst slová, ktoré by nikdy nepovedal. Čo je horšie, divák ani len nemá pocit, že sa pozerá na upravené video. Je možné očakávať, že v budúcnosti bude takýchto videí pribúdať a môžu byť použité aj na vyvolanie konfliktov. Najväčšie IT firmy sa už od deepfake začali dištancovať. Facebook proti nim tvrdo bojuje a blokuje ich zdieľanie. Na YouTube je však stále možné nájsť množstvo deepfake videí a získať tak predstavu, ako falošné videá vyzerajú. Veľmi populárne sú tiež na sociálnej sieti TikTok.

Nástroj vraj spoľahlivo odhalí deepfake videá

Microsoft v týchto dňoch oznámil, že vyvinul technológiu, ktorá dokáže analyzovať fotografie a videá a s vysokou mierou presnosti identifikovať „deepfake“. Nástroj s názvom Video Authenticator tool analyzuje video a zisťuje, či so snímkami nebolo umelo manipulované. Nástroj vraj dokáže spozorovať rozdiely, ktoré bežnému divákovi môžu uniknúť. Príkladom sú drobné zmeny v odtieňoch alebo nekonzistentná farebná škála vo viacerých pixeloch. Microsoft sa spolieha na to, že v pôvodnom videu bola originálna tvár vymenená a prekrytá, a preto niektoré niektoré jej časti nebudú dôsledne „zakryté“.

Microsoft využil vlastné systém strojového učenia s verejnou zbierkou približne tisícky deepfake videí. Následne výsledky porovnal s oveľa rozsiahlejšou databázou deepfake videí z Facebooku. Nakoľko sa však aj deepfake videá zdokonaľujú, nie je možné očakávať, že jeden nástroj ich v budúcnosti dokáže všetky spoľahlivo odhaliť. Ak však pomôžu aspoň pred novembrovými prezidentskými voľbami v Spojených štátoch, bude to na prospech veci, tvrdí Microsoft.

© AUTORSKÉ PRÁVA VYHRADENÉ

#umelá inteligencia #Microsoft #deepfake
Sleduj najnovšie články na našom Facebooku