Zatiaľ sa také obrázky s politickým obsahom vo verejnom priestore príliš neobjavujú, ale podľa expertov nie je otázkou či, ale kedy. Už vlani sa produkcia takzvaných deepfakes, teda zvlášť ľstivých podvodov, objavila na pornografických serveroch alebo na komunitnej sieti Reddit. Pornoherci tam prezentujú svoje výkony s tvárami známych celebrít. Sieť Reddit aj napríklad twitter podobné videá mažú.
„Očakávame, že v Spojených štátoch sa táto technika objaví v novembrových kongresových voľbách a v prezidentských voľbách v roku 2020,“ povedal agentúre AP Hany Farid, expert na digitálne technológie zo štátu New Hampshire. „Technológia nepozná hraníc a dosah to bude mať na všetkých,“ usudzuje Farid. Svet podľa neho vstupuje do éry, keď nebude isté nič, čo človek vidí. Ľudia potom budú za podvod považovať i videá zobrazujúce skutočnosť.
Výskumné agentúry amerického ministerstva obrany sa už dva roky zaoberajú vývojom nástrojov, ktoré „deepfakes“ rozpoznajú, napísala AP. Zatiaľ je na ich identifikáciu nutná rozsiahla analýza a nie je jasné, či vývoj obranných prostriedkov nebude za vývojom manipulatívnych techník zaostávať.
Metóda „deepfakes“ využíva postupy takzvaného hlbokého učenia (deep learning), čo je forma umelej inteligencie. Počítač dostane veľký objem algoritmov, teda vzorových podkladových súborov vo forme obrázkov a zvukov so zachytením cieľovej osoby. S ich využitím sa naučia umelo vytvárať výrazy jej tváre, pohyby tela, spôsob a intonáciu reči. Ak má stroj dostatok podkladov, môže vyrobiť video s vyobrazením osoby hovoriacej prakticky o čomkoľvek, správajúcej sa akokoľvek.
„O rok či dva bude prakticky nemožné rozoznať podvod od skutočnosti,“ predpovedal Andrew Grotto zo Stanfordovej univerzity. „Štáty nedokážu odolať, aby túto techniku nevyužili na manipuláciu verejnou mienkou, na zmäteniu verejnosti a podkopanie dôvery v demokratické inštitúcie,“ varoval Grotto.