Vedci varujú pred zneužitím umelej inteligencie v informačnej vojne

Americkí vedci aj kongresmani sa obávajú, že technologicky vysoko vyspelé nástroje využívajúce umelú inteligenciu a takzvané mapovanie tváre sa stanú najnovšou zbraňou v informačnej vojne proti USA a západným demokraciám. Napísala to agentúra AP. Nové technológie, dostupné na internete, umožňujú šíriť po svete videá s vyobrazením reálnych ľudí prednášajúcich výroky, ktoré v skutočnosti nikdy nezazneli.

06.07.2018 12:00
Space Robot, umelá inteligencia, informačná vojna, Foto:
Nové technológie, dostupné na internete, umožňujú šíriť po svete videá s vyobrazením reálnych ľudí prednášajúcich výroky, ktoré v skutočnosti nikdy nezazneli.
debata

Zatiaľ sa také obrázky s politickým obsahom vo verejnom priestore príliš neobjavujú, ale podľa expertov nie je otázkou či, ale kedy. Už vlani sa produkcia takzvaných deepfakes, teda zvlášť ľstivých podvodov, objavila na pornografických serveroch alebo na komunitnej sieti Reddit. Pornoherci tam prezentujú svoje výkony s tvárami známych celebrít. Sieť Reddit aj napríklad twitter podobné videá mažú.

„Očakávame, že v Spojených štátoch sa táto technika objaví v novembrových kongresových voľbách a v prezidentských voľbách v roku 2020,“ povedal agentúre AP Hany Farid, expert na digitálne technológie zo štátu New Hampshire. „Technológia nepozná hraníc a dosah to bude mať na všetkých,“ usudzuje Farid. Svet podľa neho vstupuje do éry, keď nebude isté nič, čo človek vidí. Ľudia potom budú za podvod považovať i videá zobrazujúce skutočnosť.

Výskumné agentúry amerického ministerstva obrany sa už dva roky zaoberajú vývojom nástrojov, ktoré „deepfakes“ rozpoznajú, napísala AP. Zatiaľ je na ich identifikáciu nutná rozsiahla analýza a nie je jasné, či vývoj obranných prostriedkov nebude za vývojom manipulatívnych techník zaostávať.

Metóda „deepfakes“ využíva postupy takzvaného hlbokého učenia (deep learning), čo je forma umelej inteligencie. Počítač dostane veľký objem algoritmov, teda vzorových podkladových súborov vo forme obrázkov a zvukov so zachytením cieľovej osoby. S ich využitím sa naučia umelo vytvárať výrazy jej tváre, pohyby tela, spôsob a intonáciu reči. Ak má stroj dostatok podkladov, môže vyrobiť video s vyobrazením osoby hovoriacej prakticky o čomkoľvek, správajúcej sa akokoľvek.

„O rok či dva bude prakticky nemožné rozoznať podvod od skutočnosti,“ predpovedal Andrew Grotto zo Stanfordovej univerzity. „Štáty nedokážu odolať, aby túto techniku nevyužili na manipuláciu verejnou mienkou, na zmäteniu verejnosti a podkopanie dôvery v demokratické inštitúcie,“ varoval Grotto.

© Autorské práva vyhradené

debata chyba
Viac na túto tému: #USA #umelá inteligencia #informačná vojna #mapovanie tváre