Manipulovanie s realitou je jednou z mnohých tienistých stránok umelej inteligencie. Vďaka pokročilým algoritmom dnes už nie je problém vytvoriť falošné video, v ktorom napríklad politik rozpráva nezmysly. Rovnako nie je problém vytvoriť obrázok, ktorý je na nerozoznanie od skutočnej fotky. Technologické firmy si začali uvedomovať riziká s tým spojené. Ako prvý zareagoval Google, ktorý v týchto dňoch cez divíziu DeepMind predstavil nástroj SynthID na identifikovanie a označovanie obrázkov vytvorených umelou inteligenciou. V skratke – nástroj dokáže všetky obrázky vytvorené cez generátor Imagen označiť vodoznakom tak, aby nedošlo k zámene či omylu.
Vodoznak, ktorý SynthID do obrázku vloží, však nie je viditeľný ľudským okom. Je špeciálne zakódovaný do jednotlivých pixelov, takže na prvý pohľad takúto fotku ani len nerozpoznáte. Rozpozná ju však váš počítač. DeepMind ale priznáva, že ani takéto označovanie obrázkov nie je úplne stopercentné. Napríklad stále si nedokáže poradiť s fotkami, s ktorými bolo extrémne manipulované. Google ale plánuje tieto “muchy” vychytať ešte predtým, než verejnosti sprístupní finálnu verziu SynthID.
Vytvorením vodoznakového “kódovača” chce Google pomôcť ľuďom rozlišovať realitu od fikcie. Dnes si totiž už takmer každý dokáže na počkanie vygenerovať ľubovoľnú futuristickú či reálne vyzerajúcu fotku. Nástroje ako Midjourney majú desiatky miliónov používateľov, ktorí len na základe jednoduchých textových inštrukcií dokážu získať abstraktný, ale aj reálne vyzerajúci obrázok vytvorený umelou inteligenciou.