Tieto systémy sú však nebezpečné najmä vtedy, keď sa generovaný obsah (text, obrázky, videá) šíri bez upozornenia, že ide o výtvor umelej inteligencie. Takýto obsah môže byť zneužitý na ohrozenie jednotlivcov aj širokej verejnosti.
Najrozšírenejšie riziká
Jedným z najbežnejších príkladov je generovanie textu. Ak ste niekedy skúšali AI nástroje na tvorbu textu, možno ste si všimli, že keď model nepozná správnu odpoveď, často si ju „vymyslí“ (tzv. halucinácia). Model to dokáže podať tak presvedčivo, že môžete ľahko uveriť, že ide o pravdivé informácie. Takéto situácie sa dajú odhaliť manuálnym overovaním informácií.
Generovaný obsah a jeho hrozby
Sociálne siete sú už dlho plné upravených príspevkov a fotografií. Dnes už máloktorá fotka nie je aspoň trochu upravená, či už filtrom alebo úpravami na vylepšenie vzhľadu. Umelá inteligencia toto posúva ešte ďalej – stačí pár kliknutí v aplikáciách v smartfóne a dokážete jednoduché aj zložité úpravy fotiek či videí.
Služby ako DALL·E alebo Leonardo.AI umožňujú vytvárať úplne nové obrázky len na základe opisu toho, čo chcete vidieť. Po praxi je možné vygenerovať obrázky alebo videá, ktoré sú na prvý pohľad na nerozoznanie od reality – vrátane falošných videí so zvukom (deepfake).
S trochou skúseností dokážete vytvoriť obsah, ktorým môžete (alebo môže niekto iný) šíriť nepravdivé informácie, paniku alebo tzv. fake news. Obrázky môžu byť upravené tak, že znázorňujú niekoho v situácii, v ktorej v skutočnosti nebol – čo môže človeka skompromitovať.
Ešte závažnejšie je zneužitie AI na sociálne inžinierstvo a získavanie dôvery obetí. Napríklad pri generovaní falošných emailov či SMS správ o nedoplatkoch, ktoré od vás žiadajú zaplatiť alebo vyzradit osobné informácie.
Foto: SHUTTERSTOCK
Odporúčania – na čo si dať pozor
- Pri podozrivých správach vždy dôkladne kontrolujte viacero vecí.
- Skontrolujte gramatiku a pravopis – často sú tam výrazné chyby.
- Ak správu považujete za podozrivú, ohláste ju ako phishing.
- Kontrolujte, kto je odosielateľ – telefónne čísla a emailové adresy si môžete overiť na internete. Správy zo zahraničných čísel sú často varovný signál.
- Overujte si fakty – neverte hneď všetkému, hlavne ak vás správa vyzýva na rýchlu reakciu alebo platbu.
Umelá inteligencia je skvelý pomocník, ale musíme byť opatrní a kritickí, aby sme sa nestali obeťou podvodov.
