Ako oklamať umelú inteligenciu? Stačí písať heslovite a s chybami

Algoritmus síce dokáže rozpoznať vulgárne slová, no s výrazmi s písmenami a špeciálnymi znakmi navyše si už neporadí.

05.03.2017 09:50
umelý mozog, umelá inteligencia, počítačový... Foto:
Ilustračné foto
debata (16)

Umelá inteligencia postupne preniká do života ľudí a bez toho, aby o tom vedeli im pomáha analyzovať a triediť komunikáciu, e-maily ale aj organizovať všedný deň. Virtuálne asistentky v mobile by bez umelej inteligencie nedokázali porozumieť heslovitým požiadavkám a urobiť to, čo po nich človek vyžaduje.

Dlho sa špekuluje aj o tom, že umelá inteligencia bude onedlho strážiť internet, upozorňovať na extrémistov, teroristov, ale aj filtrovať nevhodný obsah. Pri jej zdokonaľovaní však výskumné tímy pozabudli na jednu dôležitú vec – ľudia sú vynaliezaví a nevhodnú komunikáciu dokážu zašifrovať do správ, ktorým stroj neporozumie.

Demonštrovali to napríklad výskumníci z Washingtonskej univerzity, ktorým sa podarilo “nachytať” inak pomerne komplexný algoritmus, ktorý v komunikácii vyhľadáva nevhodné slová. Údajne stačí, ak užívateľ v slovách vymení alebo pridá niektoré písmená a znaky. V praxi to potom vyzerá tak, že zatiaľ čo algoritmus dokáže veľmi presne rozpoznať slovo “hlupák”, pri slove “hl.upák” si už neporadí. Zatiaľ.

© Autorské práva vyhradené

16 debata chyba
Viac na túto tému: #Google #umelá inteligencia #Washingtonská univerzita