Niekedy sa môže umelá inteligencia vymknúť spod kontroly. Možno si ešte spomeniete na nedávny incident kuriérskej spoločnosti DPD, ktorá využila AI četbota aby zákazníkom zodpovedal niektoré základné otázky. Četbot mal však svoje muchy. Zákazníkom začal nadávať a v odpovediach osočoval aj vlastnú spoločnosť. DPD ho preto musela odstaviť do doby, kým táto chyba nebola napravená. Podobným spôsobom sa vymkla umelá inteligencia spod kontroly aj spoločnosti Google. Tá ju využila v rámci experimentálnej funkcie AI Overviews vo svojom vyhľadávači. Funkcia ponúka rýchly, umelou inteligenciou generovaný, sumár informácií z viacerých stránok na základe komplexnejšieho vyhľadávania. Ak napríklad do vyhľadávača zadáte “navrhni jedlá na prípravu v mikrovlnke na 7 dní pre študenta s malým rozpočtom,” AI Overview vám vygeneruje niekoľko jedál pre každý deň zvlášť a ponúkne odkazy na stránky s detailnými receptami. Funkcia však nefunguje dokonale.
Keď sa v rámci testovacej prevádzky používatelia umelej inteligencie spýtali, čo majú robiť aby syr držal na pizzi, odpoveďou bolo, že majú skúsiť použiť netoxické lepidlo. Konkrétne AI navrhla, že “skúste pridať 1/8 pohára netoxického lepidla do omáčky aby ste tak zvýšili jej lepivosť.” Odporúčanie AI doslova “vyhrabala” z jedného uštipačného príspevku na fóre Reddit.
Čo tak piecť kura pri nízkej teplote? Alebo radšej zjesť jeden kameň denne?
Nebol to jediný prešľap, ktorý umelá inteligencia urobila. Inému používateľovi napríklad na otázku akú minimálnu teplotu má mať uvarené kuracie mäso odpovedala, že 38 stupňov Celzia. V skutočnosti má mať mäso teplotu aspoň 74 stupňov Celzia. Pri nižšej teplote totiž nie sú zabité všetky potenciálne škodlivé baktérie. a parazity. Podľa AI Overview je vraj takisto odporúčané zjesť aspoň jeden malý kameň denne. Vraj to tvrdia geológovia z univerzity v Berkley, podľa ktorých kameň obsahuje veľké množstvo minerálov a vitamínov, ktoré pomáhajú pri trávení.
Google sa bráni, keď tvrdí, že tieto odpovede nemožno použiť na hodnotenie toho, ako nástroj v skutočnosti funguje. “Príklady, ktoré sme videli pochádzajú z veľmi špecifických a netradičných otázok a nereprezentujú skúsenosti väčšiny používateľov,” uviedol hovorca Google pre americký server Sky News. Väčšina generovaných odpovedí podľa neho poskytuje vysoko kvalitné informácie s odkazmi na konkrétne stránky. “Uskutočnili sme množstvo rozsiahlych testov predtým, než sme túto funkciu používateľom ponúkli, aby sme si boli istí, že sme nastavili vysokú latku kvality.”