WHO spomína predovšetkým chatboty používajúce umelú inteligenciu, ktoré môžu poskytnúť používateľom falošné a neoverené informácie. Organizácia tvrdí, že používanie týchto nových technológií nesprevádza dostatočná opatrnosť a kontrola. Vyzvala na dodržiavanie zásad transparentnosti, odborného dohľadu či prísneho hodnotenia výsledkov.
Čítajte aj Umelá inteligencia umožní neinvazívne čítanie myšlienok, prevedie ich na text
„Unáhlené zavedenie neotestovaných systémov by mohlo viesť k chybám zo strany zdravotníkov, poškodeniu pacientov, strate dôvery v umelú inteligenciu, a teda podkopaniu (či oneskoreniu) použitia a možných dlhodobých prínosov týchto technológií vo svete,“ uviedla organizácia.
Podľa WHO využívanie umelej inteligencie v zdravotníctve nesprevádza „opatrnosť, ktorá by normálne bola používaná pri akejkoľvek novej technológii“. WHO vyzvala štáty a organizácie, aby systémy využívajúce umelú inteligenciu podrobne otestovali skôr, ako ich zavedú do zdravotníctva. Tam by mohli slúžiť ako pomôcka pri rozhodovaní lekárov a zdravotníkov.
Čítajte aj Umelá inteligencia je v centre záujmu, štáty sa zhodujú na nutnosti jej kontroly
WHO varuje pred niektorými aspektmi používania chatbotov využívajúcich umelú inteligenciu. Podľa organizácie môžu tieto systémy poskytovať odpovede s mylnými informáciami, ktoré sa konečnému užívateľovi môžu zdať fundované. Chatboty môžu tiež generovať „vysoko presvedčivé dezinformácie“, na ktoré by potom inštitúcie reagovali len s veľkými ťažkosťami. Organizácia tiež varuje ohľadom toho, ako tieto systémy nakladajú s osobnými údajmi užívateľov.