Google na konfrencii pre vývojárov ukázal, ako môže hlasový automat pomýliť takmer kohokoľvek. Hlasový asistent dokáže zavolať na ľubovolné číslo a vybaviť to, čo by inak vybavoval človek – rezerváciu v reštaurácii, u kaderníka či objednanie taxíka. Automat nie len, že rozpráva ako človek, ale používa aj rozličné spektrum hovorových výrazov a citosloviec. Niet preto divu, že tí, ktorým zavolal, si nič nevšimli.
Šéf Googlu, Sundar Pichai, priznal, že v budúcnosti by mohli počítače ľudí aj oklamať, preto volá po transparentnosti. “Túto funkciu (pozn. volajúceho hlasového asistenta) vyvíjame tak, aby bol takýto systém primerane identifikovateľný,” uviedol Pichai. Technológia Google Duplex bola vyvinutá s cieľom viesť prirodzenú konverzáciu a vykonávať bežné úlohy s využitím telefónu.
Jedným z dôvodov, prečo technológiu bežní užívatelia ešte nejaký čas nebudú môcť používať je potreba jej správneho nastavenia a optimalizácie, tak, aby ľudia a ani úrady nemuseli riešiť rôzne dilemy o tom, či nemá byť úplne zakázaná. Podľa niektorých odborníkov je desivý najmä spôsob, ako dokáže stroj viesť úplne prirodzenú konverzáciu s druhým človekom bez akéhokoľvek názaku zaváhania. Ľudský hlas je natoľko realistický a prirodzený, že vzbudzuje vážne obavy o možnom zneužití technológie v budúcnosti.