V momente, keď začnete používať hlasového asistenta v mobile, tablete či inteligentom reproduktore, musíte počítať s tým, že váš hlas bude Google, Amazon či Apple analyzovať. Analyzujú ho preto, aby dokázali rozpoznať najrôznejšie povely a mohli na ne náležite reagovať zohľadňujúc napríklad aj intonáciu vo vašom hlase. Strojové učenie je veľmi komplexná disciplína, do ktorej musí občas zasiahnuť aj človek. V prípade hlasových asistentov to znamená, že vašu komunikáciu so zariadením si občas vypočuje aj človek, ktorý učiacemu sa systému pomôže pri rozpoznávaní nuáns v jazyku.
Hlasový asistent by však mal svojho “pána” počúvať len na povel. To znamená, že ak ho človek neprivolá, asistent by nemal reagovať. Nie vždy sa tak ale aj stane. Niekedy si môže asistent mylne interpretovať vaše slová a ozve sa, aj keď by nemal. Potom nastáva problém, pretože komunikácia sa začne nahrávať a asistent zachytí aj to, čo by nemal. Napríklad ľudí pri sexe alebo súkromnú komunikáciu obsahujúcu citlivé údaje. Tak sa stalo nedávno americkému Apple, ktorého asistent Siri zachytil slová podobné spojeniu “Hey Siri” a spustil nahrávanie. Nahrávka sa následne dostala do rúk ľudí, ktorí Applu pomáhajú pri rozpoznávaní reči a problém bol na svete.
Apple na následnú kritiku odpovedal tým, že na pomoc ľudí sa spoliehať nebude a bez výslovného povolenia bude hlas používateľov analyzovať už len stroj. K rovnakému kroku pristúpil aj Google, ktorý ľudský element z rozpoznávania reči eliminoval k 10. júlu vo všetkých krajinách Európskej únie. Amazon, ktorý mal s podobnými únikmi informácií svojich používateľov dlhodobo najväčšie problémy, paradoxne odmietol reagovať.