O možnom zneužití technológie na rozpoznávanie tváre sa diskutuje minimálne od doby, kedy sa s ňou verejnosť po prvýkrát zoznámila. Navyše, nie je žiadnym tajomstvom, že tváre už dokážu rozpoznávať kontrarozviedky, spravodajské služby, či dokonca štátna polícia v krajinách ako je Čína. Technológia sa pritom neustále rozvíja a je omnoho rozvinutejšia než pred piatimi či desiatimi rokmi. Veľké firmy, ktoré ju vyvíjajú preto vyjadrili obavy, že by sa mohla dostať do nesprávnych rúk, prípadne by mohla byť zneužitá.
Len pred pár dňami spoločnosť IBM oznámila, že svoju technológiu prestane ponúkať inštitúciám, ktoré by ju využívali na masové sledovanie ľudí a takzvané rasové profilovanie. IBM tak zareagovalo na rastúci tlak verejnosti v súvislosti so smrťou Georga Floyda, ktorého usmrtil americký policajt.
Technológia zlyháva pri rozpoznávaní rôznych etník
Podobným spôsobom ako IBM zareagoval aj Amazon. Firma štátnym inštitúciám minimálne na jeden rok neumožní používať svoj softvér na rozpoznávanie tváre. Podľa slov hovorcu chce Amazon vytvoriť priestor na tvorbu regulácií, ktoré by priniesli transparentnosť a väčšiu kontrolu nad samotnou technológiou. “Presadzujeme názor, že vlády by mali vytvoriť dôslednejšie regulácie pre etické používanie technológie rozpoznávania tváre,” uviedol Amazon v oficiálnom vyhlásení.
Amazon musel v minulosti viackrát vysvetľovať, prečo jeho softvér nie je spoľahlivý pri rozpoznávaní rôznych etník, prevažne však afroameričanov. Na nedostatky poukázali aj niektoré štúdie, podľa ktorých algoritmy oveľa častejšie nedokážu správne identifikovať ľudí s tmavou pleťou. Amazon sa síce obvineniam bránil, no technológiu naďalej poskytoval bezpečnostným zložkám vrátane americkej polície.