Aby umelá inteligencia fungovala tak, ako sa od nej očakáva, potrebuje tréning. V prípade rozpoznávania tvárí takýto tréning spočíva v učení sa s využitím rozsiahlej databázy státisícov tvárí reálnych osôb. Microsoft jednu takúto databázu od roku 2016 vlastnil. Zahŕňala viac ako 10 miliónov fotografií tvárí približne stovky tisíc ľudí. Databáza s názvom MS Celeb neslúžila len Microsoftu, ale na trénovanie svojich systémov strojového učenia ju využívali aj policajné zložky či armáda. Podľa Microsoftu totiž bola najväčšia svojho druhu.
Databáza však vyvolávala aj viacero etických a právnych otázok. Jednou z nich bolo možné zneužitie fotografií v odvetví, ktoré prakticky nikde vo svete nie je regulované. Na to v minulosti Microsoft upozorňoval aj zákonodarcov, ktorí však nijako nezakročili. Systémy na rozpoznávanie tvárí tak fungujú vlastným životom a neexistuje inštitúcia či etická komisia, ktorá by im určila mantinely.
Etická a právna dilema
Ako uviedol denník The Financial TImes, databáza síce mala obsahovať len fotografie verejne známych osôb, no nejako sa medzi fotky zatúlali aj snímky ľudí, ktorí medzi celebrity nepatria, prípadne na použitie a zaradenie svojich fotiek do databázy Microsoftu neudelili svoj súhlas. Po troch rokoch sa Microsoft rozhodol databázu z obehu odstrániť. V súčasnosti k nej nemajú tretie strany prístup, čo firma odôvodnila tým, že zamestnanec, ktorý mal správu databázy na starosti už pre Microsoft nepracuje.