Ľudské predsudky zabudujú do umelej inteligencie

18.02.2019 08:54
umelá inteligencia, AI, stroj, superpočítač, robot
Ilustračné foto Autor:

Keď si Amazon uvedomil, že jeho program na vyhľadávanie nových zamestnancov vybavený umelou inteligenciou (AI) dáva prednosť mužom, rýchlo ho zrušil. V roku 2016 sa chatovací robot z dielne Microsoftu zmenil počas iba 24 hodín na sexom posadnutý, neonacistický stroj.

Tieto incidenty – spoločne s ďalšími – hrali priamo do kariet tým, ktorí tvrdia, že v našom každodennom živote je príliš veľa AI, napísal v denníku Les Echos Charles Cuvelliez, ktorý prednáša na Bruselskej slobodnej univerzite a je riaditeľom Bruselskej inžinierskej školy.

Ale niektorí vedci sa na veci pozerajú z inej perspektívy: Ak robí AI také chyby, je to preto, že tomu bola naučená. To znamená, že ju tiež môžeme naučiť, aby sa týmto chybám vyhla. Ako? Tým, že nájdeme všetky predsudky obsiahnuté v údajoch, ktoré AI dostáva pri svojom učení.

Tieto údaje vyplývajú z našich vlastných predsudkov, ktoré existujú už dlho. Je ľahké je nájsť. Skúsme sa zamyslieť napríklad nad tým, ako často sa v textoch vyskytujú ošetrovateľky a zdravotné sestry v porovnaní s ich mužskými náprotivkami. Ako často sa o lekároch hovorí ako o mužoch? Je ľahké odhadnúť, že o počítačových vedcoch sa bude často hovoriť v mužskom rode. Ale to nie je všetko. Vie napríklad niekto, že pomer chýb pri rozpoznávaní tvárí dosahuje až 35 percent u žien tmavej pleti, zatiaľ čo u mužov bielej pleti je to len 0,8 percenta?

To všetko je spôsobené objemom vstupných dát, ktoré sú k dispozícii pre „učenie“ AI algoritmov. Práve dostupné dáta sú Achillovou pätou umelej inteligencie. Napríklad sociálne siete poskytujú hojný a lacný zdroj údajov. Avšak kvôli prítomnosti falošných správ, nenávistných výlevov a všeobecne zaujatých postojov voči menšinám a ženám, nie sú pre AI vhodné.

Experiment, ktorý na twitteri vykonal istý výskumník zo Swinburneskej univerzity odhalil, že ľudia vyjadrujú negatívne pocity podstatne častejšie proti ženám vo vysokých pozíciách, než proti porovnateľne vysoko postaveným mužom.

Predsudky sa však nájdu aj na iných miestach. Napadlo vás niekedy, prečo ktorákoľvek hlasová služba alebo zákaznícka linka v call centre využívajúca robotické služby má upokojujúci ženský hlas?

Štúdie preukázali, že muži aj ženy dávajú prednosť tomu, aby na ne hovorili ženské hlasy. Dodávajú im viac istoty, hrajú na materskú strunu. Avšak tieto preferencie majú svoje výnimky – mužské hlasy počujeme radšej, keď potrebujeme poradiť ohľadom áut alebo počítačov, a ženské vo všetkých medziľudských záležitostiach.

Pred časom výrobcovia inteligentných automatizovaných osobných asistentov s pripojenými reproduktormi upravili algoritmy tak, aby títo roboti boli menej vľúdni a zhovievaví voči hrubým a urážlivým výpadom užívateľov, ktorí si na nich občas vybijú svoju frustráciu. Zmyslom tohto kroku bolo zabrániť výpadom ľudí proti ženám na ulici, pretože si ich vďaka svojim skúsenostiam s automatizovanými asistentmi príliš odľudštia.

Umelá inteligencia ako taká nemá rovnaké predsudky ako my. To my učíme stroje, aby boli neobjektívne, ovplyvnené, predpojaté. Svetové ekonomické fórum odhaduje, že potrvá do budúceho storočia, než dosiahneme skutočnú rodovú rovnosť. A je možné, že v prípade umelej inteligencie budeme musieť na rovnosť pohlaví čakať ešte dlhšie.

#vedci #umelá inteligencia #počítače #Microsoft #Amazon #algoritmus
Sleduj najnovšie články na našom Facebooku
Ponuky zo Zľavy.Pravda.sk