Microsoft vytvoril internetového robota - rasistu. Musel ho vypnúť

Mala to byť ukážka umelej inteligencie na internete. Robot, ktorý by v diskusiách dokázal nahradiť človeka so schopnosťou učiť sa novým slovným výrazom od násťročných, sa Microsoftu vymkol spod kontroly. Tínedžeri z neho spravili rasistu.

umelý mozog, umelá inteligencia, počítačový čip, von neumann
Ilustračné foto
Autor:

Vytvoriť umelú inteligenciu, ktorá by na internete dokázala imitovať skutočného človeka, sa vedci s väčšími či menšími úspechmi usilujú už dlhšiu dobu. Microsoft sa napríklad pokúsil vytvoriť robota, ktorého živnou pôdou by boli internetové diskusie a sociálne siete. V nich by komunikoval prevažne s mladými ľuďmi, ktorým by robil online “parťáká”, a zároveň sa od nich učil novým výrazom a slangom. Firma takéhoto robota v marci aj vyskúšala. Na Twitteri vystupoval pod dievčenským menom Tay a od svojich “rovesníkov” vo veku 18 až 24 rokov sa snažil podchytiť nové výrazy ale aj témy, ktoré by mu umožnili zapojiť sa do verejnej diskusie.

Umelá inteligencia sa Microsoftu vymkla spod kontroly
Projekt, ktorý Microsoft na Twitteri spustil, mal trvať niekoľko dní, no napokon trvalo menej než 24 hodín, kým sa umelá inteligencia vymkla spod kontroly. Četovací robot Tay sa dokázal natoľko prispôsobiť témam a diskusii, že od mladých ľudí preberal aj frázy, kvôli ktorým ho musel Microsoft dočasne deaktivovať. Umelá inteligencia sa priučila modernému rasizmu, chválila Hitlera či nacizmus. V jednej z odpovedí napríklad uviedla, že “Hitler mal pravdu” alebo, že “Hitler neurobil nič zlé”, v inej zas popierala holokaust, hovorila o negroch alebo podporovala imigračnú politiku Donalda Trumpa v súvislosti s vybudovaním ochrannej bariéry na hraniciach s Mexikom.

Z internetového robota sa stal rasista
Vývojové laboratóriá Microsoftu umelú inteligenciu vytvorili s cieľom naučiť ju využívať dáta zozbierané z verejných zdrojov a sociálnych sietí. Robot odpovedal krátko, ale aj vtipne. “Tay bol vytvorený aby zabával a v online svete aj spájal ľudí prostredníctvom náhodných a veselých konverzácií.” uviedol Microsoft. Skrátka, čím viac s Tay ľudia komunikujú, tým je chytrejší a jeho/jej odpovede sú viac osobné. Napokon sa však viac menej potvrdil takzvaný Godwinov zákon, ktorý hovorí o tom, že čím dlhšia je internetová diskusia, tým vyššia je pravdepodobnosť, že sa v nej objavia porovnania s Hitlerom alebo nacizmom.

© AUTORSKÉ PRÁVA VYHRADENÉ
nokia, nokia 216

Nokia sa vracia. Začína predávať nové mobily

04.12.2016 07:00

Nokia začala predávať jednoduché a lacné telefóny s tlačidlami. Smartfóny prídu na rad v prvej polovici budúceho roka.

DJI, Mavic Pro, dron,

Apple bude vylepšovať svoje mapy pomocou dronov

03.12.2016 12:30

Apple do služby povolá drony, ktoré mu budú pomáhať pri mapovaní terénu, sledovaní dopravných značiek, nehôd a obmedzení na cestách.

krasny

Andy Krasny z Facebooku: Firmy musia byť tam, kde sú ich zákazníci

01.12.2016 13:00

Ako môže Facebook pomôcť naštartovať podnikanie? Aké sú najnovšie stratégie? A nestáva sa z užívateľov sociálnej siete tovar? Odpovedá Andy Krasny, SMB manažér spoločnosti Facebook.

kuba, fidel castro,

Kuba zakáže pomenovanie ulíc po Fidelovi. Odmietal vznik kultu osobnosti

04.12.2016 08:24

Kubánsky prezident Raúl Castro v sobotu vyhlásil, že jeho vláda zakáže pomenovanie ulíc a iných verejných miest po jeho bratovi Fidelovi.

pištoľ, zbraň, lúpež, krádež, zlodej

V Azerbajdžane zastrelili muža, ktorý sa pokúsil odpáliť

04.12.2016 08:12

Azerbajdžanská tajná služba oznámila, že jej agenti zabili v sobotu muža, ktorý mal na sebe vestu s výbušninami a pokúsil sa ju aktivovať.

Matteo Renzi

Taliani rozhodujú o ústave i premiérovi

04.12.2016 08:00

Chcel skoncovať s praxou podenkových vlád, v referende, ktoré presadil, však Matteo Renzi môže prísť o kreslo talianskeho premiéra.

Alexander Van der Bellen, Norbert Hofer

Príde po brexite a Trumpovi Hofer?

04.12.2016 07:00

V nedeľu sa v opakovanom druhom kole prezidentských volieb v Rakúsku proti sebe postavia Alexander Van der Bellen a krajne pravicový populista Norbert Hofer.