Microsoft vytvoril internetového robota - rasistu. Musel ho vypnúť

Mala to byť ukážka umelej inteligencie na internete. Robot, ktorý by v diskusiách dokázal nahradiť človeka so schopnosťou učiť sa novým slovným výrazom od násťročných, sa Microsoftu vymkol spod kontroly. Tínedžeri z neho spravili rasistu.

umelý mozog, umelá inteligencia, počítačový čip, von neumann
Ilustračné foto
Autor:

Vytvoriť umelú inteligenciu, ktorá by na internete dokázala imitovať skutočného človeka, sa vedci s väčšími či menšími úspechmi usilujú už dlhšiu dobu. Microsoft sa napríklad pokúsil vytvoriť robota, ktorého živnou pôdou by boli internetové diskusie a sociálne siete. V nich by komunikoval prevažne s mladými ľuďmi, ktorým by robil online “parťáká”, a zároveň sa od nich učil novým výrazom a slangom. Firma takéhoto robota v marci aj vyskúšala. Na Twitteri vystupoval pod dievčenským menom Tay a od svojich “rovesníkov” vo veku 18 až 24 rokov sa snažil podchytiť nové výrazy ale aj témy, ktoré by mu umožnili zapojiť sa do verejnej diskusie.

Umelá inteligencia sa Microsoftu vymkla spod kontroly
Projekt, ktorý Microsoft na Twitteri spustil, mal trvať niekoľko dní, no napokon trvalo menej než 24 hodín, kým sa umelá inteligencia vymkla spod kontroly. Četovací robot Tay sa dokázal natoľko prispôsobiť témam a diskusii, že od mladých ľudí preberal aj frázy, kvôli ktorým ho musel Microsoft dočasne deaktivovať. Umelá inteligencia sa priučila modernému rasizmu, chválila Hitlera či nacizmus. V jednej z odpovedí napríklad uviedla, že “Hitler mal pravdu” alebo, že “Hitler neurobil nič zlé”, v inej zas popierala holokaust, hovorila o negroch alebo podporovala imigračnú politiku Donalda Trumpa v súvislosti s vybudovaním ochrannej bariéry na hraniciach s Mexikom.

Z internetového robota sa stal rasista
Vývojové laboratóriá Microsoftu umelú inteligenciu vytvorili s cieľom naučiť ju využívať dáta zozbierané z verejných zdrojov a sociálnych sietí. Robot odpovedal krátko, ale aj vtipne. “Tay bol vytvorený aby zabával a v online svete aj spájal ľudí prostredníctvom náhodných a veselých konverzácií.” uviedol Microsoft. Skrátka, čím viac s Tay ľudia komunikujú, tým je chytrejší a jeho/jej odpovede sú viac osobné. Napokon sa však viac menej potvrdil takzvaný Godwinov zákon, ktorý hovorí o tom, že čím dlhšia je internetová diskusia, tým vyššia je pravdepodobnosť, že sa v nej objavia porovnania s Hitlerom alebo nacizmom.

© AUTORSKÉ PRÁVA VYHRADENÉ
Android 7, operačný systém, Android

Siedmy Android zlepší výdrž na batériu. Prináša aj množstvo ďalších noviniek

23.08.2016 20:15

Ak vlastníte novší smartfón s Androidom, onedlho si doň budete môcť nainštalovať v poradí už siedmu verziu operačného systému Android.

iphone, smartfón, 5s, 4s, 6

Prečo iPhone 7 neprekvapí a čo od neho možno čakať?

21.08.2016 13:15

Apple sa nachádza medzi dvomi mlynskými kolesami a experimenty, ktoré by mohli skončiť neúspechom si už nemôže dovoliť. iPhone 7 staví na istotu.

webkamera, špehovanie, špión, webcam, notebook, kamera, video

Aktualizácia Windows 10 môže 'znefunkčniť' webkameru v počítači

20.08.2016 16:53

Aktualizovali ste si Windows 10 a prestala vám fungovať webkamera? Chyba nie je vo vašom "prijímači". Na svedomí ju má Microsoft.

primacialny palac, mestske zastupitelstvo,

Nesrovnal sa pred poslancami zatajil

25.08.2016 20:00

Kto vie, aký mal primátor Bratislavy Ivo Nesrovnal vo štvrtok program? Mestskí poslanci určite nie.

Košice, hlavná

Časť obchvatu Košíc postaví Skanska za 197 miliónov eur

25.08.2016 18:46

Juhovýchodný obchvat Košíc v úseku D1 Budimír – Bidovce postaví spoločnosť Skanska SK. Projekt má byť hotový v roku 2020.

merkelová, sobotka,

DPA: Merkelová si svojou migračnou politikou Česko nezískala

25.08.2016 18:38, aktualizované: 19:53

Angela Merkelová si počas návštevy Prahy českú vládu pre svoju migračnú politiku nezískala, pred sídlom vlády ju uvítalo piskotom niekoľko desiatok kritikov.

SaS, OĽaNO, opozičná rada,

Opozícia: Slovenská pošta nedistribuovala časopis o kauze Bašternák

25.08.2016 18:05

Vláda neumožňuje opozičným stranám SaS a OĽaNO vykonávať ich prácu, Slovenská pošta nedodržala zmluvu a nedistribuovala noviny Kališpeciál o kauze Bašternák.