Microsoft vytvoril internetového robota - rasistu. Musel ho vypnúť

Mala to byť ukážka umelej inteligencie na internete. Robot, ktorý by v diskusiách dokázal nahradiť človeka so schopnosťou učiť sa novým slovným výrazom od násťročných, sa Microsoftu vymkol spod kontroly. Tínedžeri z neho spravili rasistu.

umelý mozog, umelá inteligencia, počítačový čip, von neumann
Ilustračné foto
Autor:

Vytvoriť umelú inteligenciu, ktorá by na internete dokázala imitovať skutočného človeka, sa vedci s väčšími či menšími úspechmi usilujú už dlhšiu dobu. Microsoft sa napríklad pokúsil vytvoriť robota, ktorého živnou pôdou by boli internetové diskusie a sociálne siete. V nich by komunikoval prevažne s mladými ľuďmi, ktorým by robil online “parťáká”, a zároveň sa od nich učil novým výrazom a slangom. Firma takéhoto robota v marci aj vyskúšala. Na Twitteri vystupoval pod dievčenským menom Tay a od svojich “rovesníkov” vo veku 18 až 24 rokov sa snažil podchytiť nové výrazy ale aj témy, ktoré by mu umožnili zapojiť sa do verejnej diskusie.

Umelá inteligencia sa Microsoftu vymkla spod kontroly
Projekt, ktorý Microsoft na Twitteri spustil, mal trvať niekoľko dní, no napokon trvalo menej než 24 hodín, kým sa umelá inteligencia vymkla spod kontroly. Četovací robot Tay sa dokázal natoľko prispôsobiť témam a diskusii, že od mladých ľudí preberal aj frázy, kvôli ktorým ho musel Microsoft dočasne deaktivovať. Umelá inteligencia sa priučila modernému rasizmu, chválila Hitlera či nacizmus. V jednej z odpovedí napríklad uviedla, že “Hitler mal pravdu” alebo, že “Hitler neurobil nič zlé”, v inej zas popierala holokaust, hovorila o negroch alebo podporovala imigračnú politiku Donalda Trumpa v súvislosti s vybudovaním ochrannej bariéry na hraniciach s Mexikom.

Z internetového robota sa stal rasista
Vývojové laboratóriá Microsoftu umelú inteligenciu vytvorili s cieľom naučiť ju využívať dáta zozbierané z verejných zdrojov a sociálnych sietí. Robot odpovedal krátko, ale aj vtipne. “Tay bol vytvorený aby zabával a v online svete aj spájal ľudí prostredníctvom náhodných a veselých konverzácií.” uviedol Microsoft. Skrátka, čím viac s Tay ľudia komunikujú, tým je chytrejší a jeho/jej odpovede sú viac osobné. Napokon sa však viac menej potvrdil takzvaný Godwinov zákon, ktorý hovorí o tom, že čím dlhšia je internetová diskusia, tým vyššia je pravdepodobnosť, že sa v nej objavia porovnania s Hitlerom alebo nacizmom.

© AUTORSKÉ PRÁVA VYHRADENÉ
platobný terminál, Telekom, mPOS

Telekom má nový mobilný platobný terminál. Komunikuje s mobilom

27.05.2016 08:00

Telekom podnikateľom ponúka už aj malý mobilný terminál pre realizáciu platieb v teréne. Jedinou podmienkou je dostupnosť internetu.

mobilné aplikácie, desktop, počítač, aplikácie, softvér, multimédiá

Softvér sa na Slovensku stále kradne, no menej ako po minulé roky

26.05.2016 08:00

Každý tretí softvér na slovenských počítačoch je síce nelegálny, no podľa štatistík patí Slovensko medzi disciplinovanejšie krajiny.

Microsoft Windows, operačný systém, Windows XP, 7, Vista

Windows sa na 'desiatku' aktualizoval aj bez súhlasu užívateľov

25.05.2016 08:30

Microsoft musí vysvetľovať, prečo sa niektorým užívateľom aktualizoval operačný systém na verziu Windows 10 aj bez ich výslovného súhlasu.

električka, petrzalka

Električky do Petržalky by mohli premávať už v lete

31.05.2016 18:36

Bratislavský samosprávny kraj dostal posledné chýbajúce stanovisko týkajúce sa električkovej dráhy Šafárikovo námestie – Bosáková.

NATO, Jens Stoltenberg, Belgicko

NATO nechce novú studenú vojnu s Ruskom, tvrdí Stoltenberg

31.05.2016 17:48

NATO si neželá návrat k studenej vojne s Ruskom, povedal v utorok vo Varšave Jens Stoltenberg obhajujúc "pozitívnejšie" vzťahy s Moskvou.

Boris Kollár

Kollár pripustil, že Sme rodina môžu opustiť traja poslanci

31.05.2016 17:42

Predseda strany Sme rodina po kritike svojich poslancov pripustil, že ich možno zo strany pošle preč aj sám.

Euro, peniaze, bankovky, ekonomika, eurofondy

Štát rozbehol tender na terénne úpravy pre Strategický park Nitra

31.05.2016 17:17

Štátna spoločnosť MH Invest, s. r. o. vyhlásila verejnú súťaž na hrubé terénne úpravy pre Strategický priemyselný park Nitra.