Počítače sú hlúpe. A je to nákazlivé

02.02.2013 06:00
David Auerbach
David Auerbach najskôr pracoval ako softvérový inžinier. Dnes je publicista, ktorý píše o knihách a technológiách. Autor: ,

Šesť rokov pracoval pre Microsoft, ďalších päť pre Google. Dnes žije Američan David Auerbach vo svojom newyorskom byte obklopený tisíckami kníh a ako publicista píše aj o hlúposti počítačov.

Na stretnutí počas Stredoeurópskeho fóra 2012 Pravde porozprával, prečo si myslí, že obmedzenosť počítačov je choroba, ktorá sa prenáša aj na človeka. Naznačil, že anonymita na internete nemusí zákonite produkovať nonsens. A vyjadril nádej, že nová digitálna generácia nebude o nič hlúpejšia ako generácia televízie, rádia či kníh.

Vo svojej eseji o hlúposti (v origináli The Stupidity of Computers, vyšla vlani v literárnom magazíne n+1) píšete o príklade, keď už v roku 1989 počítač oklamal človeka a navodil zdanie umelej inteligencie. Chatujúci univerzitný študent uveril, že program MGonz je živá osoba…

Áno, to je pravda. Počítačový expert Mark Humphrys vtedy vlastne vytvoril úplne primitívny chatovací program. Nielenže ním oklamal istého študenta Drake University, on z neho dokonca vypáčil intímne priznanie. Myslím, že najlepšie bude, keď čitateľom ponúknete celý prepis ich konverzácie: mgonz: kedy si mal naposledy sex? študent: včera mgonz: ok a teraz naozaj – kedy si si naposledy užil? študent: veď som ti povedal, že včera mgonz: určite si obyčajný chudák mgonz: ok a teraz naozaj – kedy si si naposledy užil? študent: ok, ok, bolo to pred viac ako 24 hodinami. ale ty si to určite nemal aspoň 20 rokov

Je takýto počítač hlúpy?

Počítače už v minulosti dosiahli určité úspechy v tom, že pôsobili inteligentne. Ale len s pomocou podvádzania, ako v tomto prípade. Ten chatovací program nemal potuchy, čo hovorí druhá strana. Uspel preto, že simuloval ľudské vlastnosti ako hrubosť, oplzlosť, podozrievavosť. S dnešným obrovským množstvom dát, ktoré by mohli mať podobné programy k dispozícii, by zrejme počítače vedeli podvádzať ešte oveľa dlhšie a dômyselnejšie. V súčasnosti je možné vytvoriť naozaj fantastickú simuláciu umelej inteligencie. Navyše, čím má program k dispozícii lepšie nakŕmenú databázu, tým je tá simulácia uveriteľnejšia. Pracujete napríklad s prekladačom Google Translate?

Áno.

Ako ste spokojný s prekladmi do slovenčiny?    

Nie veľmi. Určite by mi ani nenapadlo, že ten text písal, respektíve prekladal nejaký človek.

Je to tým, že slovenčina nemá v systéme takú slovnú databázu ako oveľa používanejšia angličtina. Pri angličtine je preklad bližší tomu, ktorý by vám pripravil živý tlmočník. Problém vidím v tom, že niektorí ľudia považujú zlepšujúcu sa presnosť prekladu Google Translate za zvyšujúcu sa inteligenciu systému. A pritom vidíte, že ten istý systém s menšou databázou pôsobí oveľa hlúpejšie ako iný, ktorý je iba lepšie „nakŕmený“.

Asi si teda nemyslíte, že sme na ceste k vývoju umelej inteligencie.

Aj vo svojej eseji spomínam viaceré pokusy, ktoré sa snažili naučiť počítače sémantike, teda porozumeniu významu slov a ich vzťahov. Jeden z takýchto neúspešných projektov bol vyhľadávač Ask Jeeves. Služba, ktorá vznikla v roku 1996, mala odpovedať na reálne otázky užívateľov namiesto toho, aby vyhľadávala len kľúčové slová, ktoré zadajú. Úspech však nezaznamenala. V polovici 90. rokov prebiehali aj iné pokusy, ako zlepšiť výsledky vyhľadávania, aby sa stránky zobrazovali podľa dôležitosti.

Myslíte Google?

Áno, jeho zakladatelia Sergej Brin a Larry Page vytvorili systém, ktorý triedi poradie, a teda význam vyhľadaných stránok podľa počtu odkazov z iných webov, podľa dôležitosti odkazujúcich portálov či podľa toho, ako často sa kľúčové slovo na danej stránke opakuje. Táto analýza však stále nie je priučením stroja sémantike. Počítač nechápe význam výrazov ani ich skutočných vzťahov. Kľúčové slovo „Sergej Prokofiev“ je pre vyhľadávací program v istom zmysle to isté ako „ťažba selénu“. Takže ide znova len o simuláciu inteligencie. Aj na základe svojich pracovných skúseností, keďže som sa sám podieľal na vývoji vyhľadávača Google, som teda skeptický, že by sa v tomto smere mali veci pohnúť vpred. Že by sme dokázali vytvoriť skutočnú premýšľajúcu umelú inteligenciu.

Pripustime teda, že počítače nie sú schopné premýšľania, a teda sú hlúpe. Ako sa to však dotýka nás? 

Napríklad tak, že priveľmi veríme inteligencii riešení postavených na veľkých databázach. Že začíname žiť podľa kategórií tak ako počítače. Ich hlúposť sa začína stávať našou.

V praxi sa to už deje?

Jednou analógiou môže byť štandardizované testovanie študentov u nás v Spojených štátoch. Viera v inteligenciu kategórií a databáz zasiahla v podstate celé naše školstvo. Len na základe toho, akú bublinku v teste so štyrmi odpoveďami žiak vyfarbí ceruzkou, hodnotia jeho samého, jeho učiteľov, jeho školu… Mnohí ľudia veria, že je to tak správne a neuvedomujú si, že je to vlastne len hodnotenie jedného aspektu jeho schopností – ako žiak vie odpovedať na jednom konkrétnom type testu.

Týka sa to len testov?

Nie, jeden príklad, ktorý rozoberali aj v televízii, v rámci programu Wire, napríklad poukázal na to, ako školy dbajú na dochádzku. Sledovali ju len do momentu, do toho dňa, kým naplnili štandardizované kvóty, ktoré im zaručia financie. Potom im bola dochádzka žiakov už celkom ukradnutá. Život podľa týchto databázových kategórií, to je podľa mňa presne tá forma zadubenosti, ktorá sa z počítačov preniesla na ľudí. 

Je problémom zjednodušovanie?

Aby nám hlúpe počítače rozumeli, naučili sme sa viac zjednodušovať, kategorizovať. Lenže my to zjednodušovanie a kategorizovanie prenášame aj do nášho reálneho života, čo je jedna z najnebezpeč­nejších foriem stupidity, ktorým dnes čelíme.

Zjednodušujeme, lebo sme leniví?

Lenivosť nikdy netreba podceňovať. Ale lenivosť nie je len nedostatok snahy. Lenivosť je aj túžba po tom, aby veci boli jednoduché. Komplexnosť je vždy výzvou. Aby sme ju dosiahli, treba tvrdo pracovať a je v podstate aj desivá. Ale ísť len cestou zjednodušovania? Pozrite sa napríklad, kam viedli niektoré skratky v ekonomike. Podľa mňa je arogantné, keď sa snažíme na základe generalizovania predpovedať správanie sa celej populácie. Nehovorím, že žiadne zjednodušovania nefungujú. Napríklad predvolebné prieskumy môžu byť relevantné, lebo do databázy vkladáme len odpoveď na jednu otázku – koho budete voliť? Ale kvantifikovať na základe jednoduchých premenných nákupné správanie masy? To je riziko a drzosť. Ale ľudia to stále robia. A pomáhajú im v tom počítače.

Ako veľmi sme už systému kategórií uverili?

Poviem vám jeden príklad. U nás v Spojených štátoch je veľmi populárna online zoznamka OkCupid. Človek o sebe vyplní množstvo údajov, ktoré program roztriedi do kategórií a na základe istého algoritmu vyberie záujemcovi ideálneho partnera. Služba sa chváli tým, že páruje ľudí na základe ich pováh. Raz sme to zo žartu vyskúšali so ženou. Samozrejme, dávno po tom, čo sme sa vzali. A vyšlo nám, že sme úplne nekompatibilný pár. Keďže som napríklad o sebe napísal, že som tvrdohlavý, systém mi vyhľadával iba ženy, ktoré explicitne napísali, že sú tolerantné. Mnohí ľudia však systému uverili. Služba má navyše vlastný blog, kde údaje z kategórií publikuje a vytvára tak rôzne domnienky. Ako napríklad, že ázijské ženy majú rady čokoládu, vegetariáni sú prístupnejší orálnemu sexu alebo že bieli muži radi počúvajú Van Halen. To, že takýmto kategóriám ľudia veria, ma znepokojuje. Podľa mňa je však ešte horšie, keď si rovnaký systém prisvojí celá spoločnosť. Respektíve ľudia, ktorí majú dosah na rozhodovanie o školstve, ekonomike…

To, že ľudia na vysokých miestach môžu rozhodovať podľa nesprávne vyhodnotených dát, je iste znepokojujúce. Nie je však desivé už len to, že majú k dispozícii kvantum dát prakticky o každom bežnom užívateľovi internetu?

A tiež, že ľudí už dlhšie takmer vôbec nezaujíma, kto od nich tieto informácie pýta. A kde všade. To nie je len Facebook, profil na Google. Aj cez obyčajné vernostné karty obchody vedia, čo nakupujete. A ľudia si to vôbec neuvedomujú. Isteže, momentálne zberačov dát väčšinou nezaujíma ani tak vaše meno, vaša identita. Oni potrebujú vedieť, že napríklad vy – biely dvadsiatnik – spravíte priemerný nákup za toľko a toľko eur a do košíka pridáte oveľa častejšie niečo z oddelenia elektroniky ako domácich potrieb. Problémom však je, že tieto ohromné dáta sú už dnes kdesi zhromaždené. Aby boli raz zaujímavé aj inak, stačí k nim priradiť vašu fotografiu a meno. Čo je najmenej.

Môže ísť zmena k lepšiemu ruka v ruke – že si ľudia uvedomia potrebu súkromia, a tým sa ich virtuálny aj skutočný život začne menej deliť do škatuliek kategórií?

Ja si myslím, že je to už rozbehnutý vlak. Boli síce momenty, keď napríklad Facebook výraznejšie prekročil hranicu súkromia – a ľudia zareagovali a povedali hlasné nie, ktoré malo efekt. Veľké portály sú aj preto dnes opatrnejšie, ale to absolútne neznamená, že dáta nezbierajú. Len to tak ľuďom nevyhadzujú na oči. A nie je to zďaleka len Facebookom. Myslím si, že aj keby táto služba neexistovala, proces zberu dát by jestvoval. Je ťažké predpovedať, ako to bude postupovať. Ale viem, že niektorí ľudia majú dnes tendencie nespájať žiadne aktivity na internete so svojím skutočným menom.

Anonymitu na internete zase napádali na diskusii v rámci Stredoeurópskeho fóra vaši spolurečníci, spomeňme slovinského spisovateľa Draga Jančara či maďarského publicistu a aktivistu Miklósa Harasztiho. Tvrdili, že by sa tým degradovala kvalita informácií na internete.

Predovšetkým chcem povedať, že ľudstvo nezažilo nejakú zlatú éru informácií, keď by boli masy dobre informované. Inteligentná diskusia bola v histórii ľudstva tiež skôr raritou. Preto si nemyslím, čo sa informovanosti týka, že internet by nás robil stupídnymi. Ale ani to, že nás z hlúposti vylieči.

A sledujete napríklad anonymné diskusie na webe?

Áno, ale s nimi to tiež nie je celkom tak, ako sa mnohí domnievajú. Minulý rok sa napríklad robil jeden výskum porovnávajúci diskusie, v ktorých ľudia vystupovali pod vlastným menom, a rozpravy, kde ľudia mohli písať pod pseudonymom, prípadne nemuseli napísať žiadne meno ani k ich účtu nebolo vedené žiadne hodnotenie či karma, čo by im po zlých príspevkoch uberala na vážnosti. Podiel inteligentných príspevkov bol, samozrejme, vyšší v neanonymnej diskusii. Ale rozhodne to nebolo, ako porovnávať noc s dňom. Anonymné diskusie na tom boli len o trochu horšie. Preto si ja osobne nemyslím, že deliaca čiara medzi inteligenciou a stupiditou na webe by sa prekrývala s tou, ktorá oddeľuje anonymných prispievateľov od tých, ktorí sa vyjadrujú pod skutočným menom. Tie dve hranice podľa mňa neležia ani nejako blízko seba.

Takže hlúposťou je najmä to, keď človek príliš uverí inteligencii technológií?

Určite by som to nepovedal takto. Niektorí ľudia veria v technológie málo, iní príliš. Podľa mňa je predovšetkým dôležité mať na pamäti, že nevieme, čo s nami technológia spraví a ako bude napredovať. Preto by sme mali ostať kritickí. A v tomto je internet veľmi užitočný. Vďaka nemu majú totiž ľudia prístup k viacerým pohľadom na svet. V Spojených štátoch tento posun nastal s príchodom blogov, ktoré naozaj poskytli lepší rozhľad každému, kto mal záujem o širší kontext.

Rozprávali sme sa o hlúposti počítačov. Na internete kolovalo jedno video, na ktorom malému dieťaťu najskôr dávali čítať časopis na tablete, kde sa jednotlivé obrázky hýbali, občas sa spustil nejaký zvuk. Keď dieťaťu následne tablet vzali a dali skutočný magazín, bolo zmätené a nešťastné. Bude táto generácia negatívne ovplyvnená hlúpymi počítačmi?

Nebojím sa, že by ďalšia generácia bola hlúpa či hlúpejšia. Napokon, strach z technológií tu bol vždy, od vynálezu kníhtlače, cez rozšírenie televízie, ľudia vždy hovorili, že tá nová vec z nás spraví idiotov. A ja si nemyslím, že ľudia pred érou televízie boli múdrejší. Keď ste však spomenuli príklad s bábätkom a tabletom, obávam sa napríklad toho, ako technológie ovplyvnia kognitívne schopnosti digitálnej generácie. Ja sám mám ročnú dcérku a tablet mala v rukách iba raz – keď sme boli v lietadle a spravil by som asi čokoľvek, aby bola aspoň chvíľu spokojná a potichu. (smiech)

Možno technológie ovplyvnia štýl, akým nadobúdajú mladí poznatky, ale zrejme tiež vychovajú generáciu multitaskerov – ľudí, ktorí sú zvyknutí vykonávať viac činností naraz…

Dobre, že spomínate práve multitasking. Ja mám 35 rokov a sledujem, že posledných desať rokov moja schopnosť sústrediť sa na viac činností naraz stále klesá. Pritom sa určite nedá povedať, že by som menej pracoval na počítači, skôr naopak. Ťažšie sa mi reaguje na viaceré stimuly a myslím si, že to ide s vekom. Práve preto som zvedavý, ako sa bude v tomto smere prispôsobovať mladá generácia, ktorá v digitálnom svete vyrastá od perinky. Ľudský mozog má enormnú schopnosť prispôsobovať sa. Nebojím sa preto, že by ďalšia generácia bola menej bystrá, skôr som zvedavý, v čom bude iná.

Takže nehrozí, že by uverila umelej inteligencii novodobého MGonza, ako študent v roku 1989? Veď napríklad niektorí hlasoví asistenti v smartfónoch skladujú databázu predchádzajúcich požiadaviek, aby vedeli odpovedať presne na mieru svojmu majiteľovi. To môže byť mätúce…

Pre mňa ako vyštudovaného počítačového inžiniera je ťažké to hodnotiť, keďže viem, ako daný systém funguje. Na mňa by to nezabralo. Ak ľudia uveria v umelú inteligenciu, tak podľa mňa skôr na pocitovej báze ako racionálnej. Veď napríklad v Japonsku si vedia vytvoriť vzťah aj k robotickému psovi. Prečo by ľudia v budúcnosti nemohli mať puto k dátami dokonale nakŕmenému stroju? Viete – city sú zvláštna vec.

David Auerbach (35)

  • americký publicista, ktorý píše o knihách a technológiách, jeho články a eseje vyšli napríklad v literárnych magazínoch Times Literary Supplement, n+1, Bookforum, Triple Canopy, The Quarterly Conversation
  • vyštudoval za počítačového inžiniera na Yale University, viac ako šesť rokov sa podieľal na vývoji chatovacej služby v Microsofte, takmer päť rokov pomáhal vyvíjať vyhľadávanie v Google
  • publikuje aj na vlastnej stránke Waggish, je držiteľom štyroch patentov, okrem iného za vylepšenie spôsobu vyhľadávania v priečinkoch či za prenos médií cez internet

© AUTORSKÉ PRÁVA VYHRADENÉ

Sleduj najnovšie články na našom Facebooku