Ako veľmi významná je umelá inteligencia? O aký veľký míľnik ide? Je to možné k niečomu prirovnať?
Je to obrovská transformačná sila, ktorú by bolo možné prirovnať k priemyselnej revolúcii. To, akým spôsobom umelá inteligencia mení fungovanie nášho života je doposiaľ nepredstaviteľné. Ak by sme to mali k niečomu prirovnať, tak by sme sa mohli pozrieť späť do antiky na dobu, keď by sme mali k dispozícii veľké množstvo sluhov.
Niekto raz povedal, že v dnešnej dobe sme bohatší, než boli králi v stredoveku, ktorí mali knižnice, hudobníkov a podobne. My si teraz môžeme z pohodlia svojho domova prečítať čokoľvek z celého sveta a máme prístup ku všetkým audiovizuálnym záznamom. Generatívna umelá inteligencia nám pomáha vytvárať prezentácie, texty, navrhuje nám nové veci. Ako ľudia sa ju preto budeme musieť naučiť správne využívať.
Je možné umelú inteligenciu prirovnať s príchodom webu či internetu?
Je to ešte niečo väčšie. Keď sme získali prístup k internetu, tak sme získali aj prístup k veľkému množstvu znalostí, ale stále bolo na nás, ako ich spracujeme. Zatiaľ čo s prístupom k veľkým jazykovým modelom a asistenčným systémom to nabralo určitú dynamiku. Napríklad, že informácie už sami nemusíme spracovávať, ale dostávame sa do pozície, kedy na výstupy už len dohliadame a opravujeme ich. To však kladie aj na nás oveľa väčšie požiadavky. Zároveň však žijeme v akejsi ilúzii, že si všetko necháme spracovať umelou inteligenciou. Aby sem tak ale mohli robiť, musíme sa sami zlepšiť, aby sme ju mohli dobre ovládať.
V jednom z rozhovorov pre Rádiožurnál Českého rozhlasu ste vyhlásili, že počítač nikdy nedokáže to, čo človek. Zmenilo sa za tú dobu niečo?
To je veľmi ťažká otázka. Záleží ako budeme definovať, čo dokáže človek a čo je jeho podstatou. Počítače nás v určitých oblastiach prekonávajú. A v čom si myslím, že nás už dobehli, je schopnosť kopírovať od ostatných. Ľudia často používajú skratky a namiesto toho aby boli originálni a niečo si vypracovali sami, tak sa pozrú, skompilujú a zachovajú myšlienky niekoho iného. V tom nás umelá inteligencia dobehla. A možno je už aj trochu pred nami, pretože kompiluje z oveľa väčšieho množstva zdrojov, než ktoré máme sami k dispozícii.
V čom si ale myslím, že nás nedobehla je naša originalita, ktorá pramení z nášho biologického tela a z našich emócií. Ako ľudia máme úplne iné vstupy, než má umelá inteligencia. Ona sa učí z nás, ale my sa učíme z prírody. Napodobňuje, kopíruje a aj keď môže prísť k nejakým novým uzáverom, myslím si, že schopnosť pôvodnej tvorby si zachová len človek.
Aký význam má s nástupom umelej inteligencie, ktorá “myslí” za nás, vzdelanie?
Nemyslím si, že človek, ktorý používa umelú inteligenciu môže vo všetkých ohľadoch konkurovať niekomu, kto prešiel vnútorným rozvojom, pretože vzdelávanie má hodnotu samo o sebe. Tým, že čítate a vzdelávate sa, rozvíjate si mozog, meníte svoju biologickú štruktúru a napokon aj samého seba k niečomu lepšiemu a vyspelejšiemu. A náš celý život je o evolúcii. Ak by sme hodili flintu do žita, aký potom máme ako ľudia zmysel života?
Musíme si uvedomiť svoju spoločenskú zodpovednosť, pretože AI môže vyvíjať ktokoľvek. Táto technológia je prelomová a nanovo rozdá karty. Preto, ako sa postavíme k AI, taká bude. Je na našej zodpovednosti, či necháme umelú inteligenciu vytvárať deepfake videá, falošné správy.
Ľudia sa vďaka umelej inteligencii začnú stávať odborníkmi, lebo sa im vďaka automatizácii uvoľnia ruky. Nie každý sa ale bude chcieť stať odborníkom a nie každý ním aj bude. Prídu títo ľudia o prácu? Ako sa zmení pracovný trh?
Vzdelávanie bude nevyhnutné a ľudia sa tomu nevyhnú. Môžu sa presťahovať niekam na salaš a žiť v prírode bez technológií, ale pokiaľ budú chcieť fungovať v našej spoločnosti, tak to bude rovnaké ako s príchodom počítačov. Kedysi sa každý musel naučiť pracovať so systémom MS DOS, textovým editorom T602, internetom a podobne. A rovnako tak sa ľudia budú musieť naučiť pracovať aj so systémami umelej inteligencie. Pretože ten, kto sa to učiť nebude, ten nebude vôbec konkurencieschopný. Nikto ho nebude chcieť zamestnať, pretože bude oveľa pomalší, jeho výstupy budú menej kvalitné a systém sa o neho takisto nepostará. Ľudia zmenu nemajú radi. Je nám prirodzené zachovávať status quo a nemeniť sa. Ale zmena je nevyhnutná. Takže je potrebné si pripustiť, že tá zmena nastala a že na ňu musím reagovať.
Aké sú riziká automatizácie?
Automatizované systémy dokážu fungovať bez ľudskej kontroly, no napriek tomu existuje priestor pre chyby. Systémy AI sú do určitej miery autonómne, preto majú nejakú slobodu pri rozhodovaní. Môžu byť ale nepredvídateľné. Tým, že sú adaptívne sa tiež menia v čase. Ak ich natrénujeme dnes, v budúcnosti sa môžu zmeniť.
Jeden z četobov, nazývaný Tai, ukázal na negatívne dôsledky ak funguje umelá bez kontroly a učí sa od ľudí. Microsoft pred niekoľkými rokmi na Twitteri spustil četovacieho robota, ktorému dal za úlohu, aby sa učil z konverzácií ľudí a získal čo najviac lajkov, komentárov a vyprovokoval diskusiu. Za 24 hodín sa z tohto robota stala nenávistná, rasistická, xenofóbna, flirtujúca potvora. Ten robot sa totiž naučil, že ľudia najviac reagujú na provokatívne, rasistické a erotické komentáre. Microsoft musel potom četbota rýchlo vypnúť. Na tomto príklade sa ukázalo, ako môže nekontrolovaný systém podporovať v spoločnosti nenávisť a úpadok. Aj kvôli tomu, že automatizácia má svoje riziká je potrebná jej regulácia.
V jednom z rozhovorov ste spomenuli, že pripravovaná európska regulácia môže mať vplyv na celý svet. Kto by však mal umelú inteligenciu regulovať? Mali by to byť štáty alebo firmy samotné?
Ideálna je medzinárodná regulácia. UNESCO prišlo s nezávislými odporúčaniami týkajúcimi sa etiky umelej inteligencie, ktorá je veľmi dôležitá, pretože práve ona určuje čo je správne a čo nie. Podľa toho sa potom nastavujú konkrétne pravidlá. Medzinárodný dohovor pripravila Rada Európy. Tu sa teraz čaká na podpisy a ratifikáciu členskými štátmi tejto medzinárodnej organizácie. A OSN prijalo rezolúciu o podpore bezpečných a dôveryhodných systémov umelej inteligencie Akt o umelej inteligencii z dielne EÚ zmení svet tak, že všetci tí, ktorí budú chcieť ponúkať svoje produkty a služby na európskom trhu budú musieť s ním byť v súlade. Ovplyvní to teda všetkých tých, pre ktorých je trh Európskej únie zaujímavý.
Ako sú na tom s reguláciou iné krajiny mimo EÚ?
Európska únia nie je jediná, ktorá na regulácii pracuje. Pracujú na nej aj Spojené štáty, ale napríklad aj Čína, ktorá už dnes má striktnú reguláciu veľkých jazykových modelov. Pre Čínu je nebezpečné, ak by jazykové modely dávali ľuďom informácie, ktoré sú inak cenzurované.
V inom z rozhovorov ste spomenuli, že umelá inteligencia nám v budúcnosti môže navrhnúť ako vylepšiť samých seba. O niečo podobné sa s mozgovými implantátmi pokúša aj firma Neuralink. Do akej miery sú takéto vylepšenia etické?
V súčasnosti začína prebiehať rokovanie na úrovni UNESCO v súvislosti s odporúčaniami pre etiku v oblasti neurotechnológií – teda prepájania čipov v mozgu, monitorovanie mozgu, vkladanie a vymazávanie spomienok a podobne. To je nová téma, s ktorou sa začíname v poslednej dobe stretávať. Predtým to bola len teória, no dnes to už možné je. Dokonca niektoré štáty v USA už prijali vlastnú legislatívu týkajúcu sa regulácie zaobchádzania s mozgom. Tieto štáty prijali právo na mentálnu integritu, čo znamená, že nám nikto nemal mazať alebo vkladať spomienky.
Pred niekoľkými rokmi zas taliansko-švajčiarski výskumníci navrhli, aby boli prijaté štyri nové základné ľudské práva s ohľadom na fungovanie mozgu. A teraz sa tým UNESCO konečne zaoberá. Takže verím, že veľmi skoro tu budeme mať právnu ochranu pred manipuláciou mozgu. Nemôžeme predsa dopustiť, aby z nás technológie urobili poslušne fungujúcich zombie.
Do koľkých rokov si myslíte, že by sme mohli vidieť u ľudí prvé mozgové implantáty?
Vždy keď dôjde k operáciám ako bola tá pri Neuralinku sa hodnotí, či prínosy prevažujú pred rizikami. Nemalo by teda dochádzať k svojvoľnému vylepšovaniu vlastností, ale skôr k náprave nejakého deficitu. To robil aj Neuralink. Viem si predstaviť, že mladšia generácia bude takýmto vylepšeniam otvorenejšia lebo s podobnými technológiami bude vyrastať. Zatiaľ však pri implantátoch máme v súčasnosti jediný záväzok – neuškodiť si.
Jeden z vašich kolegov na konferencii ITAPA uviedol, že umelá inteligencia nám môže pomôcť predvídať choroby. To však môže byť aj kontroverzné, ak by napríklad predpovedala predčasnú smrť a tým pádom by znemožnila liečbu pacienta a preplatenie zákroku.
Toto určite ľudí rozdelí. Pretože bude skupina ľudí, ktorá bude tvrdiť, že dáta sú dôležité a druhá, ktorá nebude chcieť byť nimi zaškatuľkovaná. Pokiaľ sa však nejaké ochorenie stane konkrétnemu človeku, pud sebazáchovy mu prikáže bojovať o svoj život a nedovolí mu podmaniť sa štatistikám. Môže sa stať, že človek svoj „štatistický“ osud zvráti a na to potom môže spoločnosť takisto poukazovať. Vôbec ale nezávidím niekomu, kto má rozhodovať o tom, či človek prežije alebo nie. Pretože to je aj napriek dátam ako veštenie z krištáľovej gule.
Jednou z vašich obľúbených tém je aj rodová priepasť. Ako môže umelá inteligencia prispieť k tomu, aby sa nožnice pri rodovej nerovnosti ďalej neroztvárali?
Ukazuje sa, že umelá inteligencia má pri pohlaviach veľmi veľa predsudkov. Jedna moja kolegyňa z Oxfordskej univerzity k tomu robila výskum, v ktorom poukázala na tento fenomén pri použití prekladačov. Ak napríklad do prekladača zadáte anglické slovo „doctor,“ preloží vám ho ako doktor, v mužskom rode. Slovo „nurse“ zas ako zdravotná sestra, teda v ženskom rode. To poukazuje na akúsi nerovnosť, čo môže na prvý pohľad pôsobiť úsmevne do doby, kým sa nepozrieme ako to pôsobí na spoločnosť.
Na druhej strane, my sami nevieme ako pri zaistení rodovej rovnosti postupovať, pretože súčasná spoločnosť sa snaží umelo stierať prirodzené rozdiely medzi mužom a ženou. Nechceme si pripustiť, že ak by mala žena robiť baníka, tak by na to nebola fyzicky vhodná. My sme sa ako spoločnosť nezhodli na tom, či by sme mali všetky tieto rozdiely zotrieť a tvrdiť, že sme si všetci úplne rovnocenní. Alebo by sme si mali, naopak, priznať, že v určitých veciach sa líšime a každý máme svoje prednosti a svoje zraniteľné miesta. Musíme preto nájsť ten správny prístup, aby sme sa mohli pozrieť na to, ako využiť umelú inteligenciu, aby bola v súlade s týmto postojom. Takisto sme sa musíme vysporiadať s tým, či by bolo spravodlivé, ak by systémy AI so všetkými ľuďmi zaobchádzali rovnako alebo naopak, či by s každým mali zaobchádzať podľa jeho vlastných potrieb.
Vy máte aj vlastnú firmu, ktorá v oblasti umelej inteligencie podniká. Na čo sa zameriava?
Naša firma sa volá Respectful AI. Volá sa tak preto, aby bolo hneď na prvý pohľad jasné, že systémy AI by mali mať predovšetkým rešpekt voči ľudským právam a ľudským záujmom. Človek musí vždy stáť nad touto technológiou. A primárnou činnosťou našej firmy je, že pomáha firmám v oblasti AI etiky identifikovať za akými hodnotami firma stojí. Firmám takisto pomáhame definovať hodnoty, ktoré vyznávajú, etické kódexy a postoj, aký majú zaujať pri sporných otázkach.
Ako využívate umelú inteligenciu vy?
Na prvom mieste využívam navigáciu, ale zároveň mám na pamäti, že môže vypadnúť signál a spoliehať sa vtedy musím sama na seba. Inak využívam ChatGPT a skúšala som testovať aj iné jazykové modely. Napríklad stránka poe.com ponúka možnosť vyskúšať si rôzne jazykové modely a porovnať ich. Hrám sa takisto s príkazmi a snažím sa vytvoriť si najrôznejšie druhy digitálnych asistentov. Niektorý z nich mi pomáha s vytváraním názvov pre moje prezentácie. Ďalší mi zas pomáha vytvoriť si plán pre určité činnosti. Iný mi pomáha vymyslieť nápady na darčeky. Takisto som testovala generatívnu umelú inteligenciu na vytváranie webových stránok, no bohužiaľ bez väčšieho úspechu. Pomocou AI aj generujem obrázky alebo prekladám texty.
Alžbeta Solarczyk Krausová
Alžbeta Solarczyk Krausová je zakladateľkou a riaditeľkou spoločnosti Respectful AI. Zároveň pôsobí ako vedúca Centra pre výskum inovácií a kyberpráva na Ústave štátu a práva Akadémie vied Českej republiky, je predsedkyňou expertnej platformy a fóra Českej republiky pre monitorovanie právnych a etických pravidiel pre umelú inteligenciu. Je takisto externou lektorkou na Univerzite Karlovej a členkou rozkladovej komisie Úradu pre ochranu osobných údajov. Pôsobila ako členka Expertnej skupiny pre zodpovednosť a nové technológie pre Európsku komisiu, členka siete expertov ONE AI pri OECD a ako expertka za ČR pri vyjednávaní návrhu odporúčaní na etiku umelej inteligencie UNESCO. Podieľala sa na založení platformy České ženy v AI. Vo výskume sa špecializuje na etické a právne aspekty umelej inteligencie, robotiky a prepájania technológií s biologickým životom.
