Experti bijú na poplach: Umelá inteligencia môže skončiť v nesprávnych rukách

22.02.2018 12:59

Medzinárodní experti bijú na poplach pred možnosťou zneužitia umelej inteligencie zo strany "kriminálnikov, teroristov či zločineckých štátov". Stostránkovú správu, ktorá bola zverejnená v stredu, napísalo 26 odborníkov na umelú inteligenciu, kyberzločin a robotiku vrátane expertov z univerzít (Cambridge, Oxford, Yale, Stanford) a z neziskového sektora (spoločnosti ako OpenAI, Stredisko pre novú americkú bezpečnosť či Electronic Frontier Foundation).

V správe píšu, že v nasledujúcich desiatich rokoch by mohla zvyšujúca sa efektívnosť umelej inteligencie posilniť počítačovú kriminalitu a teroristi by mohli viac využívať drony či roboty. Odborníci tiež spomínajú možnosť ľahšej manipulácie volieb na sociálnych sieťach pomocou takzvaných internetových botov, čo sú počítačové programy, ktoré pre svojho majiteľa opakovane vykonávajú nejaké rutinné činnosti.

Títo odborníci vyzývajú vlády a ďalšie vplyvné skupiny na obmedzenie týchto možných hrozieb. „Domnievame sa, že útoky, ktoré by ľahší prístup k umelej inteligencii mohol umožniť, budú obzvlášť účinné, presne cielené a ťažko odhaliteľné,“ píše sa v správe.

Odborníci zmieňujú aj niektoré „hypotetické možnosti“ zneužitia umelej inteligencie. Teroristi by napríklad mohli prispôsobiť systémy umelej inteligencie používané napríklad v drone či autopilotných dopravných prostriedkoch pre vyprovokovanie zrážok a výbuchov.

Počítačová kriminalita môže vzrásť

Odborníci pripomínajú i možnosť zneužitia napríklad upratovacieho robota v nejakom úrade, ktorý by sa mohol dostal medzi iné roboty, ktoré pripravujú napríklad jedlo. Takýto robot votrelec by potom mohol pomocou výbušniny zaútočiť na nejakého úradníka potom, čo by ho identifikoval.

Podľa jedného z autorov správy a riaditeľa strediska z Cambridgeskej univerzity Seána Ó hÉigeartaigha by sa mohla „s väčším zneužitím umelej inteligencie zvýšiť najmä počítačová kriminalita“.

Väčší záber by mohli predstavovať aj útoky pomocou tzv. Spear phishingu, čo je falošná technika používaná na internete na získavanie citlivých údajov (útočník zasiela e-mail konkrétnej osobe; pre tradičný phishing je typické rozoslanie obrovského množstva mailov).

Zneužitie aj v politike?

Veľké nebezpečenstvo vidí Seán Ó hÉigeartaigh „v možnom zneužití umelej inteligencie v politike“. „Už sme zažili, ako sa jednotlivci či skupiny snažili zasahovať pomocou internetu do demokratických volieb,“ pripomína a dodáva: „Ak umelá inteligencia umožní, aby boli tieto útoky silné, jednoduché na zopakovanie a zložité na odhalenie, mohlo by to znamenať veľký problém pre politickú stabilitu. “

Umelá inteligencia by mohla slúžiť napríklad aj na výrobu falošných a veľmi realistických videí, ktoré by potom mohli byť použité na diskreditáciu politických činiteľov. Do rozvoja umelej inteligencie by sa mohli zapojiť aj niektoré autoritárske štáty, ktoré by potom mohli s jej pomocou ľahšie sledovať svojich občanov.

Varovali Hawking aj Musk

Nie je to prvýkrát, čo sa označuje možné zneužitie umelej inteligencie. V roku 2014 pred tým varoval známy astrofyzik Stephen Hawking, ku ktorému sa v poslednom čase pridal treba podnikateľ Elon Musk a ďalší. Zverejnené boli aj správy napríklad o možnom užívaní zabijáckych dronov.

Táto nová správa prináša „nový pohľad na časť umelej inteligencie, ktorá by mohla priniesť nové hrozby alebo zmeniť existujúce hrozby v oblastiach počítačovej, politické i ľudskej bezpečnosti“.

Ešte je čas konať

Umelá inteligencia, ktorá sa objavila v 50. rokoch 20. storočia, je odbor informatiky zaoberajúci sa tvorbou strojov vykazujúcich známky inteligentného správania. V posledných rokoch sa dosiahol pokrok v oblastiach napríklad vnímania, hlasového rozoznávania či obrazovej analýzy.

„V súčasnosti ešte existuje rozdiel medzi rýchlosťou výskumu a možnými aplikáciami noviniek. Ešte je čas konať,“ hovorí vedec z Oxfordskej univerzity Miles Brundage. Práve na jeho pracovisku začala táto správa vznikať.

„Na zmiernenie týchto hrozieb by mali spolupracovať vedci na umelú inteligenciu, vývojári robotov a dronov aj regulačné orgány a politici,“ hovorí Seán Ó hÉigeartaigh,

#riziká #umelá inteligencia
Sleduj najnovšie články na našom Facebooku
Ponuky zo Zľavy.Pravda.sk