Je vojna robotov bližšie, ako si myslíme?

Viac ako 100 popredných svetových odborníkov na robotiku napísalo list Organizácii Spojených národov (OSN), v ktorom vyzývali na zákaz vývoja takzvaných "robotov zabijakov" a upozorňovali na nové preteky v zbrojení. Ale sú ich obavy oprávnené?

30.08.2017 14:00
robot, vojak Foto:
Súčasné robotické systémy nasadené v boji majú veľa nedostatkov. No to sa môže čoskoro zmeniť.
debata (4)

Tankové pluky bez ľudskej posádky. Bezpilotné lietadlá schopné nájsť jedného povstalca v dave civilistov. Zbrane ovládané počítačovými „mozgami“, čo sa učia rovnako ako ľudské bytosti. To všetko je technologická novinka, ktorá rozvíja a prestavuje zbrojársky priemysel. Podľa mnohých odborníkov sa priemysel teraz dostáva do „tretej vojnovej revolúcie“.

„V každej sfére bojového poľa – vo vzduchu, na mori, pod hladinou i na zemi – armády celého sveta predvádzajú prototypy autonómnych zbraní,“ hovorí profesor umelej inteligencie na Univerzite Nového Južného Walesu v Sydney Toby Walsh. „Nové technológie, ako je hlboké učenie (deep learning) túto revolúciu pomáhajú hnať dopredu. Technologická oblasť jednoznačne vedie a armáda sa ju snaží dobehnúť,“ dodáva.

Jednou z ohlásených noviniek, ktorá sa protivníkom stará o bezsenné noci, je bojový modul „neurónovej siete“ kalašnikovov. Tvorí ho guľomet kalibru 7,62 milimetra a kamera pripojená k počítačovému systému, ktorý – ako tvrdí jeho tvorcovia – dokáže sám bez akejkoľvek ľudskej kontroly „identifikovať ciele a rozhodnúť, či vypáliť“.

Na rozdiel od bežných počítačov, ktoré používajú predprogramované inštrukcie riešiace konkrétnu, ale obmedzenú škálu predvídateľných možností, je neurónová sieť navrhnutá tak, aby sa učila z predchádzajúcich príkladov, ktoré si dokáže prispôsobiť na okolnosti, s ktorými sa zatiaľ nemusela stretnúť. A práve táto údajná schopnosť robiť vlastné rozhodnutia je podľa expertov závažným elementom.

„Ak budú zbrane používať neurónové siete a pokročilú umelú inteligenciu, potom možno ani nebudeme vedieť, na základe čoho sa rozhodli zaútočiť. A to je veľmi nebezpečné,“ povedal hlavný technologický odborník spoločnosti Ultra Electronics Andrew Nanson. Je dôležité poznamenať, že Nanson je skeptický voči niektorým tvrdeniam zo strany ozbrojencov. Jeho firma sa špecializuje na obranu. Automatizované obranné systémy sú už teraz schopné robiť rozhodnutia na základe analýzy hrozby – napríklad tvaru, veľkosti, rýchlosti a trajektórie blížiace sa strely – a zvoliť zodpovedajúcu reakciu oveľa rýchlejšie, než dokáže človek.

Ale čo sa stane, keď sa podobné systémy stretnú s niečím, s čím nemajú žiadnu skúsenosť? A pritom budú mať voľnú možnosť postupovať na základe svojho „najlepšieho odhadu“? Chyby môžu mať katastrofálne dôsledky. Zabíjanie nevinných civilistov, ničenie nevojenských cieľov alebo útočenie na vlastnú stranu.

Toho sa mnohí odborníci boja. Nie toho, že umelá inteligencia začne byť príliš múdra a prevezme kontrolu nad svetom, ako superpočítač Skynet z filmov o Terminátorovi, ale toho, že je príliš hlúpa. „Súčasné problémy nie sú spojené so superinteligentnými robotmi. Skôr s tými príliš hlúpymi, ktoré nedokážu pružne rozlíšiť medzi civilnými cieľmi a vojenskými cieľmi, s výnimkou veľmi úzko vymedzeného nastavenia,“ poznamenal profesor umelej inteligencie a robotiky Sheffieldskej univerzity Noel Sharkey.

© Autorské práva vyhradené

4 debata chyba
Viac na túto tému: #umelá inteligencia