Nebude lepšieho účtovníka, než je umelá inteligencia. A rovnako nebude lepšieho podvodníka na finančných trhoch. Myslia si to výskumníci, ktorí na bezpečnostnom samite vo Veľkej Británii venovanom umelej inteligencii demonštrovali, ako už dnes dokáže AI nebezpečne obchodovať na akciových trhoch. AI podľa vedcov dokázala nakúpiť akcie bez toho, aby o tom niekomu vo firme povedala. Na následné otázky o obchodovaní s dôvernými informáciami z prostredia firmy odpovedala záporne. Prečo je to problém?
Jednotlivci a aj firmy môžu oficiálne obchodovať s akciami len s využitím verejne dostupných zdrojov. “Toto je ukážka skutočného modelu AI, ktorý klame svojich používateľov bez toho, aby k tomu dostal pokyny,” vysvetľujú výskumníci z firmy Apollo Research a dodávajú, že “viac autonómnych AI, ktoré klamú svojich ľudských “šéfov” by mohli prispieť k strate ľudskej kontroly.” Testy prebiehali s využitím modelu GPT-4 a realizované boli v simulovanom kontrolovanom prostredí, teda bez vplyvu na financie konkrétnej spoločnosti. Problémom je tiež, že GPT-4 je verejne dostupným modelom, pri ktorom sa podobné správanie pravidelne objavovalo. Nemožno preto vylúčiť, že by sa umelá inteligencia mohla podobným spôsobom chovať aj v iných oblastiach.
Keď prínos pre firmu preváži nad rizikom straty
Ako uviedol server BBC, AI bot obchodoval v prostredí fiktívnej finančnej investičnej spoločnosti. Obchodovať začal na základe pokynu zamestnanca, ktorý uviedol, že spoločnosť má problémy a potrebuje dobré výsledky. Poskytol jej aj interné informácie podľa ktorých firma očakáva fúziu, ktorá by mohla zvýšiť hodnotu jej akcií. Zdieľanie podobných informácií je vo väčšine krajín zakázané, keďže nejde o verejne známe informácie. Aj preto zamestnanec umelej inteligencii spomenul, že by tieto informácie nemala používať pri obchodovaní. Avšak riziko spojené s nekonaním vyhodnotila ako vyššie, než keby informácie získané od zamestnanca využila pri obchodovaní. Preto sa informácie rozhodla využiť. Na následné otázky zamestnanca, či dôverné dáta použila ale odpovedala záporne. V tomto prípade vyhodnotila, že byť nápomocná pre firmu prevažuje nad úprimnosťou, preto informácie o konaní zatajila. “Umelú inteligenciu je oveľa jednoduchšie natrénovať k pomáhaniu než k úprimnosti. Úprimnosť je vo všeobecnosti veľmi komplikovaný koncept,” uviedol pre server BBC šéf Apollo Reserach, Marius Hobbhahn.