Vedci vyvinuli umelú inteligenciu, ktorá môže šíriť falošné správy

Poplašné správy v budúcnosti nemusia šíriť len ľudia, ale na ich tvorbe sa môže spolupodieľať aj umelá inteligencia. Naznačujú to vedci z výskumného inštitútu OpenAI.

15.02.2019 15:40
umelý mozog, umelá inteligencia, počítačový... Foto:
Ilustračné foto
debata

S falošnými či poplašnými správami sa stretol snáď každý. Určite aj vy ste neraz zostali na pochybách či to, čo práve čítate, je fiktívna alebo skutočná správa. Za tvorbou správ, ktoré majú človeka prinajmenšom zmiasť, sú zatiaľ len ľudia. V budúcnosti tomu tak ale byť nemusí. Vedci z inštitútu OpenAI v San Franciscu zverejnili štúdiu o využití strojového učenia pri tvorbe systému schopného pracovať v prirodzenom jazyku. Ak by k tomu došlo, systém by mohol byť použitý napríklad aj na tvorbu veľmi presvedčivých falošných správ, píše server BBC.

Falošné správy, ktoré pôsobia dôveryhodne

Podľa OpenAI takýto systém dokáže vytvárať veľmi konzistentné články prakticky k akejkoľvek téme. Strojové učenie pritom dokáže takéto články vytvárať aj bez zásahu človeka, a teda nemusí byť špeciálne trénované. Texty potom vytvára kombináciou dát z približne ôsmich miliónov stránok. Úlohou vedcov bolo len určiť systému typy zdrojov, z ktorých má informácie čerpať. Určili mu napríklad, že má čerpať zo zdrojov zdieľaných na serveri Reddit, a to len takých, ktoré majú hodnotenie 3 body a viac. To v prípade Reddit znamená, že minimálne traja ľudia tento zdroj označili za relevantný alebo kvalitný. “toto môže byť heuristickým indikátorom toho, či ostatní užívatelia tento zdroj považujú za zaujímavý, náučný alebo len vtipný,” píše sa v štúdii.

Umelá inteligencia následne z viacerých zdrojov poskladá vlastný text, ktorý napíše slovo po slove. Text je síce veľmi konzistentný, no málokedy je jeho výsledkom pravdivá informácia. Dôležité pritom je však to, že spôsob, akým je text prezentovaný môže naozaj u neinformovaného čitateľa vyvolať dojem, že správa sa zakladá na pravde.

© Autorské práva vyhradené

debata chyba
Viac na túto tému: #umelá inteligencia #AI #strojové učenie