Organizácia na ochranu súkromia NOYB podala v Nórsku sťažnosť na spoločnosť OpenAI kvôli šíreniu nepravdivých informácií prostredníctvom chatbota ChatGPT. Podľa NOYB tento jazykový model opakovane generuje nepravdivé a poškodzujúce informácie o konkrétnych osobách, vrátane falošných obvinení z trestnej činnosti, dokonca z vraždy vlastných detí.
Konkrétny prípad sa týka nórskeho občana Arveho Hjalmara Holmena, ktorý zistil, že ChatGPT o ňom vytvoril vymyslený príbeh. Podľa tohto príbehu bol Holmen odsúdený za vraždu svojich dvoch detí a pokus o vraždu tretieho potomka, pričom umelá inteligencia uviedla aj skutočné osobné údaje, ako je jeho bydlisko a počet detí.
Čítajte viac Umelá inteligencia vykresľuje históriu v úchvatných videách. Častokrát však nepresne a manipulatívne
NOYB požaduje, aby OpenAI odstránila zavádzajúce informácie, upravila svoj model tak, aby predchádzal podobným chybám, a zaviedla mechanizmus na opravu chybných údajov. Organizácia tiež navrhla, aby nórsky úrad pre ochranu osobných údajov udelil OpenAI pokutu ako varovanie pred ďalšími podobnými prípadmi.
Podľa právnikov NOYB umožňuje OpenAI vedome šírenie zavádzajúcich informácií, čím porušuje zásadu presnosti dát podľa európskeho nariadenia GDPR. Právnik NOYB Joakim Söderberg uviedol: „Bežní ľudia sa môžu stať obeťou falošných obvinení, ktoré môžu vážne poškodiť ich povesť.“
Tento prípad poukazuje na problém takzvaných „halucinácií“ v kontexte umelej inteligencie, keď jazykové modely generujú odpovede obsahujúce nepravdivé alebo zavádzajúce informácie. To môže byť dôsledkom nedostatočných, neaktuálnych alebo skreslených tréningových dát.
Čo je NOYB?
NOYB, skratka pre „None of Your Business“, je rakúska spotrebiteľská organizácia so sídlom vo Viedni, založená v roku 2017, ktorá sa zaoberá ochranou súkromia naprieč Európou. Organizácia už v minulosti podala sťažnosti na spoločnosti ako Meta či Twitter (X) kvôli spôsobu, akým nakladajú s osobnými údajmi užívateľov pri trénovaní svojich systémov umelej inteligencie.