Spoločnosť Mattel, známa predovšetkým ako výrobca ikonickej bábiky Barbie, oznámila začiatok spolupráce s technologickou firmou OpenAI. Cieľom tohto partnerstva je priniesť na trh hračky s prvkami umelej inteligencie, pričom prvý produkt by sa mal objaviť už do konca tohto roka. Podľa vyjadrení vedenia firmy má ísť o zážitky prispôsobené veku používateľa, pričom dôraz sa má klásť na inováciu, súkromie a bezpečnosť. Napriek týmto uisteniam však nový smer, ktorým sa Mattel vydal, vyvoláva v odbornej verejnosti obavy.
Mattel uvádza, že aj pri využívaní technológií OpenAI si zachová plnú kontrolu nad svojím duševným vlastníctvom. Umelú inteligenciu plánuje nasadiť nielen v samotných produktoch, ale aj v interných procesoch – napríklad pri navrhovaní hračiek, balení alebo marketingu. Technológie ako ChatGPT Enterprise by mali urýchliť vývoj nových nápadov a zároveň zvýšiť konkurencieschopnosť značky.
Čítajte viac Domáci pomocník sa zmenil na nočnú moru. Robotické vysávače pokrikovali rasistické nadávky
Tento zámer však znepokojuje viaceré organizácie venujúce sa právam detí a ochrane súkromia. Robert Weissman, prezident organizácie Public Citizen, otvorene vyzval Mattel, aby od projektu ustúpil. Uviedol, že deti ešte nie sú schopné rozlíšiť, čo je realita a čo hra, čo by mohlo mať vážne dôsledky pre ich vývoj. Obáva sa, že konverzačné hračky imitujúce ľudskú komunikáciu môžu narušiť detskú predstavivosť a znížiť schopnosť vytvárať skutočné medziľudské vzťahy a väzby. Takéto hračky podľa neho vytvárajú ilúziu dôverného vzťahu, ktorý v skutočnosti neexistuje, čím môžu u detí podporiť emocionálnu závislosť na digitálnych entitách.
Tieto obavy sú o to väčšie, že Mattel už má s podobným projektom negatívnu skúsenosť. V roku 2015 predstavila spoločnosť bábiku „Hello Barbie“, ktorá komunikovala s deťmi prostredníctvom nahrávania hlasu a jeho analýzy na serveroch v cloude. Tento produkt však narazil na tvrdú kritiku zo strany rodičov aj odborníkov na kybernetickú bezpečnosť, keďže zhromažďovanie hlasových údajov detí predstavovalo závažné riziko zneužitia. Po medializovaní prípadov možného úniku dát bola bábika v roku 2017 stiahnutá z predaja.
Aktuálne plány Mattelu preto vyvolávajú množstvo otázok, najmä pokiaľ ide o spracúvanie osobných údajov neplnoletých používateľov. Právnici upozorňujú, že využitie umelej inteligencie v hračkách môže byť v rozpore so zákonmi na ochranu súkromia, vrátane európskeho nariadenia GDPR či amerického zákona COPPA. Nie je pritom jasné, ako bude spoločnosť zabezpečovať, aby konverzácie neboli uchovávané, analyzované alebo použité na trénovanie ďalších modelov umelej inteligencie.
Čítajte viac Muskova AI Grok šírila konšpiračné teórie o „bielej genocíde“ v Južnej Afrike. Bude AI nástrojom dezinformácií?
Mattel sa síce bráni tvrdením, že nové technológie implementuje zodpovedne a s dôrazom na ochranu detského súkromia, no odborníci zostávajú skeptickí. Hoci spoločnosť tvrdí, že sa sústredí na používateľov vo veku nad 13 rokov, kritici upozorňujú, že aj tínedžeri sú citliví na emocionálne väzby a že umelá inteligencia môže v ich vnímaní ľahko získať podobu blízkej osoby. Vekové obmedzenia zároveň nedokážu úplne zabrániť prístupu mladších detí k takýmto hračkám, najmä ak sú dostupné v domácnostiach so súrodencami.
Projekt AI Barbie tak balansuje na tenkej hranici medzi technologickým pokrokom a etickým rizikom. Na jednej strane môže ísť o začiatok novej éry interaktívnych hračiek, ktoré podporujú kreativitu a komunikáciu, na druhej strane však hrozí zásah do psychického vývoja detí, narušenie súkromia a vytvorenie falošného vzťahu medzi dieťaťom a neživou entitou. Odpoveď na otázku, či sa tento krok ukáže ako prelomový alebo neuvážený, prinesie až prax – a predovšetkým reakcia rodičov, odborníkov a regulačných úradov.