Pokus: Inteligentné okuliare možno jednoducho využiť na krádež osobných údajov

Študenti v reálnom čase vysielali video z okuliarov na Instagram, tam ho sledovala umelá inteligencia, ktorá cez verejné databázy hľadala informácie o ľuďoch na ňom a následne im ich cez čet posielala.

11.10.2024 14:23
recon Foto:
Študentom na získanie osobných údajov stačili verejne dostupné zariadenia a technológie.
debata (1)

Dvojica študentov Harvardovej univerzity vytvorila video demonštrujúce ako jednoducho možno získať prostredníctvom inteligentných okuliarov mená, telefónne čísla a adresy ľudí v reálnom čase. Dvojica využila inteligentné okuliare spoločnosti Meta a technológiu rozpoznávania tvá­rí.

A surreal scene representing the streaming of fake Čítajte viac Toto je prvý obrovský podvod s využitím umelej inteligencie pri streamovaní. Muž zarobil 10 miliónov dolárov

Video predvádza použitie nástroja I-Xray. Jeho autormi sú študenti Harvardovej univerzity AnhPhu Nguyen a Caine Ardayfio. Na Nguyenove video ako upozornil technologický portál 404 Media. Podľa The Verge je na celom prípade najdesivejšie využitie v súčasnosti široko dostupných technológií – inteligentných okuliarov Ray-Ban Meta a verejne prístupných databáz.

I-Xray využíva živé vysielanie videa z okuliarov do sociálnej siete Instagram. Prenos zároveň monitoruje počítačový program s umelou inteligenciou (AI), ktorý identifikuje tváre, sníma ich a snímky následne porovnáva s verejne prístupnými databázami, kde vyhľadáva mená, adresy, telefónne čísla a dokonca aj príbuzných. Nájdené informácie cez četovaciu aplikáciu potom posiela späť používateľovi.

Video zachytáva oboch študentov, ako okuliarmi v reálnom čase identifikovali niekoľkých svojich spolužiakov, našli ich adresy a tiež mená príbuzných. Video tiež ukazuje, ako sa Nguyen a Ardayfio v hromadnej doprave prihovárajú úplne cudzím ľuďom a vďaka informáciám získaným okuliarmi predstierajú, že ich poznajú.

Presnosť technológií na rozpoznávanie tvárí je už pomerne dlho veľmi vysoká a I-Xray väčšinou iba spája niekoľko už existujúcich technológií. Čiastočne sa spolieha na softvér na rozpoznávanie tvárí PimEyes. Denník The New York Times ho v roku 2022 označil za „znepokojivo presný“ a „použiteľný hocikým“.

Študenti využili smar okuliare Ray-Ban Meta,... Foto: RayBan
rayban Študenti využili smar okuliare Ray-Ban Meta, ktoré vyzerajú temer ako bežné slnečné okuliare.-

Znepokojenie z technológie na rozpoznávanie tvárí ešte posilnilo zistenie, že umelá inteligencia Clearview ju využíva v prospech bezpečnostných zložiek. Novinkou Nguyenovho a Ardayfiovho pokusu však je využitie technologického zariadenia dostupného širokej verejnosti, ktoré možno používať ľahko a diskrétne.

„Tento nástroj sme nepostavili, aby sme ho zneužili, neplánujeme ho dať verejne k dispozícii,“ uvádzajú študenti v sprievodnom dokumente k projektu. Cieľom bolo upozorniť na fakt, že čosi takéto už nepatrí do predstáv o vzdialenej dystopickej budúcnosti, ale je realitou súčasnej technológie. Autori projektu poukazujú najmä na jedinečnú automatickú činnosť nástroja I-Xray. Umožňujú ju veľké jazykové modely (LLM) spájajúce mená a fotografie z obrovských informačných databáz.

Facebook X.com 1 debata chyba Newsletter
Viac na túto tému: #umelá inteligencia #I-Xray