Nie je to tak dávno, čo spoločnosť Google čelila kritike kvôli nenápadnej integrácii technológie SafetyCore do zariadení s Androidom. Tá mala slúžiť ako základ pre lokálne rozpoznávanie obsahu, no podľa viacerých kritikov išlo o nenápadné zavedenie sledovacích mechanizmov bez súhlasu používateľov. Google vtedy tvrdil, že SafetyCore je len doplnkom a žiadne skenovanie fotiek ani súkromných dát neprebieha — teda, zatiaľ nie.
Dnes už je jasné, že čas, kedy musí súkromie ustúpiť bokom, už nastal. Google oznámil postupné nasadzovanie funkcie Sensitive Content Warning (ang. Upozornenia na citlivý obsah), ktorá automaticky rozmazáva fotky zobrazujúce nahotu v aplikácii Google Message. Fotky rozpoznáva umelá inteligencia, ktorá ak zistí, že prijatá správa obsahuje nahotu, obrázok automaticky rozmaže. Užívateľ potom dostane upozornenie spolu s možnosťou rozhodnúť sa, či chce fotku naozaj vidieť alebo chce radšej odosielateľa zablokovať.
Lokálne, nie na serveroch
Aby Google upokojil obavy o súkromie, zdôrazňuje, že analýza fotiek prebieha výhradne na zariadení. Žiadne dáta ani fotky sa neodosielajú na jeho servery. SafetyCore totiž využíva strojové učenie priamo v telefóne, bez potreby pripojenia k internetu. V praxi to znamená, že ak aplikácia identifikuje potenciálne nevhodný obrázok, ten sa rozmaže a používateľ musí potvrdiť, že ho chce otvoriť.
Systém myslí najmä na mladistvých. U detí a tínedžerov sú citlivé upozornenia zapnuté automaticky. Rodičia majú cez aplikáciu Family Link možnosť kontrolovať nastavenia a podľa veku dieťaťa aj zablokovať deaktiváciu funkcie. Teenageri od 13 rokov však môžu upozornenia deaktivovať sami, pokiaľ nie sú pod rodičovským dohľadom. U dospelých je funkcia štandardne vypnutá, ale môžu si ju zapnúť v nastaveniach Google Správ v sekcii Ochrana a bezpečnosť.
Transparentnosť? Nie úplne
Zaujímavosťou je, že rozpoznávanie funguje aj „naopak“. Ak sa niekto pokúsi poslať odvážnu fotku, aplikácia ho upozorní, že ide o potenciálne nevhodný obsah a vyzve ho, aby si to premyslel. Nepredstavuje to teda zákaz, ale skôr malú prekážku, ktorá má používateľa prinúť k zamysleniu sa.
Hoci Google zdôrazňuje ochranu súkromia, kritici upozorňujú na nedostatok transparentnosti. K SafetyCore nie je dostupný otvorený zdrojový kód k a nie je základnou súčasťou otvoreného kódu na Androide. To znamená, že vývojári ani bezpečnostní experti nemajú možnosť preskúmať, čo presne táto súčasť systému robí. Projekt GrapheneOS, ktorý sa zaoberá bezpečnosťou Android zariadení, to označil za „nešťastné riešenie“, aj keď samotnú myšlienku lokálneho AI spracovania obsahu podporuje.
Čo bude ďalej?
Zatiaľ sa funkcia týka len aplikácie Google Messages a postupne sa zavádza vo verziách Androidu 9 a novších, vrátane odľahčených verzií ako Android Go. Funkcia je zatiaľ vnímaná ako nástroj prevencie proti nežiaducemu obsahu, najmä voči deťom a tínedžerom. No zároveň otvára dvere širšiemu využívaniu AI pri monitorovaní komunikácie. Aj keď dnes ide o ochranu súkromia, zajtra sa môžu tieto technológie použiť na cielený dohľad či analýzu šifrovaného obsahu — a to je moment, keď sa diskusia o slobode a kontrole začína naozaj vyostrovať.