Umelá inteligencia dokáže veľké množstvo vecí. Vygeneruje vám krátky text, upraví životopis, napíše esej, poradí s kreatívnym názvom pre váš nový produkt alebo vám vygeneruje realisticky vyzerajúci obrázok. Dokáže zájsť až tak ďaleko, že tento obrázok je na nerozoznanie od skutočnej fotografie. Stačí pritom trochu kreativity a predstavivosti a v spojení s umelou inteligenciou je možné dokázať divy. A práve toho sa obáva Európska únia, ktorá oznámila, že je načase začať regulovať generatívnu umelú inteligenciu aj v oblasti prevencie zneužívania detí.
Európska komisia prišla začiatkom februára s návrhom na reguláciu generatívnej umelej inteligencie v oblasti generovania fotiek. Vychádzala pritom zo štatistík o zvýšenom výskyte hlásení o detskom sexuálnom zneužívaní a náraste detskej pornografie na internete. Len v roku 2022 bolo údajne zaevidovaných viac ako 1,5 milióna prípadov detského sexuálneho zneužívania. Návrh novely regulácie o ochrane detí prichádza po 13 rokoch, kedy do platnosti vstúpila prvá smernica tohto druhu.
Komisia navrhuje, aby sa po novom rozšírila definícia trestných činov súvisiacich so zneužívaním detí naprieč všetkými členskými krajinami. Trestným činom by tak malo byť aj živé vysielanie detskej pornografie alebo prechovávanie manuálov či príručiek pre pedofilov. Zákonodarcovia by tiež chceli upraviť znenie trestného činu detského zneužívania, ktoré by malo obsahovať časť o vytváraní deep fake videí a iného materiálu generovaného umelou inteligenciou. V praxi by to znamenalo, že pedofili by mohli byť trestne stíhaní aj za produkovanie falošných pornografických fotografií detí za pomoci umelej inteligencie.
Návrhom by sa mal v dohľadnej dobe zaoberať Európsky parlament a Rada EÚ. Pokiaľ by novelizáciu schválili zástupcovia všetkých členských krajín, nová smernica by vstúpila do platnosti o 20 dní po zverejnení v úradnom vestníku EÚ.