Európska únia pripravuje novú smernicu, ktorej súčasťou by mala byť výrazná regulácia v oblasti umelej inteligencie. Navrhované zmeny sú reakciou na viaceré problematické aspekty vo vývoji a použití umelej inteligencie. Upozornil na to britský server BBC, ktorý sa zároveň odvoláva na viaceré varovania odborníkov. Tí tvrdia, že navrhovaná smernica má viaceré medzery. Interpretácia jednotlivých obmedzení je podľa odborníkov vágna a neurčitá.
Výrazné obmedzenia pri používaní umelej inteligencie
Európska únia by mohla naďalej udeliť výnimky na používanie umelej inteligencie armádou či poriadkovými orgánmi s cieľom zabezpečiť verejný poriadok. To v praxi znamená, že polícia či bezpečnostné služby by ju mohli používať bez výrazných obmedzení. Inak tomu ale má byť pri bežnom použití. V návrhu sa okrem iného píše o zákaze používania umelej inteligencie na manipulovanie ľudského chovania, názorov či rozhodnutí, o zákaze použitia na cielené špehovanie osôb či vyhodnocovanie ich zraniteľných miest. Takisto má byť neprípustné použitie umelej inteligencie ako nástroja pre tvorbu sociálneho skóre, ktoré je už v malom rozsahu testované napríklad na obyvateľoch Číny.
Jednotlivé členské krajiny by mali mať dohľad nad použitím umelej inteligencie a takisto by mali vytvoriť nezávislú inštitúciu, ktorá by takéto systémy schvaľovala, kontrolovala a certifikovala. Medzi systémy, nad ktorými je potrebný dohľad, patria napríklad náborové algoritmy, algoritmy na predikciu kriminality, či systémy vyhodnocujúce prioritu pri poskytovaní zdravotnej starostlivosti. Za prípadné porušenie nariadenia Európska komisia navrhuje vysoké pokuty až vo výške 4 percent z celosvetových ročných príjmov, podobne ako pri porušení smernice GDPR.