Ako veľmi nebezpečné môžu byť zbrane, ak ich súčasťou bude umelá inteligencia? Predstavujú hrozbu pre ľudstvo alebo umelá inteligencia naopak pomôže eliminovať zlyhanie ľudského faktora? To sú niektoré z otázok, na ktoré zatiaľ nikto nepozná odpoveď. Google sa rozhodol, že ju ani hľadať nebude. Šéf spoločnosti, Sundar Pichai, prisľúbil, že umelá inteligencia Googlu nebude použitá pri vývoji zbraní. Reagoval tak na masové protesty zamestnancov, ktorí odmietali spoluprácu s americkou armádou. Mnoho z nich kvôli tomu aj podalo výpoveď.
Zamestnanci Googlu protestovali proti účasti firmy v projekte Maven, ktorý má za cieľ analyzovať snímky zachytené vojenskými dronmi. Spoločnosť mala armáde poskytnúť nástroje strojového učenia na analýzu leteckých snímok. Projekt síce dokončí, no ďalších podobných iniciatív už nebude súčasťou. Aspoň to tvrdí, Pichai vo svojom blogu, kde vymedzil oblasti, do ktorých sa umelá inteligencia Googlu nebude zapájať.
Aj umelá inteligencia by sa mala riadiť etickým kódexom
Umelá inteligencia nebude podľa Pichaia použitá pri technológiách, ktoré by mohli spôsobiť škody, a takisto pri vývoji zbraní a technológií, ktorých hlavným účelom je zranenie ľudí. Umelá inteligencia tiež nebude súčasťou technológie zhromažďujúcej alebo využívajúcej informácie na sledovanie, porušujúc medzinárodne akceptované normy. Pichai odmietol aj použitie umelej inteligencie v technológiách, ktorých účel porušuje všeobecné zásady medzinárodného práva a ľudských práv.
Vývoj a použitie umelej inteligencie by sa mali riadiť siedmimi základnými princípmi:
- prospešnosť pre ľudí
- vyhýbanie sa vytváraniu alebo posilňovaniu predsudkov
- bezpečnosť
- zodpovednosť
- ochrana osobných údajov
- dodržiavanie vysokých štandardov vedeckého výskumu
- všeobecná dostupnosť