Dôveryhodná umelá inteligencia musí spĺňať viacero kritérií. Musí byť legálna, teda plniť všetky zákonné a legislatívne požiadavky. Rovnako musí rešpektovať etické zásady a dodržiavať ich. Nesmie diskriminovať, čo znamená, že systém sa nemôže správať inak voči rôznym rasám, pohlaviam či vekovým kategóriám a vo všeobecnosti nemôže uprednostňovať niektoré skupiny pred inými.
Zabezpečenie systému umelej inteligencie je taktiež veľmi kritická časť. Dáta aj systém musia byť dostatočne chránené, aby nemohli byť zneužité alebo kompromitované. Jasne musí byť definovaná aj transparentnosť systému, aby sme vedeli, prečo a ako sa systém rozhoduje. Nakoniec musí byť aj samotná zodpovednosť umelej inteligencie jasne určená. Ak sa v nejakom bežnom systéme nachádza časť umelej inteligencie, napríklad na kontrolu výrobnej linky, musí byť jej zodpovednosť jednoznačne definovaná. Podobný príklad je aj diagnostický systém v nemocnici, ktorý vyhodnocuje, či má pacient nádor a pri tomto procese využíva prvky umelej inteligencie, celý systém musí byť dôveryhodný, inak to môže skončiť katastrofálne.
Počas vývoja a učenia rôznych systémov umelej inteligencie sa používajú metriky, ktoré indikujú presnosť a efektivitu modelu. Často sa však zabúda na to, kde je nakoniec umelá inteligencia nasadená a pre koho vlastne funguje. Ak sú výsledky síce dobré a uveriteľné, ale systém nie je zabezpečený, vysvetliteľný (prečo robí to, čo robí), diskriminuje jednotlivé skupiny alebo sa používa v neetickom prostredí, takýto systém nemôžeme považovať za dôveryhodný.
V praxi to znamená, že ak chceme vybudovať kvalitný produkt s využitím umelej inteligencie, musíme sa najprv zamyslieť, či spĺňame uvedené body. Ak nie, treba prehodnotiť samotnú užitočnosť a vhodnosť AI produktu.
Foto: Aliter Technologies
Z pohľadu bežného človeka sa najčastejšie stretávame s generatívnymi nástrojmi umelej inteligencie v týchto oblastiach:
Generácia textu
Princíp fungovania je na základe vstupu. Vstupom pre takzvané veľké jazykové modely je text od používateľa. Najrozšírenejšie formy sú ChatGPT, Claude, Gemini, Mistral alebo DeepSeek. Dôveryhodnosť odpovedí týchto modelov je často otázna. Niekedy vygenerujú správnu odpoveď, ktorú potrebujeme, ale často si vymýšľajú vlastnú odpoveď (halucinujú). Takáto odpoveď síce znie presvedčivo, no ide len o nepravdivú fabuláciu. Preto sa do týchto služieb pridali aj funkcie na vyhľadávanie na internete, aby používateľ získal prístup ku zdrojovým informáciám, ktoré si môže overiť. A každý z nás by to mal robiť.
Generácia obrazu
Samotné generovanie alebo upravovanie obrázkov sa rozšírilo už pred viacerými rokmi. Na začiatku išlo o manuálnu úpravu pomocou špecifických editačných softvérov. Za posledné dva roky však túto úlohu vo verejnosti prevzala umelá inteligencia s nástrojmi ako Flux, Foocus a mnohé ďalšie. A o aké zneužitie tu môže ísť? To spočíva v generovaní fotografií, alebo len ich alternatívnych pozadí. Následné zdieľanie takto upraveného obsahu na sociálnych sieťach môže spôsobiť nepríjemné komentáre alebo šírenie dezinformácií.
Generácia hlasu
Konverzia textu na audio nie je sama o sebe novinkou. Novinkou sú však nástroje, ktorým stačí pár viet na to, aby dokázali realisticky imitovať a replikovať náš hlas, čo môže viesť k podvodom. Bežne dokážu imitovať kohokoľvek, koho si nahrali. V tomto prípade je obrana ťažšia a obzvlášť náchylné sú skupiny ľudí, ktorí sa zatiaľ s možnosťami AI nestretli, a preto si neuvedomujú, ženezvyčajná štylistika imitovanej osoby predstavuje riziko, pretože farba hlasu im je povedomá.
Generácia videa
Minulý rok spoločnosť OpenAI predstavila generovanie videa. Nástroj Sora si môžeme vyskúšať pri predplatnom ChatGPT. Táto technológia dokáže vygenerovať video iba zo zadaného textu – podobne, ako keby sme komunikovali s chatbotom, ale namiesto otázky zadáme detaily želaného videa a on nám ich vygeneruje. Tento spôsob generovania obsahu je ešte pomerne jednoducho detegovateľný, pretože niektoré generované detaily pôsobia umelo.
Ukážka evolúcie generácie videa:Celkovo platí pravidlo dodatočnej kontroly a použitia zdravého rozumu – generovaný obsah je všade okolo nás, aj keď si to často nemusíme uvedomovať. Preto je dôležité sa nad tým, čo vidíme a čítame, vždy zamyslieť.