Umělá inteligence rychle získává ve firmách svůj prostor a nové role. Mnoho organizací je již dnes daleko za experimentální fází a v mnoha odvětvích již bylo dosaženo hmatatelného uplatnění v praxi. Jednou z hlavních oblastí využití AI je v současné době zejména doména přesnějšího cílení prodejních aktivit a efektivnější oslovování a komunikace se zákazníky.
Odpovědné společnosti, které úspěšně zavádějí AI do svých procesů, nezaměřují svou pozornost pouze na její přínosy, ale stejně intenzivně se také věnují etické stránce celé věci, tj. vlivu na vlastní zaměstnance, zákazníky a společnost jako celek. To je jeden z hlavních závěrů průzkumu společností Accenture, Intel a SAS.

Zodpovědná AI v praxi
Vzhledem k tomu, že umělá inteligence má přímý vliv na životy lidí, etická stránka věci je zásadním aspektem, který by měl být brán v potaz při vývoji nových řešení. Většina firem, které již umělou inteligenci používají – což je 72 procent organizací po celém světě – školí své technologické experty v oblasti etiky (70 procent) a má ve svých firmách etické výbory pro používání AI (63 procent). Tato čísla ukazují, že ačkoli mnoho společností si je vědomo etického dopadu aplikace umělých technologií, existuje stále mnoho těch, které aspekty odpovědné AI systematicky neřeší a riskují nežádoucí dopady.
Umělá inteligence může například způsobit zaujaté rozhodování vedoucí k různým typům diskriminace. Setkáváme se s případy, kdy algoritmus zpracovávající data z přirozeného jazyka, kategorizuje euro-americká jména jako pozitivní, zatímco afro-americká jako negativní. Nebo, například robot, který pomáhá na zákaznické lince kanadských aerolinek WestJet, chybně odkázal zákazníka na linku prevence sebevraždy v reakci na radostnou recenzi. Také Amazon ukončil svůj náborový nástroj založený na AI, který vyloučil ženy jako vhodné kandidáty na technologické pozice.
Tyto příklady ukazují, že předpojatost je neodmyslitelnou součástí naší společnosti a když umělá inteligence pro své rozhodování analyzuje naše dřívější rozhodnutí, bude v důsledku nutně také takto zaujaté. V případě společnosti Amazon tedy AI preferovala při náboru technických zaměstnanců muže. Kromě genderové zaujatosti jsou typickým problémem podobných řešení také rasové stereotypy.

Bez kontroly to nepůjde
A co s tím? Abychom předešli nežádoucím výsledkům, je třeba zavádět konkrétní kontrolní mechanismy. Jen tak budeme schopni zajistit, aby byly AI systémy bezpečné, transparentní a verifikovatelné.
Navzdory názorům, které tvrdí, že AI pracuje samostatně a bez lidského zásahu, výzkum ukazuje, že lídři společností, které úspěšně používají AI, si uvědomují, že dohled nad těmito technologiemi je a bude nezbytnou nutností. Téměř tři čtvrtiny (74 procent) šéfů AI uvedly, že pečlivě provádějí dohled nejméně na týdenní bázi v podobě kontrol nebo hodnocení výsledků. Ovšem jen 43 procent lídrů v oblasti AI uvedlo, že jejich organizace má během kontrol zaveden transparentní proces zabývající řešením sporných výsledků, které kontrola odhalila. Zavádění umělé inteligence tedy čeká ještě značné množství práce.
Zatímco se zaměstnanci typicky v důsledku nástupu AI obávají o stabilitu svých pracovních pozic, zaměstnavatelé jsou přesvědčeni, že umělá inteligence naopak rozvíjí lidskou činnost, umožňuje pracovat na činostech s větší přidanou hodnotou, zjednodušuje pracovní postupy a zpříjemňuje pracovní podmínky. Téměř 60 procent zaměstnavatelů nepředpokládá jakýkoliv dopad na počet pracovních míst ve vazbě na implementaci AI.
Na druhou stranu 57 procent organizací vnímá, že zaměstnanci mají obavy z ohrožení. Je odpovědností všech organizací, aby tyto obavy zmírnily prostřednictvím nepřetržité a otevřené komunikace, cílené osvěty a vzdělávání.
Jak je tedy možné vidět z výsledků průzkumu, organizace již začaly řešit témata spojená s dopadem nasazování AI technologií. To jsou bezesporu pozitivní kroky. Musí se však stát automatickou součástí běžných etických kodexů. Je třeba, aby měly podobu konkrétních technických a normativních směrnic pro vývoj a aplikaci systémů AI. Směrnic, které zajišťují bezpečnost, transparentnost a odpovědnost tak, abychom se vyvarovali ohrožení jednotlivců, firem i celé naší společnosti.

Více info na Accenture.com

Autor: Ivo Gavenda, Accenture