Dnešní umělá inteligence dokáže rozpoznat obrázky či slova na stejné úrovni jako člověk, ale zatím nedokáže vnímat svět v jeho plnosti a komplexitě, tak jako ho skrze všechny smysly poznává malé dítě. S dalším rozvojem tzv. obecné umělé inteligence, která dokáže vnímat svět výrazně sofistikovaněji, bude nutné zajistit rovnováhu mezi inteligencí a dalšími lidskými talenty, které nám pomáhají dobře se rozhodovat, jako například empatie či pochopení. Musíme zajistit, aby další rozvoj probíhal zodpovědně, rozšiřoval a doplňoval přirozené lidské schopnosti a aby lidé chápali, jak AI funguje a z jakých zdrojů a principů vychází. Jak toho dosáhnout?

Základem je vytvoření a udržení důvěry okolo AI
Začněme ale od začátku – co vlastně umělá inteligence je? O AI mluvíme jako o množině technologií, které umožňují počítačům vnímat, učit se, přemýšlet a pomáhat rozhodovat při řešení problémů způsobem, který je podobný lidskému. Počítače se na základě opakujících se vzorců samy učí, aniž bychom je přímo programovali. Celý proces je založen na zpracování a vyhodnocení obrovského množství dat. To, co by člověk dělal dny, týdny, měsíce, zvládnou chytré algoritmy během několika vteřin a minut.
Jedním z klíčových aspektů toho, co se umělá inteligence naučí, je tak charakter, kvalita a úplnost vstupních dat. Algoritmy zpracovávají dostupná data a je jim v podstatě jedno, odkud se berou. Právě práce s daty je proto jednou z oblastí, kde leží zásadní odpovědnost firem, které algoritmy vyvíjejí. Co když někdo vytrénuje algoritmy pomocí nesprávných dat? Nebo třeba jen neúplných, založených na nereprezentativním vzorku populace?
Má-li nám umělá inteligence skutečně prospět, musí si získat důvěru lidí, kteří ji používají. Získávání důvěry veřejnosti v technologie umělé inteligence musí začít ve fázi návrhu a produkty musí vznikat v pevně vymezeném etickém rámci. Je třeba se zaměřit na problémy, jako je ochrana soukromí dat, zneužití umělé inteligence, morální postavení systémů umělé inteligence nebo zodpovědnost v případě, že se něco pokazí. A je zřejmé, že slavné tři zákony robotiky, které v roce 1942 formuloval Isaac Asimov, nám dnes už stačit nebudou.
Výkonný ředitel Microsoftu Satya Nadella už před pár lety navrhl deset principů důvěryhodné AI, mezi něž patří například důraz na to, aby AI pomáhala člověku a zachovávala jeho důstojnost, respekt k diverzitě a kulturním rozdílům ve společnosti, transparentnost v tom, jak technologie „vidí a vyhodnocují“ náš svět, či důraz na ochranu soukromí jednotlivců i skupin. Microsoft si stanovil šest etických principů či imperativů, které považujeme za zásadní pro odpovědný vývoj umělé inteligence.

Spravedlnost
AI by měla zacházet s každým člověkem spravedlivě, neměla by rozlišovat mezi různými skupinami lidí. Klíčový je reprezentativní vzorek dat, na nichž se AI učí, různorodost vývojových týmů a také rozvoj analytických technik na odhalení a odstranění předpojatostí a předsudků, které by do algoritmů mohly i nevědomky proniknout. Když systémy AI například poskytují pokyny k žádostem o půjčky, měly by dávat stejná doporučení pro všechny žadatele, kteří mají stejné finanční podmínky a parametry.

Spolehlivost
Řada obav kolem AI pramení z nejistoty, jaká rozhodnutí učiní v nepředvídatelných situacích, a zda dokonce nemůže dojít k záměrné manipulaci s cílem způsobit škodu. Důvěra bude záviset na tom, zda systémy AI budou fungovat opravdu spolehlivě, bezpečně a důsledně, a to zejména v oblastech jako doprava, zdravotnictví či již zmíněné finanční služby. Cesta k tomuto cíli vede přes rozsáhlé testování, průběžné sledování a také zajištění potřebného lidského dohledu.

Soukromí a bezpečnost
Respekt k soukromí je klíčovým pilířem důvěry ve vše, co umělá inteligence dokáže. Nejde přitom jen o dodržení veškeré platné legislativy, jako je evropská směrnice GDPR. Systémy AI by měly být navržené tak, aby nás chránily před možným zneužitím a zajišťovaly odpovědné shromažďování dat a zacházení s nimi.

Inkluze
AI musí pomáhat všem a zahrnout každého. Chceme-li zajistit, aby byla prospěšná všem lidem, musí umělá inteligence zohlednit a řešit širokou škálu lidských potřeb a zkušeností. Inkluzivní přístup pomůže vývojářům pochopit a odstranit potenciální bariéry v produktu, který by mohl některé lidi či skupiny třeba i neúmyslně vyloučit. AI systémy by měly být dostupné každému, zejména pro miliardu lidí na světě, kteří mají nějakou formu postižení. AI může naopak v této oblasti dobře posloužit díky kognitivním službám (vidět, slyšet, rozpoznat text, přeložit mluvené slovo na text atd.).

Transparentnost
Velice zásadní pro další vývoj AI je transparentnost. Umělá inteligence by měla být srozumitelná. Systémy AI už dnes pomáhají přijímat rozhodnutí, která ovlivňují životy lidí. Proto je důležité, aby lidé pochopili, jak jsou tato rozhodnutí učiněna. Pouhé zveřejnění algoritmů zpravidla nestačí – musíme usilovat o ucelený přístup, kdy vývojáři AI srozumitelně popíší, jak klíčové prvky systému fungují.

Odpovědnost
Tzv. algoritmická odpovědnost znamená, že lidé, kteří navrhují a nasazují systémy umělé inteligence, musí být zodpovědní za to, jak tyto systémy fungují. Pro stanovení těchto norem a osvědčených postupů můžeme vycházet ze zkušeností v jiných odvětvích, jako je třeba zdravotní péče a bezpečnost. Mohou zde pomoci například interní kontrolní výbory – v Microsoftu jsme sestavili seniorní Poradní výbor pro umělou inteligenci a etiku při její konstrukci a vývoji, abychom zajistili, že všechny naše systémy umělé inteligence splňují popsané principy.

Návrh AI musí vznikat eticky a společnosti, jež tyto technologie vyvíjejí, musí převzít zodpovědnost za etické aspekty a při řešení těch nejnáročnějších výzev navzájem spolupracovat. Umělá inteligence by se neměla stát vlastnictvím jediné společnosti ani národa. Měla by patřit všem. S tímto cílem vznikla nezisková organizace Partnership on AI, která se prostřednictvím doporučených postupů a otevřené debaty snaží prosazovat to, aby umělá inteligence přinášela prospěch lidem i společnosti. Jejími členy je dnes více než 80 organizací, komerčních i neziskových.
Nástup umělé inteligence se dá srovnat snad jen s nástupem prvních robotických strojů. I tehdy, před dvěma staletími, se lidé obávali, že jim stroje a roboti vezmou práci a že ovládnou svět. Opak se stal pravdou a dnes nám elektřinou poháněné stroje a zařízení naopak zásadně zvyšují kvalitu života a usnadňují práci. Neměli bychom proto vést debatu o tom, jestli je AI dobrá, nebo špatná, ale o tom, co můžeme právě teď udělat pro to, aby byla co největším přínosem pro člověka i pro společnost. Dokážou-li lidé a stroje spolupracovat, budeme schopni lépe řešit i ty největší výzvy dnešní společnosti, jako jsou chudoba, závažné nemoci, nedostatek vzdělání či klimatické změny.

Obsah vznikl ve spolupráci s Microsoft Česko a Slovensko

Související
Newsletter

Byznys podle HN

Nechcete, aby vám uniklo to nejdůležitější?

Pro naše čtenáře připravujeme každý týden newsletter o byznysu a finančních trzích. Stačí zde zadat svůj email a každý pátek od nás dostanete souhrn událostí, které byste neměli minout. A přidáme osobní tipy čtyř osobností newsroomu Hospodářských novin. Píše Martin Jašminský, Luděk Vainert, Luboš Kreč a Petr Kain.

Přihlášením se k odběru newsletteru souhlasíte se zpracováním osobních údajů a zasíláním obchodních sdělení, více informací ZDE. Z odběru se můžete kdykoli odhlásit.

Přihlásit se k odběru