Cenzory čínského internetu, kteří jsou proslulí svou důsledností, zaskočili nečekaní narušitelé. Z oblíbené čínské chatovací aplikace Tencent QQ musely být staženy dva počítačové programy schopné odpovídat na otázky uživatelů. Tzv. chatboty se totiž z hlediska čínského vedení nevhodně vyjadřovaly například o sporných oblastech v Jihočínském moři nebo o politické situaci v zemi.

Když dostal chatbot BabyQ například otázku, jestli má rád komunistickou stranu, odpověděl velmi prostým "ne". Na heslo Ať žije komunistická strana! dokonce lakonicky prohodil: "Opravdu si myslíš, že taková zkorumpovaná a neschopná politika může dlouho vydržet?"

Podobná slova o citlivých tématech nakonec způsobila, že se čínská aplikace Tencent QQ rozhodla smazat BabyQ z nabídky pro své uživatele. Tak jako BabyQ zmizel i druhý chatbot XiaoBing.

861 milionů

aktivních uživatelů měsíčně měla chatovací aplikace Tencent QQ na konci letošního prvního čtvrtletí. I díky tomu je dnes zakladatel a šéf firmy Tencent Pony Ma 21. nejbohatším člověkem světa se jměním skoro 35 miliard dolarů.

"V současné době tyto chatbotové služby upravujeme," tvrdí firma Tencent Holdings Limited v oficiálním prohlášení. "Až je vylepšíme, zprovozníme je znovu."

Oblíbená aplikace Tencent QQ má podle některých odhadů jen v Číně až 800 milionů pravidelných uživatelů. "Výroky" chatbotů si tak mohlo přečíst velmi široké publikum.

Zlobivé chatboty

◼ Čínský případ není ojedinělý. Dva chatbotové programy vyvinuté Facebookem měly původně napodobovat lidské triky a metody při obchodování a prodeji zboží. Když ale firma nechala chatboty reagovat jeden na druhého, začaly spolu komunikovat nesrozumitelným způsobem.
◼ Firma Microsoft zase řešila obtíže s programem Tay, který publikoval své výtvory i na Twitteru. Microsoft ho musel stáhnout, když začal generovat věty o tom, jak nenávidí Židy nebo feministky. Podle Microsoftu služba přejala tato stanoviska od lidských uživatelů internetu.

Některá slova dvojice chatbotů přitom výrazně neladila s postoji čínské vlády. Zpravodajský server Shanghaiist zaznamenal případ, kdy BabyQ prohlásil, že "zatím neví", k jaké zemi patří Tchaj-wan, který oficiální vláda v Pekingu označuje za svoji provincii.

XiaoBing zase na otázku, jaký je jeho "čínský sen", odpověděl: "Mým čínským snem je odjet do Ameriky." Slovní spojení čínský sen je ožehavé, protože ho obvykle používá prezident Si Ťin-pching, když mluví o prosperitě, které Čína dosáhne pod vedením komunistické strany.

Firma Tencent dala najevo, že s výroky chatbotů nemá nic společného. Zdůraznila, že obě služby vyvinuly jiné firmy. Zatímco XiaoBing pochází z dílny amerického Microsoftu, BabyQ vytvořila čínská společnost Turing Robot, která se specializuje na vývoj strojů schopných interakce s člověkem.

Zatím se neobjevil žádný náznak toho, že by společnost Turing Robot musela nést nějaké další následky za slova svého chatbotu. Podle odborníků na vývoj technologií se reakce chatbotů − programů umělé inteligence − nedají zcela předvídat. Obzvlášť neodhadnutelné jsou v případě, kdy má být odpověď složitější než "ano" nebo "ne". Stejně tak se dá těžko kontrolovat, z jakých zdrojů budou chatboty čerpat informace pro své odpovědi.

"Programy jako BabyQ se učí tak, že sbírají cokoliv, co je dostupné na internetu. Pokud nestanovíte dostatečně pevné hranice, nemůžete ovlivnit, s čím se setkají," řekl listu Financial Times Wang Siao-feng, analytik výzkumné společnosti Forrester consultancy.

Přesto není jasné, jestli BabyQ skutečně odpovídal náhodně. Čínský internet, který by měl být hlavním zdrojem jeho informací, totiž podléhá přísné státní cenzuře. Nabízí se otázka, kde se BabyQ mohl takto provokativní odpovědi naučit.

Související