Lež má krátké konto

George, Kate, Aneta nebo Ruby. Rodina virtuálních asistentů českých bank se úspěšně rozrůstá. A s nimi i okruh služeb, v nichž stroj může nahradit lidského operátora. Dnešní chytrý asistent už není jen lepší automat, který reaguje na hlasové povely, ale poradí třeba i se zablokovanou kartou, zůstatkem na účtu nebo zadáváním transakcí. A přestože technicky nic nebrání tomu, aby tahle parta využívala též prvků generické umělé inteligence a klientům takřka lidským hlasem radila, kam investovat nebo jak se zajistit na penzi, tak daleko se zatím žádná banka nepustila. Na vině je jev zvaný halucinace, který doprovází generickou umělou inteligenci.

Chvilkové poblouznění

Někdy to asi zažil každý, kdo používá třeba nejrozšířenější a nejoblíbenější rozhraní založené na velkém jazykovém modelu, tedy ChatGPT. Rada či informace vypadá fundovaně, je podána suverénně, a přesto je pomýlená, naprosto nerelevantní vůči položené otázce, nebo dokonce lživá. Jak četné je takové „blouznění“, je těžké určit, podstatou AI je ostatně poučení z chyb a celý obor se chvatně vyvíjí. Startup Vectara loni na podzim nicméně dospěl k tomu, že momenty halucinace se vyskytují až ve čtvrtině všech výstupů chatů založených na generické AI. Pocítila to i společnost Microsoft, když před rokem představovala vlastního konkurenta k ChatGPT v rámci vyhledávače Bing. V demoverzi si takto „vybájil“ životopis zpěvačky Billie Eilish, a další konkurent, googlovský chatbot Bard, zase vesmírnému dalekohledu Jamese Webba (zkratkou JWST) připsal zásluhy na fotografiích exoplanet, které ve skutečnosti nasnímal jiný teleskop ze Země.

Chvilkové poblouznění není jen trapné nebo nepříjemné, padlo za něj již také první soudní odškodnění. Kanaďan Jake Moffatt vysoudil na Air Canada několik set dolarů za to, že mu chatbot, virtuální asistent aerolinek, s nímž si dopisoval, slíbil slevu, kterou ale společnost nakonec vůbec nenabízela. Kanadské aerolinky měly nakonec štěstí: kdyby takto zablafoval bankovní chatbot, škody by mohly jít do milionů. A nejde jen o odškodnění: bankovnictví je vysoce konkurenční prostředí a ztráta reputace způsobená automatem, který si pustí „pusu na špacír“, by mohla napáchat podstatně vyšší škody.

Totéž platí i o voicebotech, tedy hlasových robotech. Není proto divu, že riziko poskytování lživých informací je mezi bankéři v USA podle průzkumu společnosti FintechOS z počátku tohoto roku největší obavou z umělé inteligence.

Banky, ale třeba i pojišťovny, se tak ocitají pod tlakem. Na jedné straně pro ně vpuštění jazykových modelů, o něž se generická umělá inteligence opírá, může znamenat i riziko vystavení se reputačním problémům. Na druhé straně je ale lepší pochopení řeči klíčové: pokud má voicebot nahradit živého operátora na lince, musí dotazům rozumět a také na ně srozumitelně odpovědět. A na to starší předchůdci v podobě hlasových asistentů už nestačí. Jenže zatímco třeba nástroje strojového učení banky interně využívají už léta (například k odhalování podvodů), naplno vpustit generickou AI do klientských aplikací se zdráhají.

Ne, že by rádci obdaření pokročilou umělou inteligencí vůbec neexistovali: třeba Česká spořitelna pilotně testuje svůj voicebot Hey George, který by měl fungovat i jako investiční poradce, Raiffeisenbank letos v dubnu ohlásila vznik testovacího centra RB AI Data Lab. V ostrém provozu se však v českém bankovním prostředí generická umělá inteligence komunikující s klienty prozatím neobjevila. AI, která nelže a umí poradit, je tak celosvětově velkou výzvou bankovních a finančních institucí.

„Okamžik interakce se zákazníkem je momentem, kdy se jakoby zhmotňují emoce. Právě sem je třeba nasměrovat maximum důvěry,“ říká Martin Ryšánek, specialista IBM watsonx, platformy, jež bankám pomáhá skloubit tradiční „starou“ umělou inteligenci v podobě strojového učení s „novou“ AI, která umí komunikovat navenek.

„Polidštění“ stroje

Na nedávné konferenci o AI, kterou pořádala Česká asociace umělé inteligence, Martin Ryšánek také nastínil, jak snížit riziko robotických halucinací. Jednou z cest je naučit chat nebo hlasového poradce včas přepnout na živého operátora, pokud se už ocitá na tenkém ledě. Elegantnější řešení je ovšem „polidštění“ stroje. „Potřebujeme chatboty, které se chovají přirozeně, porozumějí otázce a dovedou na ni odpovědět v přirozené řeči,“ dodává Ryšánek. Jednou z metod, jak naučit umělou inteligenci být více lidskou (a především spolehlivější co do relevantních výsledků), je práce s interními daty firmy, která jsou vhodně roztříděná právě kvůli ověření nebo zpřesnění odpovědi. Jako když se nespoléháte jen na Wikipedii, ale zalistujete si ještě publikací z domácí knihovny. A víte, kam pro ni sáhnout.

Takové dolaďování odpovědí přitom není doménou jen velkých hráčů, jako jsou IBM, Microsoft, Google nebo Meta. Do svých produktů ho umí zapojit i řada malých a středních firem, včetně těch českých. Například Feedyou, která postavila voicebot Tom pro Monetu Money Bank, koncem loňského roku přišla s Lucií, hlasovou asistentkou, která pracuje s prvky ChatGPT. Také Lucie požívá pomyslné prášky proti halucinaci. „Propojujeme velké jazykové modely s konvenčními jazykovými modely a dalšími nástroji a mechanismy, abychom výsledná řešení dostali pod větší kontrolou. Míru halucinací je možné zásadně omezit kombinací vhodné a dostatečné báze vstupních dat a metod zadávání dotazů, to vše pokryté co nejvíce zautomatizovanými procesy detailního testování a průběžné validace výstupů,“ objasňuje Jan Dvořák, technický ředitel Feedyou.

Právě vedle metod zpřesňování dotazů a sémantických vazeb se AI v bankovnictví ve vztahu ke klientům neobejde bez zapojení interních databází. I tady vzniká prostor pro malé hráče, kteří dokážou probádat firemní data pod drobnohledem. „Naše technologie není jiná, ale je lepší v tom, že se podíváme na data klienta a připravíme pro něj řešení na míru. Oproti tomu velcí hráči pro zpracování klientských dat používají obecné skripty, které přistupují ke všem datům stejně. Proto máme lepší výsledky, i když používáme velké jazykové modely těchto velkých hráčů,“ popisuje Jan Ondruch, zakladatel startupu rag.ai, který se zaměřuje na hledání chytřejších cest ke správným odpovědím.

V bankovním světě ovšem jen správné odpovědi nestačí, je třeba je také podat tak, jak by to uměl živý bankéř na lince nebo na chatu. A tady v pomyslném souboji stroje a člověka automat prohrává. Podle letošního World Retail Banking Report 17 procent klientů chatboty a hlasové asistenty odmítá úplně a skoro dvě třetiny zákazníků se nechává přepojit na živého operátora, protože s robotem spokojení nejsou. Zatím. Celý obor AI se totiž vyvíjí natolik rychle, že je těžké cokoliv odhadovat. „My ve strategiích využití umělé inteligence cílíme na tři roky, hype je obrovský. Na druhé straně technologie sama nic nevyřeší a i umělá inteligence bude závislá na kvalitě informací, které jí poskytneme. Na nás je, abychom technologii uměli používat a také o ní uměli přemýšlet,“ dodává Martin Gerneš, datový specialista Komerční banky.