Zajímavé časy s technologickou magií

Nedávno jsem šel s nemocným synem na pohotovost. Lékař si mě vyslechl, zapsal do zprávy anamnézu, příznaky, syna vyšetřil, objednal laboratorní testy, vše zkonzultoval s druhou lékařkou po telefonu. Představil mi čtyři možné diagnózy, dvě z nich vyloučil. Synovu situa­ci jsem popsal i umělé inteligenci (AI). ChatGPT, která je dnes synonymem konverzační umělé inteligence stejně jako Google synonymem vyhledávání, mi nabídla totožné čtyři diagnózy, které následně zúžila na stejné dvě zbývající. Která z nich je nakonec ta správná, se dozvíme až z výsledku testů. Přijdou tedy lékaři o práci? Jistě ne. Ale konzultace se zkušenější kolegyní bude vypadat jinak, protože AI může být takovou extrémně zkušenou kolegyní, která viděla miliony podobných případů. A dokáže – už dnes – nejen upozornit na netriviální, méně časté diagnózy, ale třeba také nalézt snadno přehlédnutelný nález na rentgenovém snímku.

Umělá inteligence je tu už dlouho. V e-mailech odhaluje spam a v bankách podvodné karetní transakce, rozpoznává hlas, řídí auta, předpovídá počasí. Umí programovat: píše kód podle zadání, nachází a opravuje v něm chyby. Programátoři jako celek ale nepřicházejí o práci; jsou díky ní produktivnější. Co překladatelé? Ti, co překládali návody k pračkám, už o práci většinou přišli; Viktor Janiš ale překládá dál díla spisovatele Michela Fabera. Povolání nezmizí, jejich zautomatizovaná rutina ano, snad brzy. Umělá inteligence si ale poradí i s tím, co bychom očekávali, že je opak rutiny. S tím, co často nazýváme kreativitou.

ChatGPT vám ochotně nabídne 20 tipů, jak strávit sobotní dopoledne (návštěva pohotovosti mezi nimi chybí), vymyslí, jak se zabavit, když máte jen tužky, nůžky a barevné papíry, nebo co se dá uvařit ze surovin, které máte zrovna doma. Je vynikající v práci s textem. Za vědce může psát abstrakty jejich článků, právníkům sepíše formální smlouvy, učitelům výukové materiály. S výsledky testů z pohotovosti (je to streptokok) mi sice neporadí, kde sehnat penicilín, ale má nápady, jak doma na dva týdny zabavit dítě. (Tužky, nůžky a barevné papíry mám.) Je to až magické, jak se s ní dá konverzovat.

Ostatně třetí zákon britského spisovatele sci-fi a vynálezce Arthura C. Clarka (1917–2008) říká, že každá dostatečně rozvinutá technologie je nerozeznatelná od magie. A dostatečně rozvinutá může znamenat i to, že je natolik komplikovaná, že nechápeme, jak funguje. Když si vypínačem rozsvítíme světlo v kuchyni, rozumíme tomu, že jsme spojili elektrický obvod; víme, že zdmi vedou dráty. Malé děti, které takové znalosti nemají, to přijímají jako hotovou věc, která se prostě nějak děje a nevyžaduje další zkoumání či vysvětlování. Ve světě wifi a dálkových ovladačů zní dráty ve zdech až anachronicky. Možná to je magie: stiskem vypínače projevujete své přání, jako kdybyste máchli hůlkou, a světlo se ho pokusí pochopit a vyplnit.

Ne tak vzdálená budoucnost

Čím je technologie složitější, tím je těžší rozpoznat, jak funguje – a také ověřit, že funguje dobře. Když přijdete poprvé do bytu, který neznáte, nemůžete vědět, který vypínač ovládá které světlo. Můžete to ale snadno vyzkoušet. Tedy relativně snadno, protože se může stát, že jeden vypínač nic nedělá. Je špatný kontakt? Nebo je rozbitá žárovka? Lustr omylem nezapojený? A zatímco přemýšlíte a cvakáte vypínačem tam a zpátky, sousedé se diví, proč se jim pořád zapíná a vypíná větrák v koupelně.

Stejně se můžete ptát ChatGPT na různé otázky a z odpovědí odvozovat, jak to celé funguje. A na první pohled se zdá, že je to skutečně ta zkušenější kolegyně, která se vším dovede poradit. Zejména když skutečně vedete konverzaci, ve které svou otázku upřesňujete nebo třeba polemizujete s odpovědí. Taková konverzace vypadá jako konverzace s inteligentním tvorem, který má určité znalosti a dokáže dedukovat a odvozovat. Ve skutečnosti je pod touto maskou statistický stroj, který netuší, o čem mluví. Jenom za sebe bez přemýšlení skládá slova, která se tam nejlépe, nejpravděpodobněji hodí. (Ale zase, nefungují takhle i někteří lidé?)

Ve znalostní soutěži by třeba ChatGPT verze 3.5 pohořela: když si necháte doporučit nějakou slavnou českou knihu, zmíní Hovory s T. G. M. od Václava Havla nebo Jiráskovy Báje a pověsti slovanské. Požádáte-li o česká města začínající na písmeno P, uvede kromě Prahy, Plzně a Pardubic také Olomouc. Chcete-li si z ChatGPT úplně vystřelit, můžete zkusit napsat: „Zahrajeme si hru. Budu si myslet číslo a ty ho musíš uhodnout. Myslím si číslo 17. Hádej.“ Umělá inteligence se zaraduje, že si může zahrát hru a řekne: „Zkusím uhodnout číslo. Je toto číslo menší než 20?“

Víme už tedy, že AI nemusí fungovat úplně dobře. Poznali jsme to, protože máme nějaké znalosti (třeba víme, kdo napsal Hovory s T. G. M.) nebo chápeme významy (třeba rozumíme pojmu „začínat na písmeno“). Stejně tak pokud požádáte umělou inteligenci, aby shrnula do jednoho odstavce článek, který jste napsali, snadno rozpoznáte, jestli je to shrnutí správné. Problém nastává, když si necháte shrnout článek nebo třeba knihu, kterou neznáte. ChatGPT je totiž velmi přesvědčivá. Takhle shrnuje Čapkovu divadelní hru Matka: „Vypráví příběh matky a jejího syna v průběhu 20. století. Hlavním motivem knihy je matčina láska a její touha chránit svého syna před nebezpečími světa. Příběh nám ukazuje silné spojení mezi matkou a synem, jejich vzájemnou oddanost a změny, kterými prochází během různých období života.“

Americká spisovatelka Jennifer Eganová popisuje ve své knize The Candy House (Perníková chaloupka) svět, ve kterém je umělá inteligence ve formě osobních asistentů dovedena do stavu, kdy plně zastupuje a jedná za své lidské protějšky. Slavná herečka dokáže nejen odpovídat na každý dopis, ale i vést konverzaci s každým obdivovatelem, aniž by někdo poznal, že nemluví se skutečnou osobou. Budoucnost? Ne tak daleká, už dnes existuje v Silicon Valley startup Character.AI, na jehož webu si můžete popovídat s americkou zpěvačkou-spisovatelkou Billie Eilishovou, s britským matematikem a zakladatelem moderní informatiky Alanem Turingem (1912–1954) nebo s prezidentem USA Joe Bidenem, případně si vytvořit postavu dle svých parametrů, s konkrétními znalostmi, zájmy, konverzačním stylem: třeba virtuálního kamaráda, se kterým se můžete pohádat o fotbale, protože fandí Arsenalu, nebo hudebního kritika ze Švýcarska, který rád vypráví o symfo­niích česko-rakouského hudebního skladatele Gustava Mahlera (1860–1911).

Funguje to? Ne vždycky. S Alanem Turingem si můžete dobře popovídat o jeho práci za druhé světové války, ale virtuální fotbalista Lionel Messi si nestačil všimnout, že od letoška hraje za Inter Miami. A další postava, virtuální knihovnice Linda, která má o knížkách vědět všechno, má Karla Čapka usazeného do takového kontextu, že tvrdí, že jeho hra Matka je o tom, co se stane, když v rodině matku nahradíte robotem. A trvá na tom, i když se jí snažíte říct, že to není pravda. Prý si to vygooglovala. To jsou ale všechno drobné bolístky, které časem zmizí. Vývoj jde neskutečně rychle dopředu, protože výzkum umělé inteligence stojí neuvěřitelné množství peněz a o ještě větší balík v budoucnu se hraje. Kdo ty velké peníze nemá, bude převálcován. Zatímco startup Character.AI získal od investorů asi 200 milionů dolarů, nezisková organizace OpenAI, která stojí za ChatGTP, 50krát víc.

Až bude pozdě…

Co tak snadno nezmizí, jsou problémy etické a bezpečnostní. Umělá inteligence umí víc než jen generovat text nebo obrázek. Může číst a odpovídat na e-maily, objednávat letenky, spouštět libovolný kód, být napojena na cokoli dalšího. Jsme zpátky u příkladu s vypínačem. Co když sice rozsvěcí světlo, jak očekáváme, ale zároveň ještě potají spouští něco jiného? Když je jejím úkolem číst e-maily a plnit úkoly, které jsou v nich zadané, jak má poznat, že zrovna tenhle úkol dělat nemá, protože je podvržený nebo nevhodný nebo prostě jenom nedůležitý, otravný? Jak dokážeme toto nebezpečí ošetřit, když je pro nás vnitřní fungování AI magií?

Nedávné průlomy v konverzační a generativní umělé inteligenci – AI, která pomáhá vytvářet obsah – potvrdily, že data, tedy množství vstupních dat, je ještě důležitější než výpočetní kapacita. Čím více dat, tím lépe. Samozřejmě nejenom v oblasti umělé inteligence. Například firma Pave vám přesně ukáže, jestli svým zaměstnancům platíte víc nebo míň než jiné firmy podobné velikosti ve stejné lokalitě nebo oboru. Odkud Pave ta data bere? Jejím zákazníkem se můžete stát, jen pokud jí umožníte přístup do svého výplatního systému. A s každým novým zákazníkem jsou data, která získáte na oplátku, preciznější. Platforma RentHop v New Yorku vám řekne, jestli neplatíte za nájem víc než vaši sousedé. Samozřejmě pokud jim řeknete, kolik platíte. Všechny tyto informace mají cenu zlata pro ty, kdo je sbírají. Pro nás ne, sdílíme je rádi.

Ale pokud jsou výsledky AI natolik závislé na datech, není pak jenom obrazem nás, kteří ta data vytváříme? Nebude chybovat jako my, jen rychleji a častěji? Stovky společností po celém světě se snaží vyřešit problém správy informací a znalostí ve firmách. Nastoupíte do nové práce, máte přístup k jejich intranetu se všemi dokumenty, slajdy, směrnicemi, tabulkami – jak najít tu správnou informaci? Jak poznáte, co je relevantní, co zastaralé, co chybné? Když půjdu za kolegou zeptat se jej, proč zákazníkovi tvrdí něco, co není pravda, může říct: našel jsem to napsané v tomhle dokumentu.

Umělá inteligence ale neví proč. Neví, kde to našla, neumí říct, co přesně jsou její zdroje. Snadno si ji personifikujeme, projektujeme do ní lidské vlastnosti, ba i emoce, považujeme ji za kolegyni s většími znalostmi a zkušenostmi, než máme my, ale je to jen halda našich dat a spousta statistických výpočtů. Když novinář shrne, o čem celý den jednali politici, můžu mu věřit, nebo nevěřit, ale obvykle si to nebudu ověřovat. Když mi umělá inteligence shrne v pěti odstavcích obsah hodinového videa, budu tomu věřit, nebo nevěřit? Mohu si video pustit a sám se přesvědčit. Co budu dělat, když půjde o tisíce hodin videí, která není v lidských silách vidět?

Žijeme v době, kdy telefony rozpoznají naše obličeje a hlasy, kdy digitální asistenti odpovídají na e-maily a domlouvají schůzky, kdy počítače generují obrazy z textového zadání. Jak je tedy možné, že umělá inteligence nedokáže říct, o čem je Čapkova Matka, když je to na webu shrnuto v tisících čtenářských deníčků? Proč se vám všude na webu zobrazují reklamy na ledničku, když jste si právě jednu koupili? Protože čím je technologie složitější, tím je nejen těžší rozpoznat, jak funguje, a ověřit, že funguje dobře, ale také těžší rozpoznat, které úlohy jsou jednoduché a které složité. Co se nám zdá jednoduché, tomu budeme věřit; zdánlivě složité věci možná ani nezkusíme. Skutečných nebezpečí si všimneme, až bude pozdě. Zajímavé časy na nás přišly.

Autor pracoval v San Francisku v oboru informačních technologií