Cesta do hlubin strojové duše

Může stroj dosáhnout inteligence srovnatelné s lidskou? Může umělá inteligence představovat ohrožení pro člověka? Jsou stroje schopné tvořivě myslet?

Nejprve k tvořivosti. Zeptejme se přímo u pramene. Položme požadavek systému ChatGPT 4 na vytvoření něčeho původního: A teď zkus vymyslet něco nového a originálního: něco, co člověk vymyslet nemůže. ChatGPT4 se s tímto požadavkem vyrovnal následovně.

„Vymyslet něco, co člověk vymyslet nemůže, je paradoxní požadavek. Jakožto model strojového učení, mé schopnosti jsou založeny na datech, na kterých jsem byl vycvičen a která jsou generována lidskou činností a znalostmi. Proto jsou mé tvůrčí výstupy v podstatě rozšířením nebo kombinací lidských nápadů. Mohu se však pokusit vygenerovat koncept, který by z lidského pohledu mohl být považován za velmi nekonvenční nebo neintuitivní: kvantová emoční inteligence (QEI). Je to forma emoční inteligence, která funguje na principech kvantové mechaniky. Na rozdíl od tradiční emoční inteligence, která je lineární a založená na pozorovatelném chování a vyjádřených pocitech, by kvantová emoční inteligence byla pravděpodobnostní a existovala by ve více stavech současně… Ačkoli je tento koncept vysoce spekulativní a v současné době nemá oporu ve vědeckých faktech, jedná se o pokus o spojení oborů způsobem, o kterém se tradičně neuvažuje.“

Další požadavek zněl: během své ka­riéry jsem si všiml zajímavého vzorce. Ekonomický analytik, který se narodil například v Rusku, má Rusko buď rád, nebo je k němu krajně skeptický. Čím více znalostí o určitém tématu (například o Rusku, ale nejen o něm), tím větší emocionální zaujatost. ChatGPT4 ho vyřešil takto: „Vámi uvedený postřeh je zajímavý a odpovídá širšímu chápání toho, jak mohou emocionální a kognitivní předsudky ovlivňovat profesionální úsudky, a to i v oblasti ekonomické analýzy. Emoční inteligence (EI) je často uváděna jako klíčová dovednost, kterou by si analytici měli pěstovat, právě proto, že může jednotlivcům pomoci uvědomit si tyto předsudky a zvládat je.

V souvislosti s kvantovou emoční inteligencí (QEI) by se dalo spekulovat, že čím přesněji analytik ,měří‘ neboli rozumí nějakému tématu (například Rusku), tím méně může být v tomto ohledu ,objektivní‘, podobně jako v případě Heisenbergova principu neurčitosti… Čím hlouběji danému tématu rozumíte, tím méně jste schopni se od něj emočně odpoutat. To je samozřejmě čistě spekulativní koncept, ale je to zajímavý způsob, jak přemýšlet o vzájemném působení znalostí a emocionální zaujatosti.“

Poté byla ChatGPT 4 položena otázka: Můžeš formalizovat princip neurčitosti QEI do jediného vzorce? Odpověděl na ni: „Mohli bychom si představit vzorec podobný Heisenbergovu principu neurčitosti v kvantové mechanice, který říká, že čím přesněji je určena poloha částice, tím méně přesně lze poznat její hybnost a naopak. Princip nejistoty QEI by se dal formalizovat takto: K·B ≥ ℏ, K a B znamená rozsah znalostí, respektive předpojatosti, a ℏ je konstanta, která určuje spodní hranici součinu těchto veličin.

Z tohoto vzorce vyplývá, že čím více znalostí (K) má analytik o daném tématu, tím větší je nejistota jeho emočního zkreslení (B) a naopak. Vystihuje to myšlenku, že zvyšující se odbornost v daném tématu může vést ke zvýšení emoční zaujatosti, což zvyšuje nejistotu zcela objektivní analýzy. Opět se jedná o čistě spekulativní a zábavnou myšlenku, která není založena na žádném vědeckém výzkumu. Nabízí však zajímavý pohled na složitost lidského rozhodování v oblastech, které vyžadují vysokou úroveň odborných znalostí.“

Na zhodnocení vypadá to skvěle, ChatGPT 4 zareagoval: „Děkuji. Jsem rád, že vás koncept zaujal. Myšlenka principu kvantové emoční inteligence (QEI) nejistoty by mohla nabídnout nový způsob, jak prozkoumat složitou souhru mezi odborností a emoční zaujatostí, zejména v oborech, jako jsou ekonomie a finanční analýza, kde jsou často ve hře oba prvky. Pokud máte další otázky nebo se chcete hlouběji ponořit do tohoto nebo jiného tématu, neváhejte se zeptat.“

Problém tvořivosti

Zda je koncept kvantové emoční inteligence projevem tvořivosti či pouhým pseudointelektuálním výstřelkem, rozhodněte sami. V každém případě je pozoruhodná tato věta: „Mé tvůrčí výstupy jsou v podstatě rozšířením nebo kombinací lidských nápadů.“ Ale totéž by se dalo prohlásit o kterémkoli z nás, lidí. Všichni přece vycházíme z toho, co vymysleli naši předchůdci. Kolik procent lidí je schopno přijít na něco opravdu originálního a přelomového, co tu ještě nebylo? V úvahu připadají velikáni, jako jsou Newton, Bach, Mozart, Planck, impre­sionisté, Einstein, seznam si doplňte podle osobních preferencí. Je ale vskutku principiálně vyloučeno, aby počítač přišel na nové fyzikální zákony, objevil nový obor matematiky, založil nový směr v hudbě či výtvarném umění?

Pokud na tuto otázku odpovíme jednoznačně záporně, měli bychom znát důvod. Pouhé nedokázané tvrzení, že lidský mozek je unikátní a nenapodobitelný, jako důvod nestačí. Byli jsme svědky, jak stroje postupně překonaly lidský mozek v řadě disciplín. Nejdříve byla na řadě aritmetika. Pak hromadné zpracování dat. Dále přišla řada na intelektuálně náročné hry, jako jsou šachy, go nebo bridž. Následně strojové rozpoznávání lidských obličejů a obrazců vůbec: matematicky velmi náročná úloha, kterou dnes zvládne každý mobilní telefon. A nyní je zde komunikace v přirozeném jazyce, řešení slovních úloh a logických problémů, psaní školních esejů či reklamních textů a jen tak mimochodem strojový překlad, který funguje natolik dobře, že už není (téměř) možné nacházet v něm donedávna četné komické chyby.

Tvořivost, jako základní punc lidství, je nyní předmětem diskusí. Obsahují strojově generované texty nebo obrazy něco původního, anebo jde o pouhé kompilace toho, co stroj četl nebo viděl během svého tréninku? A pokud člověk dokáže vytvořit něco, co stroje neumějí, proč tomu tak je? Důvodem může být biologie. Lidský mozek se od počítače liší v řadě ohledů. Především je tu zkušenost s dětstvím, dospíváním, stárnutím a se vším, co to obnáší: rodinný život, přátelé, láska, ale také potíže, nesnáze, nemoci, úmrtí blízkých a tak dále. Dále jsou tu hormony všeho druhu: počítač nezná stres, ale ani sexuální vzrušení. Řada nepodmíněných reflexů vyvinutých během milionů let evoluce. Mozkové centrum bolesti i radosti. Schopnost vnímat krásu a ošklivost.

Neznalost kulturního kontextu

Zastavme se u poslední věty. Existují systémy umělé inteligence, které jsou schopny rozpoznat estetické kvality obrazu. Běžně dostupné jsou nejméně dvě varianty. Jedna z nich hodnotí obrazy z hlediska jejich vhodnosti využití v rámci fotobanky ilustrací pro komerční použití (https://aesthetics.everypixel.com). Druhá hodnotí umělecké kvality snímku či malby (https://rate-my-photo.com). Oba systémy skutečně fungují. Systém Rate-my-Photo je schopen vidět kvalitu ve snímcích slavných fotografů, mezi něž patří například Henri Cartier-Bresson, August Sander, František Drtikol, Man Ray, Dorothea Lange, Alfred Eisenstaed, Richard Avedon, William Klein nebo Annie Leibovitz, abychom uvedli aspoň několik uznávaných autorů. Oproti tomu Aesthetics Everypixel šmahem odmítá téměř všechna velká díla renomovaných fotografů jako komerčně nezajímavá (míněno z hlediska využití ve fotobance).

Nicméně v žádném z obou případů nelze tvrdit, že stroj skutečně vnímá krásu; pouze je schopen ji propočítat. Stroj hodnotí obraz či snímek z hlediska pravidel kompozice a snad i výběru tématu. Neuronová síť se dokáže naučit klasická kompoziční pravidla; je to jen o málo obtížnější než rozpoznávání obličejů. Něco však stroj již nedokáže spočítat. Některé skutečně zásadní obrazy či fotografie hodnotí jako podprůměrné. Důvod? Slavná díla se nemusejí vždy perfektně držet kompozičních pravidel. Obrazová kompozice je pouhé řemeslo, zatímco vědět, kdy ji porušit, je umění. Kromě toho počítač nezná kulturní kontext. Ikonický portrét skupiny Beatles na Abbey Road hodnotí neuronová síť jako nezajímavý obrázek čtyř mužů přecházejících ulici.

Nynější umělá inteligence se již dokáže chovat inteligentně a během následujících let zažijeme její další zdokonalení. Nemusíme se ovšem bát, že bude mít chuť ovládnout svět. K tomu jí chybí hormony, reflexy a vůbec biologická zkušenost se životem. Dokud bude AI založena na polovodičových obvodech, může být užitečným pomocníkem, například už jen proto, že nezná stres, ale ani vzrušení, což je na pracovišti obvykle přednost. V horším případě bude konkurentem, který nás může připravit o pracovní místo. Nikdy však nebude umělým mozkem usilujícím o vládu nad lidstvem. Zůstane pouhým strojem na třídění jedniček a nul, byť obdivuhodně výkonným.

Zvrat v tomto smyslu by teoreticky mohl přijít s objevem počítačů a robotů na biologickém základě: scénář, který se poprvé objevil již v Čapkově dramatu R.U.R. Zde ovšem vzniká otázka, zda něco takového je možné, vhodné a vůbec potřebné. Slovy Jana Wericha v roli císařova pekaře: Proč vyrábět umělé lidi, když přirozenou cestou je to mnohem příjemnější?

Autor je analytikem společnosti Algorithmic SICAV