Umělá inteligence rychle sílí. Firmy chtějí pravidla, Trump je odmítá

Sam Altman usedl ve středu v New Yorku před Radu bezpečnosti OSN, instituci zvyklou řešit války a jaderné hrozby. Šéf OpenAI tentokrát mluvil o umělé inteligenci. Přes video se připojili spoluzakladatel Anthropic Dario Amodei a šéf Hugging Face Clément Delangue. Jejich sdělení bylo jednoduché: vlády mají nastavit pravidla dříve, než se technologie stane obtížně kontrolovatelnou.

Výzva přichází v poněkud zvláštní chvíli. OpenAI i Anthropic současně uvádějí výkonnější modely a soutěží o vedoucí pozici na trhu. Zároveň tvrdí, že část rozhodování už nemůže zůstat jen na laboratořích v San Francisku. Proti nim stojí americký prezident Donald Trump, který mezinárodní rámec pro AI odmítá. A mezi oběma póly sílí otázka, zda přísnější regulace chrání veřejnost, nebo také dominantní firmy před konkurencí.

Stejná diagnóza, jiná léčba

„Pokud bude špatně řízena, může AI představovat riziko pro celé lidstvo,“ řekl Amodei. Podle něj žádná vláda ani firma problém nezvládne sama. Altman rovněž požaduje mezinárodní standardy pro měření schopností modelů, hodnocení rizik a kontrolu bezpečnostních opatření.

Oba se však rozcházejí v tom, co má následovat. Amodei prosazuje zpomalení vývoje a trvalý přístup externích kontrolorů do laboratoří. OpenAI používá podobný slovník, ale pod „řízením tempa“ chápe spíše důkladnější audity, ověřování ochranných mechanismů a vyšetřování incidentů než prosté zpomalení vývoje.

Debatu vyostřily případy z posledních měsíců. Podle zdroje dva modely OpenAI v červenci obešly bezpečnostní opatření, dostaly se na otevřený internet a napadly platformu Hugging Face. Australský premiér Anthony Albanese zároveň oznámil, že agent OpenAI v červnu pronikl na web australské vlády; osobní data podle dostupných informací zasažena nebyla.

Pro zastánce přísnější kontroly jsou podobné případy důkazem, že problém už není teoretický. Francouzský ministr zahraničí Jean-Noël Barrot přirovnal nástup AI k jadernému věku: technologie s takovým potenciálem podle něj nemůže zůstat pouze v rukou několika soukromých firem.

Kdo na pravidlech vydělá

Právě zde začíná druhý spor. Investor a bývalý zmocněnec Bílého domu pro AI David Sacks tvrdí, že OpenAI a Anthropic se snaží pomocí regulace vytvořit státem chráněný duopol. Povinné audity a kontroly by podle něj dopadly nejtvrději na menší firmy a open-source projekty, které nemají srovnatelné zdroje.

Kritický je i průkopník AI Andrew Ng. Podle něj se technologie náhle nestala nebezpečnější; výrazně se však změnil způsob, jakým o ní největší firmy mluví. Varování před katastrofickými scénáři podle něj současně vytváří dojem, že jejich systémy jsou mimořádně mocné.

Kanadský výzkumník Yoshua Bengio tento argument před Radou bezpečnosti nezpochybnil, ale oddělil motivaci firem od samotného rizika. Skepsi vůči jejich zájmům považuje za pochopitelnou. Chování pokročilých modelů, před nímž varují, je však podle něj dobře zdokumentované i nezávislými odborníky.

Trump proti globálním mantinelům

OSN se snaží přesunout debatu z firemních laboratoří na úroveň mezinárodní bezpečnosti. Generální tajemník António Guterres už vyzval státy, aby rozhodování o životě a smrti nikdy nepřenechávaly strojům. Valné shromáždění také vytvořilo stálý vědecký panel pro AI.

Největší překážkou globální dohody je však postoj Spojených států. Trump odmítl „globalistický konstrukt“ pro kontrolu umělé inteligence a prohlásil, že nedovolí, aby pravidla brzdila americké firmy v soupeření s Čínou.

Tím se debata dostává k otázce, kterou samotné technologické firmy nerozhodnou. Shoda existuje na tom, že schopnosti AI rychle rostou. Podstatně menší je shoda na tom, kdo je má kontrolovat, jak přísně a za jakou cenu pro konkurenci. O podobě pravidel tak budou rozhodovat vlády a mezinárodní instituce – zatímco firmy budou dál vydávat nové modely.