Bílý dům vrhá stín na AI. Chce státní kontrolu

Administrativa prezidenta Donald Trump podle informací deníku The New York Times zvažuje, že by nové modely umělé inteligence musely před zveřejněním projít státní kontrolou. Opatření je zatím ve fázi interních debat a mohlo by mít podobu exekutivního příkazu.

Podle zdrojů obeznámených s jednáním se diskutuje o vytvoření pracovní skupiny, která by sdružila zástupce vlády i technologického sektoru. Jejím úkolem by bylo posoudit možné formy dohledu, včetně formálního schvalovacího procesu pro nové AI systémy. O záměru byli již informováni manažeři firem jako Anthropic, Google či OpenAI.

Bezpečnost jako hlavní argument

Impulzem k debatě je mimo jiné model Claude Mythos od společnosti Anthropic. Systém je považován za mimořádně schopný při odhalování bezpečnostních zranitelností v softwaru, což zároveň vyvolává obavy z jeho možného zneužití. Firma proto jeho zveřejnění odložila.

V americké administrativě sílí obavy, že rychlý vývoj AI může představovat bezpečnostní riziko, například v podobě rozsáhlých kybernetických útoků. Paralelně se posuzuje i potenciál těchto technologií pro vojenské a zpravodajské využití. Podobné obavy zazněly i v Evropě.

Možný obrat v dosavadní politice

Případné zavedení kontrol by znamenalo výrazný posun oproti dosavadnímu přístupu USA, který byl založen spíše na minimálních zásazích státu. Trumpova administrativa navíc dříve některé regulační kroky svých předchůdců omezila.

Debata ale není jednotná. Část aktérů v politice i byznysu podporuje přísnější dohled kvůli bezpečnosti, zatímco jiní varují, že regulace může oslabit konkurenceschopnost amerických firem v globálním závodě o vývoj AI.

Bílý dům oficiálně označil informace o konkrétních plánech za spekulace. Konečné rozhodnutí má podle něj oznámit přímo prezident. Otevřené zůstává, zda převáží bezpečnostní argumenty, nebo obavy z dopadu na inovace – a kdo bude mít při nastavování pravidel rozhodující slovo.