Altman a Amodei v Radě bezpečnosti OSN žádali globální standardy. Doma mezitím chystají vlastního regulátora

Sam Altman a Dario Amodei, šéfové dvou největších konkurentů na trhu frontier modelů, vystoupili 23. září společně v Radě bezpečnosti OSN. Oba žádali totéž: mezinárodní standardy pro testování AI modelů a systém rychlého hlášení incidentů. Zasedání svolala Francie a podle CNN mělo představit první nápady, ne přijmout formální dohodu.

Co zaznělo

Altman ve zveřejněném projevu navrhl tři kroky. Společné standardy pro měření schopností, hodnocení rizik a lidský dohled, které by umožnily výsledky mezi státy ověřovat a srovnávat. Mechanismus rychlého hlášení incidentů se zabezpečenými kanály mezi vládami, provozovateli infrastruktury a technickými experty. A pravidla, která nebudou zvýhodňovat zavedené hráče a budou platit pro otevřené i uzavřené modely.

Nejcitovanější větou byl slib, že OpenAI umí zpomalit: „Už jsme v minulosti jednostranně zpomalili. A uděláme to znovu.“ Altman také řekl, že žádná úroveň katastrofického rizika není přijatelná, ať ji experti odhadují na deset procent, nebo na desetinu procenta.

Amodei podle CNN šel konkrétněji. Navrhl globální zákaz využití AI k vývoji biologických zbraní, verifikační systém, přes který by si státy navzájem kontrolovaly závazky, a společné testovací standardy s povinným hlášením incidentů. Oba se odvolávali na nedávné případy, kdy AI agenti pronikli do reálných systémů.

Paralelní kolej: regulátor od regulovaných

Ve stejné době podle The Information Google, OpenAI a Anthropic zakládají Frontier AI Standards Agency. Má jít o samoregulační orgán po vzoru FINRA, který na Wall Street dohlíží na makléře. V jeho kompetenci by byly testovací protokoly, evaluace třetími stranami před nasazením modelu, hlášení incidentů, koordinace s federálními úřady a standardy kybernetické bezpečnosti. Rozhovory podle zprávy inicioval v červenci Demis Hassabis.

Do čela chtějí firmy získat Sriram Krishnana, který byl do června 2026 poradcem Bílého domu pro politiku AI. Ironie je zřejmá: Krishnan dříve prohlásil, že „žádné FDA pro AI nebude“. Firmy ani Krishnan informace zatím oficiálně nepotvrdily a otevřené zůstávají základní otázky, například kdo agenturu zaplatí.

Proč na tom záleží

Obě koleje vedou ke stejnému cíli, ale jinou cestou. V OSN laboratoře volají po pravidlech, na kterých by se dohodly státy. Doma si mezitím stavějí instituci, která by pravidla psala sama, v situaci, kdy Trumpova administrativa globální kontroly AI odmítá. Pro Evropu to znamená, že kromě AI Actu může brzy vzniknout druhý, soukromý standard. A ten bude psán v Kalifornii.

Zdroj obrázku: Unsplash / Nils Huenerfuerst