Pařížská výzva slibuje vypínače pro AI modely. Podepsalo 17 států a deset firem, USA ani Česko ne

V předvečer Pařížského mírového fóra vznikla 9. listopadu Pařížská výzva k bezpečnosti a ochraně AI. Nejvíc pozornosti přitahuje jeden závazek: vývojáři nejvýkonnějších modelů mají zavést mechanismy, které dokážou bezpečně zastavit provoz modelu pod jejich kontrolou, a to i během tréninku.

Prvotní zprávy, například The Decoder, mluvily o osmi státech. Oficiální seznam na stránkách Elysejského paláce, který je otevřený dalším signatářům, uvádí k 13. listopadu sedmnáct: Bahrajn, Estonsko, Finsko, Francii, Chorvatsko, Irsko, Kanadu, Keňu, Kypr, Lichtenštejnsko, Lotyšsko, Lucembursko, Německo, Nizozemsko, Norsko, Portugalsko a Rakousko. V první verzi článku jsme Německo mezi signatáři neuváděli. Spojené státy, Velká Británie ani Česko mezi signatáři nejsou.

Kdo podepsal a k čemu

Z firem se připojily Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI a Synthesia. Google, Meta ani xAI na seznamu nejsou. Signatáři z občanské společnosti zahrnují mimo jiné LawZero, SaferAI a francouzský institut Ifri.

Závazky se dělí do tří bloků:

• Společné hodnocení rizik. Rámec pro hodnocení frontier modelů se zaměřením na zneužití v kyberbezpečnosti a u zbraní hromadného ničení a na ztrátu kontroly. Necitlivé výsledky testů se mají zveřejňovat ve standardizovaném formátu a ve sdíleném veřejném úložišti.
• Odpovědnost. Vývojáři mají zveřejňovat schopnosti, limity a známá rizika modelů, podporovat nezávislé hodnocení tam, kde je to přiměřené, mít mechanismy pro zastavení provozu a řešit riziko, že někdo z modelu s otevřenými vahami odstraní pojistky.
• Sdílení informací. Systémy rychlého varování, sjednocená klasifikace incidentů a bezpečné kanály pro oznamovatele, kteří upozorňují na systémová rizika.

Co výzvě chybí

Text nestanovuje žádné termíny, nevytváří orgán, který by plnění kontroloval, a neobsahuje sankce. Spolupráci má teprve upravit „strukturovaný rámec“, jehož podoba ani harmonogram nejsou známé. The Decoder ji proto popisuje jako politický sebezávazek. Mnohé body přitom velké laboratoře už dnes deklarují ve vlastních bezpečnostních rámcích. Nové je hlavně to, že je podepsaly společně s vládami.

Nejvýmluvnější je kontrast s Washingtonem. Americké ministerstvo spravedlnosti 5. listopadu zřídilo Super Intelligence Task Force. Kromě koordinace vyšetřování souvisejících s AI má převzít i soudní napadání zákonů jednotlivých států, které vývojářům AI ukládají povinnosti. Prezident Trump přitom 9. listopadu podle Reuters řekl, že mu pojistky pro AI nevadí, pokud regulace nenechá USA zaostat za Čínou.

Výsledek je zvláštní. Americké firmy OpenAI, Anthropic a Microsoft se v Paříži zavázaly k věcem, ke kterým se jejich vlastní vláda nezavázala, a ta zároveň buduje nástroj proti státním zákonům, které po nich chtějí podobné věci.

Proč to sledovat

Pařížská výzva sama nic nevynutí. Může ale posloužit jako měřítko. Až některá z podepsaných firem vydá další model, bude možné se ptát, zda zveřejnila výsledky testů ve slíbeném formátu a zda vypínač existuje i jinde než v tiskové zprávě. Pro Evropu je navíc výzva doplňkem k AI Actu, který na rozdíl od ní vymahatelný je.

Aktualizováno 13. 11. 2026: Na oficiální seznam signatářů přibylo Německo, státy jsou nyní sedmnáct. Upravili jsme titulek i text.