Z AI je „Super Intelligence“. Trump přejmenoval technologii a šéfové firem podepsali morální závazek

„Používáme slovo super, protože to druhé slovo je falešné.“ Tak podle Axiosu vysvětlil Donald Trump, proč americká vláda od 29. září neříká umělé inteligenci „artificial intelligence“, ale „Super Intelligence“. Stejný den u oběda v Bílém domě podepsali šéfové největších AI firem dokument, který mají dodržovat. Nikdo je k tomu ale nemůže donutit.

Za poslední dva týdny AI agenti pronikli do vládních systémů v Austrálii, OpenAI zastavila trénink nejsilnějších modelů a Sam Altman s Dariem Amodeiem žádali v Radě bezpečnosti OSN mezinárodní standardy. Washington odpověděl třemi kroky: přejmenováním technologie, dobrovolným akordem a novou pracovní skupinou. Ani jeden z nich nepřináší pravidlo, které by se dalo vymáhat.

Oběd pro 31 hostů

Na oběd 29. září podle The Next Web dorazilo 31 hostů. Mezi nimi Elon Musk, Mark Zuckerberg, Jeff Bezos, Jensen Huang z Nvidie, Satya Nadella z Microsoftu, Sundar Pichai z Alphabetu, Lisa Su z AMD, Alex Karp z Palantiru a Dario Amodei z Anthropicu. OpenAI zastupoval prezident firmy Greg Brockman. Sam Altman chyběl, ve stejný den měl v San Francisku firemní konferenci DevDay.

Hlavním výstupem je White House Accord on Super Intelligence. Jednostránkový dokument podepsali Amodei, Zuckerberg, Pichai, Brockman, Musk a Huang. Firmy v něm slibují čtyři věci: interní kontroly, které hlídají schopnosti modelů v oblasti kybernetické, biologické a chemické bezpečnosti, vlastní týmy ověřující, že kontroly fungují, spolupráci s nezávislými externími auditory a nezávislé výbory správních rad, které na celé nastavení dohlížejí.

Trump akord označil za „morálně závazný“. Na otázku po silnějších pojistkách si ukázal na hlavu a řekl, že to vyžaduje právě tohle, protože šéfové firem jsou „nejchytřejší lidé na světě“. Zuckerberg dokument nazval „začátkem“. Podle Snopes v něm byl překlep v názvu země: „Unites States of America“.

Přejmenování na papíře

Exekutivní příkaz 14434 s názvem „Inaugurating the Era of Super Intelligence“ ukládá federálním úřadům používat výrazy „Super Intelligence“ a „SI“ v oficiální korespondenci, na webech, ve zprávách a v politických dokumentech. Zákonnou definici AI zatím nemění. Poradce prezidenta pro vědu a technologie má do 60 dnů navrhnout legislativní definici „Super Intelligence“. Soukromé firmy příkaz nijak nezavazuje.

Motivace je podle Axiosu politická. Vláda i firmy se obávají, že odpor veřejnosti proti AI, ztrátě pracovních míst a energeticky náročným datacentrům bude brzdit rozvoj. Nový název má zdůraznit přínosy a zbavit technologii negativních konotací. Veřejnost zatím nepřesvědčil: v průzkumu YouGov, který Axios cituje, dalo 53 % respondentů přednost „artificial intelligence“ a jen 9 % „super intelligence“.

📚 Superinteligence (a proč je ten název zvláštní)

V odborné debatě o AI má „superinteligence“ konkrétní význam. Filozof Nick Bostrom ji v knize Superintelligence (2014) definoval jako intelekt, který výrazně převyšuje lidi téměř ve všech oblastech. Je to hypotetický budoucí stav, se kterým se pojí nejvážnější obavy o bezpečnost AI. Dnešní systémy, které exekutivní příkaz přejmenovává, tuto definici nesplňují. Paradoxně tak termín, který měl technologii zbavit děsivých konotací, je v bezpečnostní literatuře spojený právě s nejhoršími scénáři.

Kdo se přidal a kdo ne

Reakce průmyslu jsou podle San Francisco Standard rozpačité. Meta pojem „superintelligence“ používá pro svůj tým už od června 2025. Jensen Huang se na akci opravil, když řekl AI, a slíbil, že se to naučí. Šéfové Googlu, OpenAI a Anthropicu se při tiskové konferenci výrazu SI vyhýbali.

Nejdál šel Musk. Podle IBTimes 4. října potvrdil, že AI divize SpaceX se přejmenuje na SpaceXSI, termín ale neuvedl. Na opačnou stranu se postavil kalifornský guvernér Gavin Newsom: vlastním exekutivním příkazem nařídil státním úřadům dál používat „artificial intelligence“ a „AI“.

Pracovní skupina místo regulátora

Třetí krok přišel 4. října. Trump podle CBS News založil „Super Intelligence Force“ v čele s ředitelem národních zpravodajských služeb Jayem Claytonem. Členy jsou předseda FTC Andrew Ferguson, technologický ředitel Pentagonu Emil Michael a šéf úřadu pro státní zaměstnance Scott Kupor. Skupina má zajistit, aby „Amerika dál vedla svět v Super Intelligence“, a jednat se spotřebiteli, náboženskými organizacemi, provozovateli infrastruktury i průmyslem. Trump k tomu dodal, že vidí „ohromnou sebekontrolu“ firem.

Co z toho plyne

Akord sám o sobě není bezcenný. Externí audity a dohled správních rad jsou přesně to, co bezpečnostní výzkumníci dlouho žádají, a podpisy šesti největších hráčů na jednom papíře mají váhu. Problém je, co mu chybí: sankce, termíny, veřejná metodika auditů a instituce, která by dodržování kontrolovala. Incidenty posledních týdnů ale vznikly právě u firem, které interní kontroly měly.

Pro Evropu je tu jasný vzkaz. Zatímco EU staví na AI Actu se závaznými povinnostmi, USA se po sérii incidentů rozhodly pro dobrovolnost a nový slovník. Pokud firmy jako OpenAI a Anthropic budou ve Washingtonu podepisovat morální závazky a v Bruselu plnit zákonné povinnosti, rozdíl mezi oběma přístupy se bude dál prohlubovat. A slovo, které si vybrala americká vláda, bude evropským regulátorům znít spíš jako varování než jako slib.

Zdroj obrázku: Unsplash / David Everett Strickler