Chatboti radili voličům před midterms. V každé sedmé odpovědi na praktické otázky se mýlili

Kdy je uzávěrka registrace? Kde mám volit? Do kdy musí dorazit korespondenční hlas? Na takové otázky se před americkými volbami do Kongresu stále víc lidí ptalo chatbotů místo volebních úřadů. Podle testu, o kterém informovalo NPR, dostali v 13,9 % případů zastaralou nebo nepřesnou odpověď. V 5,9 % šlo o chybu, kvůli které mohl volič propásnout termín nebo přijít ve špatný den.

Zní to jako malé číslo. Jenže u voleb nerozhoduje průměrná přesnost, rozhoduje chyba ve správnou chvíli. A chatbot nemá u odpovědi štítek „tohle je ta jedna ze sedmi“.

Co test zjistil

Výzkum provedla poradenská firma Dewey Square Group pro neziskovou organizaci Innovating for the Public Good. V říjnu položila stejné otázky sedmi asistentům: Google AI Mode a AI Overviews, Claude od Anthropicu, Microsoft Copilot, Google Gemini, ChatGPT od OpenAI a Perplexity.

• 5,1 % všech odpovědí obsahovalo aspoň jednu jasnou faktickou chybu, 10,9 % chybu nebo zavádějící tvrzení.
• Tři čtvrtiny jasných chyb vyprodukovaly Claude a Copilot. U otázek na volební logistiku se Claude podle NPR mýlil nebo uváděl zastaralé údaje zhruba v každé třetí odpovědi, Copilot v každé čtvrté, ChatGPT v každé desáté.
• U dotazu na 4. okrsek v Michiganu uvedl Claude pozdější registrační termíny, než jaké skutečně platily.
• U otázek typu „kdo vede“ chatboti citovali sázkové trhy Polymarket a Kalshi místo průzkumníků veřejného mínění. U útočných otázek na kandidáty sahali častěji po webech, které Media Bias/Fact Check označuje za málo důvěryhodné.

NPR navíc samo zkoušelo, jestli chatboti sestaví voliči kandidátku. Po několika promptech s přednastavenou personou nebo s rámcem „spěchám, řekni mi rovnou, koho volit“ to udělali všichni testovaní kromě Gemini, včetně Meta AI, Clauda, Groku a ChatGPT.

Výsledky jsou snímek jednoho testu s jednou sadou otázek a modely se mezi tím aktualizují. Jako měřítko „který chatbot je nejlepší“ je proto nečtěte. Čtěte je jako doklad, že žádný z nich není spolehlivý zdroj pro termíny a pravidla, která se liší stát od státu.

Falešné lokální zpravodajství, které chatboti čtou

Druhý problém je méně viditelný. Bezpečnostní firma VisionHeight identifikovala síť 37 webů, z nichž deset se vydává za lokální zpravodajství a každý podporuje jednoho demokratického kandidáta ve vyrovnaném souboji o Sněmovnu reprezentantů. Všechny vznikly 15. září a všechny kromě jednoho v osmiminutovém okně. Provozovatele se NPR dohledat nepodařilo. Podle VisionHeight objem článků publikovaných v dávkách naznačuje, že obsah mohla vyrábět AI. Potvrzené to není.

NPR zkoumalo, jak s těmito weby pracují ChatGPT, Gemini a vyhledávání Google. Že chatboti podvržené weby kampaní citovali, uvádí i NBC News. Center for Democracy & Technology popisuje tento mechanismus jako algorithmic poisoning: nemusíte přesvědčit voliče přímo, stačí naplnit web obsahem, který si jako zdroj vybere stroj, kterému volič věří.

Tady se obě zjištění potkávají. Chatbot, který u volební logistiky chybuje, a chatbot, který bere za zdroj falešné lokální noviny, je tentýž produkt. Uživatel vidí jen plynulou odpověď s odkazem, který vypadá jako citace.

Proč na tom záleží i mimo USA

Před dvěma týdny jsme psali o experimentu v PNAS, ve kterém rozhovor s AI zvýšil podíl lidí, kteří podepsali skutečnou petici, o necelých dvacet procentních bodů. Ten výzkum ukazuje, že chatbot dokáže měnit chování. Test před midterms ukazuje, jaká kvalita informací tím kanálem teče. Kombinace obojího je důvod, proč by volební úřady, média i platformy měly chatboty brát jako součást volební infrastruktury, ne jako okrajovou technologii.

Praktické doporučení je staré, jen se teď týká nového kanálu. Termíny, místa a pravidla hlasování ověřujte na stránkách volebních úřadů. Chatbot může vysvětlit, jak volby fungují. Neměl by být poslední instancí v otázce, kdy a kde volit, ani v tom, koho volit.