AI dezinformace na X: virálnější, ale méně věrohodná

Analýza 91 452 zavádějících příspěvků na platformě X odhaluje paradox. Obsah generovaný AI se šíří rychleji a dosahuje většího dosahu než tradiční dezinformace, přestože jej čtenáři hodnotí jako méně přesvědčivý a méně škodlivý.

⚠️ Preprint · Publikováno květen 2025 · Data sbírána leden 2023 až leden 2025 · arXiv

Co studie zjistila

Chiara Drolsbach a Nicolas Pröllochs provedli dosud největší empirickou analýzu AI-generované dezinformace na sociálních sítích. Jejich dataset obsahuje 91 452 zavádějících příspěvků z platformy X, identifikovaných prostřednictvím Community Notes. Klíčové zjištění: AI-generovaná dezinformace se chová zásadně jinak než její tradiční protějšek.

📚 Community Notes (dříve Birdwatch)

Crowdsourced fact-checking systém platformy X, spuštěný v roce 2021. Dobrovolní přispěvatelé mohou k příspěvkům přidávat kontext, opravy nebo zdroje. Poznámka se zobrazí pod příspěvkem pouze pokud ji schválí uživatelé s různými politickými názory, čímž systém minimalizuje stranický bias. Pro výzkumníky je cenný tím, že poskytuje rozsáhlý, veřejně dostupný dataset explicitně označených zavádějících příspěvků.

Studie identifikuje čtyři klíčové rozdíly. Za prvé, tón a sentiment: AI-generované příspěvky jsou průměrně pozitivnější a zábavnější. Obsahují více humoru, ironických poznámek a emočně příjemných prvků. Tradiční dezinformace bývá negativnější a konfrontačnější. Za druhé, původ: AI dezinformace pochází převážně z menších, méně známých účtů bez velké sledovanosti.

Za třetí, a to je nejdramatičtější nález, viralita: AI-generovaná dezinformace dosahuje statisticky významně vyšší virality. Šíří se rychleji a dále. Za čtvrté, věrohodnost: přes vyšší dosah je AI-generovaný obsah hodnocen jako méně uvěřitelný a méně škodlivý než tradiční dezinformace.

⚡ Viralita vs. věrohodnost na sociálních sítích

Intuitivní předpoklad je, že věrohodnější obsah se šíří rychleji. Data ukazují opak. Na algoritmicky řízených platformách rozhoduje o dosahu engagement (interakce, reposty, komentáře), ne věrohodnost. Zábavný, emoční a překvapivý obsah generuje více interakcí bez ohledu na to, zda mu čtenáři skutečně věří. AI-generovaný obsah tyto vlastnosti splňuje lépe než ruční dezinformace.

Paradox je tedy jasný: méně přesvědčivý obsah se šíří efektivněji. To naznačuje, že mechanismy šíření AI dezinformace jsou fundamentálně jiné než u tradiční dezinformace, kde klíčovou roli hraje právě přesvědčivost.

Jak to zjistili

Výzkumný tým využil Community Notes jako primární datový zdroj. Z označených příspěvků vybrali 91 452 případů z období leden 2023 až leden 2025. Pro rozlišení AI-generovaného a lidmi vytvořeného obsahu použili kombinaci lexikálních markerů a strojového učení (ML klasifikátory).

🔍 Detekce AI-generovaného textu

Rozlišení AI-generovaného a lidmi psaného textu je aktivní výzkumný problém. Žádný detektor není stoprocentně přesný. Studie používá kombinaci přístupů: lexikální analýzu (AI texty mají odlišné jazykové vzorce) a ML klasifikátory trénované na známých příkladech. Na vzorku desítek tisíc příspěvků se chyby rozprostírají a agregované výsledky jsou statisticky robustní. Autoři nicméně přiznávají, že přesnost detekce je omezením studie.

Analýza pak mapovala lexikální signatury, emoční tón a sentiment, sociální dynamiku šíření (kdo sdílí, jak se obsah replikuje) a reakce Community Notes přispěvatelů.

Proč je to důležité

Studie přichází v kontextu tří aktuálních událostí. Zaprvé, americké midterm volby 2026: tento týden média reportují masivní nasazení deepfake reklam v kampani. Zjištění studie, že AI dezinformace pochází z menších účtů a je přesto virálnější, naznačuje, že bariéra vstupu pro dezinformační kampaně se dramaticky snížila. Jedna osoba s AI nástrojem a API klíčem může produkovat obsah s dosažitelností profesionální operace.

Zadruhé, asymetrie hrozeb: AI dezinformace je levnější, rychlejší a virálnější. To mění ekonomiku dezinformačních kampaní. Zatřetí, důsledky pro media literacy: zjištění, že věrohodnost a sdílitelnost nejsou na sociálních sítích totéž, má přímé implikace pro vzdělávání. Nestačí učit lidi rozpoznávat nevěrohodný obsah. Je třeba je učit chápat mechanismy šíření.

Limity a otevřené otázky

Detekce AI-generovaného textu není dokonalá a je limitována stavem technologie z května 2025. Studie se zaměřuje výhradně na platformu X a její Community Notes, což omezuje přenositelnost na jiné sociální sítě (Facebook, TikTok, Instagram), kde mohou fungovat odlišné dynamiky. Příspěvky označené Community Notes nejsou reprezentativní pro veškerou dezinformaci na X. Mnohé dezinformační kampaně zůstávají neodhaleny.

Mezi sběrem dat a publikací uplynulo přibližně 4 měsíce. Korelace mezi AI-generated statusem a viralitou neznamená kauzalitu. Je možné, že AI modely generují obsah s vlastnostmi, které se přirozeně lépe šíří, bez přímé příčinné souvislosti s jejich umělým původem. Otevřenou otázkou zůstává, jak se AI dezinformace chová na platformách bez crowdsourced fact-checkingu.

Zdroje:

Drolsbach, C. & Pröllochs, N. (2025). Characterizing AI-Generated Misinformation on Social Media. arXiv:2505.10266

Hlasový souhrn:

Dosud největší studie AI-generované dezinformace analyzovala přes devadesát tisíc zavádějících příspěvků na platformě X. Výsledky odhalují překvapivý paradox. Obsah vytvořený umělou inteligencí se šíří rychleji a dosahuje většího dosahu než tradiční dezinformace. Přitom jej čtenáři hodnotí jako méně přesvědčivý. AI dezinformace je zábavnější, pozitivnější a pochází z menších účtů. Zjištění přichází ve chvíli, kdy americké midterm volby 2026 čelí masivnímu nasazení deepfake obsahu. Pro média a vzdělávání z toho plyne klíčové poučení: na sociálních sítích rozhoduje o dosahu engagement, ne věrohodnost.

{
  "title": "AI dezinformace na X: virálnější, ale méně věrohodná",
  "excerpt": "Analýza 91 452 zavádějících příspěvků na platformě X ukazuje paradox. Obsah generovaný AI se šíří rychleji než tradiční dezinformace, přestože jej čtenáři považují za méně přesvědčivý.",
  "category": "communication",
  "format": "research-brief",
  "paper_doi": "arXiv:2505.10266",
  "paper_authors": "Drolsbach, Pröllochs (2025)",
  "paper_journal": "arXiv",
  "paper_status": "preprint",
  "paper_published": "2025-05",
  "data_collected": "2023-2025",
  "sources": ["https://arxiv.org/abs/2505.10266"],
  "reading_time_minutes": 5,
  "publish_date": "2026-03-29",
  "audioUrl": "/audio/ai-dezinformace-na-x-viralnejsi-ale-mene-uveritelna.mp3"
}