AI už není jen pošťák. Soudy ji berou jako autora, uživatelé jako soudce pravdy

Koncem srpna upozornil kolega jednoho lékaře z Cách na nepříjemnou věc. Když se někdo zeptal Googlu v režimu AI Mode na lékařův odchod z funkce, dostal souvislou odpověď o několika odstavcích, která mu připisovala závažný trestný čin a soudní řízení. Nic z toho se lékaře netýkalo. Podle serveru The Decoder AI spojila jeho jméno s trestní kauzou jiného bývalého profesora.

Lékař požádal Google o odstranění textů. V polovině září se dozvěděl, že firma nic dělat nebude. Dne 24. září pak Zemský soud v Cáchách vydal předběžné opatření (sp. zn. 8 O 268/26, jak uvádí právní server beck-aktuell), kterým Googlu zakázal další šíření tří variant sporného textu. Rozhodl bez předchozího slyšení Googlu a podle The Decoderu hrozí za každé porušení pokuta až 250 000 eur. Rozhodnutí není pravomocné.

Na celém případu není nejzajímavější samotná chyba. Halucinace, tedy sebejistě podané smyšlenky jazykových modelů, jsou známý problém. Podstatné je, komu ji soud připsal. Cášští soudci převzali úvahu mnichovského rozsudku z května: odpověď generovaná AI není cizí obsah, který Google jen zprostředkuje, ale jeho vlastní výrok. Ve stejné době vyšla studie, která ukazuje druhou stranu téže mince. Lidé už AI ve velkém používají jako rozhodčího, který říká, co je pravda. Jakmile AI mluví vlastními slovy, přestává být pošťákem. Stává se autorem, a s tím přichází i odpovědnost.

Od odkazu k výroku

Klíčový precedens přišel z Mnichova. Zemský soud Mnichov I rozsudkem z 28. května 2026 (sp. zn. 26 O 869/26) vyhověl dvěma mnichovským nakladatelstvím, která AI Overviews, tedy AI souhrny zobrazované nad výsledky vyhledávání, spojovaly s podvody a pochybnými obchodními praktikami. Soud dovodil, že Google za tyto texty odpovídá jako přímý rušitel (v německém právu „unmittelbare Störerin“), ne jako nepřímý zprostředkovatel. AI podle něj zdroje vybírá, hodnotí a skládá do nové struktury, takže vytváří, jak cituje beck-aktuell, „eigenständige, neue und inhaltliche Äußerungen“: samostatné, nové a obsahové výroky.

Soud odmítl i argument, že si uživatel může informace v odkazovaných zdrojích ověřit. Souhrn se podle něj čte jako uzavřené tvrzení. Data mu dávají za pravdu: měření Pew Research Center z roku 2025 ukázalo, že uživatelé klikli na odkaz přímo v AI souhrnu jen při jednom procentu návštěv. Podrobnosti rozsudku shrnul The Decoder v červnu. Zajímavá je i úvaha o svobodě projevu. Výstup AI podle rozsudku „gerade nicht Ausdruck einer gewonnenen Überzeugung“, tedy není vyjádřením něčího přesvědčení, a zájem Googlu proto musí ustoupit, pokud tvrzení stojí na nepravdivých faktech.

Google ohlásil odvolání. Podle The Decoderu však mnichovský spor skončil narovnáním s neznámými podmínkami, takže úvahu prvoinstančního soudu nikdy nepřezkoumal vyšší soud. Že ji o čtyři měsíce později převzal jiný zemský soud, a to u odlišné funkce (AI Mode místo AI Overviews), je proto důležitější, než by se mohlo zdát.

Proč záleží na slově „vlastní“

Rozdíl mezi zprostředkovatelem a autorem není akademický. Evropský Akt o digitálních službách (DSA) v článcích 4 až 6 chrání takzvané zprostředkovatele. Nejznámější je hosting safe harbor (bezpečný přístav pro hostingové služby): platforma neodpovídá za obsah, který na ni nahrají uživatelé, pokud o jeho protiprávnosti neví a po upozornění jedná. Celá konstrukce stojí na předpokladu, že autorem je někdo jiný. Klasické vyhledávače z podobné logiky těžily i v judikatuře německého Spolkového soudního dvora: odpovídaly omezeně, typicky až poté, co je někdo na problém upozornil.

Mnichovský soud tuto ochranu odmítl použít. Google podle rozsudku nevystupuje jen jako poskytovatel hostingu („nicht nur als Hostprovider“), a článek 6 DSA proto na AI souhrny nedopadá. Odmítl i obdobné privilegium notice-and-takedown (odstranění obsahu až po oznámení) pro vyhledávače. Analýza na portálu MediaLaws z toho vyvozuje, že výchozí premisa DSA, totiž že zprostředkovatel jen ukládá cizí obsah a zpřístupňuje ho, na generativní vyhledávání přestává sedět.

Zde je namístě opatrnost. Obě rozhodnutí padla v řízení o předběžném opatření u soudů prvního stupně. Jak by stejnou otázku posoudil německý Spolkový soudní dvůr nebo Soudní dvůr EU, zatím nikdo neví. Směr úvahy je ale čitelný, a cášský soud k němu přidal praktický detail: Google podle něj mohl výstup porovnat se zdroji a jeho vlastní AI by chybu nejspíš odhalila, kdyby se zabýval lékařovými námitkami.

Druhá strana: AI jako soudce

Zatímco soudy řeší, kdo odpovídá za lživé výroky AI, uživatelé jí svěřují opačnou roli. Studie „Fact-check? True!“ Morgana Wacka z Curyšské univerzity a Patricka Warrena z Clemson University, zveřejněná na arXivu 12. října, mapuje, jak lidé na síti X označují Groka pod cizími příspěvky a ptají se ho, zda jsou pravdivé. Autoři podle plného textu práce získali desetiprocentní náhodný vzorek dotazů na Groka z období od 1. ledna do 28. února 2026, celkem 47 899 žádostí o ověření.

První zjištění vyvrací intuici, že lidé k AI fact-checkerovi táhnou hlavně podezřelé lži. Grok označil za přesné a nepřesné téměř stejné podíly zpochybněných příspěvků. U těch, kde vynesl jasný verdikt pravda, nebo nepravda, vyšel poměr 51,4 ku 48,6 procenta ve prospěch pravdy. Grokův verdikt samozřejmě není totéž co pravda. Naznačuje ale, že velká část toho, co lidé zpochybňují, pravděpodobně pravdivá je.

O tom, jak se na X šíří nepravdivý obsah generovaný AI, jsme psali už na jaře. Tahle studie se dívá z opačného konce: co se stane s pravdou, které lidé nevěří.

Pravda, kterou nikdo nepotvrdí

Odpověď je překvapivě jednoznačná: skoro nic. Community Notes, crowdsourcingový systém, ve kterém uživatelé k příspěvkům připisují kontext, se k drtivé většině zpochybněných příspěvků vůbec nedostal. Podle abstraktu víc než 83 procent z nich neobdrželo žádnou poznámku (v těle práce autoři uvádějí 84,4 procenta) a zobrazenou poznámku mělo jen 3,3 procenta. U příspěvků, které Grok vyhodnotil jako pravdivé, zůstalo bez jakékoli poznámky 89,6 procenta.

Nejvíc vypovídá jiné číslo. Přispěvatelé Community Notes napsali 2 981 poznámek, které zpochybněné příspěvky naopak potvrzovaly. Nezobrazila se ani jedna. Autoři při auditu zdrojového kódu hodnoticího algoritmu našli filtr, který poznámky klasifikované jako „not misleading“ (nezavádějící) ze zobrazení vylučuje. Systém je postavený tak, aby uměl říct „tohle je lež“. Větu „tohle je pravda“ říct nedokáže, i když ji lidé napíšou.

Tady se nabízí obrat. Snadné čtení zní: AI fact-checker je riskantní, protože halucinuje, a lidský crowdsourcing je bezpečnější. Data ale ukazují, že lidský systém má strukturální slepou skvrnu. Pravdivé informace, o kterých lidé pochybují (autoři je nazývají „doubted truths“), nechává bez odpovědi. Grok tu mezeru zaplňuje ne proto, že by byl lepší, ale protože často jako jediný vůbec odpoví. Wack a Warren doporučují zvážit zobrazování potvrzujících poznámek za stejně přísných podmínek, jaké platí pro poznámky upozorňující na zavádějící obsah.

Jeden hlas, dvojí role

Oba příběhy spojuje stejný posun. V Cáchách AI řekla vlastními slovy něco nepravdivého o konkrétním člověku a soud za to učinil odpovědným provozovatele. Na X říká AI vlastními slovy „je to pravda“ a často je jediným hlasem, který to řekne. V obou případech už nejde o vyhledávač, který ukazuje na cizí texty, ale o mluvčího, který vynáší soudy.

Právo a uživatelé tak dospívají ke stejnému závěru z opačných stran. Soudy začínají výstup AI chápat jako řeč provozovatele. Lidé ho chápou jako verdikt. Zda by stejná logika odpovědnosti dopadla i na verdikty chatbotů typu Groka, zatím žádný soud neřešil. Otázka ale visí ve vzduchu: kdo dostal roli soudce, těžko se dlouho bude schovávat za roli pošťáka.