Ne jak přesná je AI, ale jak dobře ví, kdy se mýlí

Pro kalibraci důvěry v AI nestačí přesnost. Klíčová je metakognitivní sensitivita: schopnost AI rozlišit své správné a nesprávné odpovědi. Méně přesná AI s lepším sebehodnocením může být pro člověka užitečnější než přesnější AI, která neví, kdy chybuje.

✅ Peer-reviewed · Publikováno května 2025 · Data sbírána na [konceptuální paper, bez empirického sběru dat] · PNAS Nexus, Vol. 4(5)

Co studie zjistila

Když AI systém poskytuje vysoké confidence skóre, lidé mu více důvěřují. To je dobře zdokumentovaný fenomén. Ale Lee, Pruitt, Zhou, Du a Odegaard z Florida Atlantic University a University of Florida ukazují, že samotná confidence není dostatečný signál pro dobré rozhodování. Klíčové je něco jiného: jak dobře AI rozlišuje mezi svými správnými a nesprávnými odpověďmi pomocí confidence ratingu. Autoři tento koncept nazývají metakognitivní sensitivita.

Rozdíl mezi přesností, kalibrací a sensitivitou je subtilní, ale zásadní. AI může mít 85% přesnost a dobře kalibrované confidence (když říká 85 %, má pravdu v 85 % případů), ale přesto mít nízkou sensitivitu. To nastává, když AI přiřazuje podobné confidence skóre svým správným i nesprávným odpovědím. Člověk pak nemůže použít confidence jako signál, kdy AI důvěřovat a kdy ne.

Proč méně přesná AI může být užitečnější než přesnější Vizualizace: FAIN News na základě konceptuálního frameworku z Lee et al. (2025).

🔍 Metakognitivní sensitivita (Type 2 AUROC)

Metrika z perceptní psychologie, která měří, jak dobře systém (nebo člověk) rozlišuje své správné a nesprávné odpovědi pomocí confidence ratingu. Technicky jde o plochu pod ROC křivkou druhého řádu (Type 2 AUROC): na jedné ose je podíl správných odpovědí s vysokou confidence, na druhé podíl špatných odpovědí s vysokou confidence. Čím větší plocha, tím lépe systém ví, kdy má pravdu a kdy ne. Hodnota 0,5 znamená, že confidence nerozlišuje. Hodnota 1,0 by znamenala perfektní metakognici, tedy že systém vždy ví, kdy se mýlí.

Autoři navazují na významný poznatek z perceptní psychologie: když dva lidé (nebo člověk a AI) spolupracují na rozhodování, optimální strategie není jen hledět na to, kdo má pravdu častěji. Důležitější je, zda každý z nich umí spolehlivě signalizovat svou jistotu. Paper formalizuje optimální strategii pro human-AI hybridní rozhodování: člověk by měl váhu AI rady adjustovat podle jejího confidence skóre, ale tato strategie funguje jen tehdy, když je metakognitivní sensitivita AI dostatečně vysoká.

📚 Perceptual metacognition a joint decision-making (Bahrami et al., 2010)

Landmark studie v časopise Science ukázala, že dva lidé spolupracující na percepcním úkolu mohou dosáhnout lepšího výkonu než každý z nich sám, ale pouze pokud každý umí spolehlivě komunikovat svou míru jistoty. Když jeden z partnerů měl špatnou metakognici (jeho confidence neodpovídala realitě), společný výkon klesl pod úroveň lepšího jedince. Lee a kol. tento princip přenášejí na human-AI teaming: AI systém s nízkou metakognitivní sensitivitou je pro společné rozhodování bezcenný, i když má vysokou přesnost.

Jak to zjistili

Jde o konceptuální paper, nikoliv o empirickou studii s vlastním sběrem dat. Autoři staví na existujícím výzkumu v perceptní metakognici (zejména na práci Bahramiho a kol. z roku 2010 o optimálním společném rozhodování) a přenášejí tyto principy do kontextu human-AI interakce. Formalizují matematicky framework, který specifikuje, za jakých podmínek může člověk optimálně využít AI confidence pro zlepšení vlastního rozhodování. Síla paperu není v nových datech, ale v tom, že propojuje dvě dosud oddělené výzkumné tradice: perceptní metakognici a human-AI trust.

Lee je postdoktorand ve Floridě, Odegaard je asistent profesor kognitivní vědy. Tým kombinuje expertise v perceptní psychologii, rozhodování a výpočetních modelech, což odpovídá povaze paperu: jde o přesah z laboratorní kognitivní vědy do reálného světa AI systémů.

Proč je to důležité

Většina debaty o důvěře v AI se soustředí na přesnost: jak často má AI pravdu? Lee a kol. přesouvají pozornost na fundamentálnější otázku: ví AI, kdy má pravdu a kdy ne? A umí to komunikovat? Tento posun má praktické důsledky pro design AI systémů.

Dnešní velké jazykové modely (LLM) často produkují confidence signály, které špatně korelují se skutečnou přesností. Model může tvrdit, že "si je jistý na 95 %", ale toto číslo často neodpovídá realitě. Pokud uživatelé začínají používat confidence jako signál pro rozhodování (a výzkum ukazuje, že to dělají), nízká metakognitivní sensitivita AI je větším problémem než nízká přesnost. Přesné AI bez dobře kalibrované confidence je jako expert, který neví, co neví.

Pro navázanost na předchozí brief o dynamické kalibraci důvěry: Liebherr a kol. (2026) ukazují, že důvěra se mění v čase. Lee a kol. přidávají: aby se měnila správným směrem, AI musí umět komunikovat ne jen predikce, ale i kvalitu těchto predikcí. Bez metakognitivní sensitivity není kontinuální kalibrace možná, protože člověk nemá spolehlivou zpětnou vazbu.

Limity a otevřené otázky

Paper je konceptuální, ne empirický. Framework je formálně elegantní, ale dosud nebyl testován na reálných human-AI rozhodovacích úlohách. Autoři sami to přiznávají a navrhují experimentální design pro budoucí validaci.

Přesun z perceptního rozhodování (jednoduché vizuální úlohy s jasnou správnou odpovědí) na složitější rozhodování (texty, analýzy, strategické volby) není triviální. U perceptních úloh existuje objektivně správná odpověď a metakognitivní sensitivita se dá přesně měřit. U otevřených úloh (napište strategii, zhodnoťte riziko) je definice "správné odpovědi" sama o sobě problematická.

Paper nezohledňuje, že metakognitivní sensitivita AI se může lišit napříč doménami. Model může mít vynikající sensitivitu v jedné oblasti (kde má kvalitní trénovací data) a špatnou v jiné. Uživatel by musel vědět, kde přesně sensitivita platí, což přidává vrstvu komplexity.

Zdroje:

Hlasový souhrn:

Když AI systém říká, že si je jistý, je to užitečná informace? Jen pokud AI umí rozlišit, kdy má pravdu a kdy se mýlí. Nová studie v PNAS Nexus tento koncept nazývá metakognitivní sensitivita a argumentuje, že je pro kalibraci důvěry v AI důležitější než samotná přesnost. Principy převzali z perceptní psychologie: když dva lidé spolupracují na rozhodování, lepší výsledky nezíská ten, kdo má častěji pravdu, ale ten, kdo lépe ví, kdy si je jistý. Pro AI systémy to znamená změnu priorit. Méně přesná AI, která umí spolehlivě signalizovat nejistotu, může být pro člověka užitečnější než přesnější AI, která neví, co neví.

{
  "title": "Ne jak přesná je AI, ale jak dobře ví, kdy se mýlí",
  "excerpt": "Pro kalibraci důvěry v AI nestačí přesnost. Klíčová je metakognitivní sensitivita: schopnost AI rozlišit své správné a nesprávné odpovědi.",
  "category": "human-ai",
  "section": "research",
  "format": "research-brief",
  "paper_doi": "10.1093/pnasnexus/pgaf133",
  "paper_authors": "Lee, Pruitt, Zhou, Du & Odegaard (2025)",
  "paper_journal": "PNAS Nexus",
  "paper_status": "peer-reviewed",
  "paper_published": "2025-05",
  "data_collected": "N/A (konceptuální paper)",
  "og_image_source": "FAIN News vlastní vizualizace",
  "og_image_credit": "FAIN News",
  "sources": [
    "https://doi.org/10.1093/pnasnexus/pgaf133",
    "https://doi.org/10.1126/science.1185718",
    "https://doi.org/10.1007/s10009-026-00840-6"
  ],
  "reading_time_minutes": 5,
  "publish_date": "2026-04-05",
  "audioUrl": "/audio/ne-jak-presna-je-ai-ale-jak-dobre-vi-kdy-se-myli.mp3"
}