#nis2

Člověk ve smyčce jako razítko: proč dohled nad AI agenty selhává potichu

Lidský dohled má být hlavní pojistkou proti chybám AI agentů. Experiment Anthropicu, preprint z MIT, data ze 655 firem a série incidentů ukazují, že lidé často jen schvalují to, co agent navrhl, a tiché chyby nevidí.