#wildchat

Když AI sebejistě tvrdí nepravdy, lidé je přejímají a věří jí dál. Dvě studie o tom, jak (ne)kontrolujeme AI

V experimentu s 32 lidmi převzali účastníci nepravdu od AI asistenta zhruba ve dvou třetinách případů, drželi ji s vysokou jistotou a jejich důvěra k asistentovi se skoro nezměnila. Analýza půl milionu konverzací doplňuje, že AI často tvrdí, že čerpá ze zdrojů, ale odkaz dá jen výjimečně.