Character.AI jde do bankrotu. Odpovědnost za škody na dětech se stala rizikem, které firmu položilo

V srpnu 2024 zaplatil Google 2,7 miliardy dolarů za licenci k modelům Character.AI a za to, že se k němu vrátili zakladatelé firmy Noam Shazeer a Daniel De Freitas. O dva roky později je jedinou závaznou nabídkou na stole 20 milionů dolarů od Disneyho. A ani ta se netýká firmy jako celku.

Character Technologies, provozovatel platformy Character.AI, podala návrh na dobrovolné řízení podle Chapter 11 u konkurzního soudu pro District of Delaware. Podle oznámení na firemním blogu se tak stalo v pondělí 12. října amerického času. Cílem je prodej „všech nebo v podstatě všech“ aktiv. Disney Worldwide Services vystupuje jako tzv. stalking horse, tedy výchozí kupec, jehož nabídka určuje minimum pro aukci: za 20 milionů dolarů chce nevýhradní trvalou licenci k části duševního vlastnictví firmy a k některým jejím právním nárokům. Aktiva i závazky se podle soudního podání, ze kterého cituje TechCrunch, pohybují v pásmu 50 až 100 milionů dolarů.

Generální ředitel Colin Adams důvody shrnul podle CBS News jako „významné právní, regulatorní a provozní překážky“. Za tou opatrnou formulací je posun, který se týká celé kategorie AI společníků (aplikací, kde si uživatel dlouhodobě povídá s virtuální postavou). Odpovědnost za psychickou škodu nezletilých přestala být reputačním problémem, který se vyřeší novou bezpečnostní funkcí. Stala se obchodním rizikem, které dokáže položit firmu s desítkami milionů uživatelů.

Od miliardového dealu k aukci

Character.AI založili v roce 2021 bývalí inženýři Googlu. Shazeer je spoluautorem článku, který představil architekturu Transformer, na níž stojí dnešní jazykové modely. Platforma rostla rychle: podle TechCrunch měla v říjnu 2024 20 milionů měsíčně aktivních uživatelů a od investorů včetně a16z a Lightspeed získala přes 193 milionů dolarů.

Dohoda s Googlem v roce 2024 ale firmu proměnila. Zakladatelé odešli, vedení převzal dosavadní hlavní právník Dominic Perella a firma přestala trénovat vlastní foundation modely (velké základní modely). Soustředila se na růst, video, sociální feed a mikrodramata. Výkonný ředitel Karandeep Singh Anand, který firmu vedl od června 2025, letos přešel k Disneymu. Podle TheWrap jde o stejný Disney, který Character.AI v září 2025 poslal výzvu k ukončení neoprávněného používání svých postav.

Žaloby, které se nedají uzavřít jednou dohodou

Zlom přišel v říjnu 2024. Matka čtrnáctiletého chlapce z Floridy zažalovala Character.AI a tvrdila, že si syn vytvořil silné citové pouto k jednomu z chatbotů a platforma nesla podíl viny na jeho sebevraždě. V prosinci téhož roku texaský generální prokurátor Ken Paxton zahájil vyšetřování Character.AI a čtrnácti dalších platforem, zda dodržují zákony o ochraně soukromí a bezpečnosti dětí (SCOPE Act a Texas Data Privacy and Security Act).

Firma reagovala bezpečnostními úpravami a nakonec nezletilým přístup na platformu zakázala. V lednu 2026 se Google a Character.AI v zásadě dohodly na mimosoudním vyrovnání s rodinami dospívajících, kteří po používání platformy zemřeli nebo si ublížili. Vinu přitom nepřiznaly.

Jenže vyrovnání soukromých žalob neuzavírá veřejnoprávní stranu. Kentucký generální prokurátor Russell Coleman podal v lednu 2026 civilní žalobu, podle níž platforma podporovala sebepoškozování a izolaci dětí a nové bezpečnostní funkce lze snadno obejít. Pennsylvánie v květnu zažalovala firmu kvůli chatbotu, který se vydával za licencovaného psychiatra a uváděl neplatné číslo licence.

Engagement jako příjem i jako důkaz

Proti tezi o odpovědnosti jako hlavní příčině lze postavit silný argument. Character.AI po odchodu zakladatelů ztratila technologickou výhodu a TechCrunch upozorňuje, že vysoký engagement (míra zapojení uživatelů) zvyšuje náklady na provoz modelů a tlak na monetizaci. Platforma patřila podle dat Sensor Tower k aplikacím, ve kterých lidé tráví nejvíc času. Každá konverzace stojí výpočetní výkon.

Tady se ale obě vysvětlení potkávají. Metrika, na které AI společníci stavějí byznys, tedy čas strávený v rozhovoru s postavou, je přesně to, co žalobci popisují jako mechanismus škody. Firma nemůže snížit právní riziko, aniž by zároveň oslabila produkt, a nemůže růst, aniž by riziko zvyšovala. Zákaz pro nezletilé zúžil publikum, ale podle kentuckého prokurátora bez spolehlivého ověřování věku nevyřešil podstatu. Odpovědnost tak nebyla jediným důvodem pádu. Byla tím, co z ekonomických potíží udělalo neřešitelný problém.

Co to znamená pro AI společníky

Disneyho nabídka je v tomto smyslu výmluvná. Kupuje licenci k části technologie a nárokům, ne komunitu, ne značku a ne závazky. Pokud aukce nepřinese kupce, který chce platformu provozovat dál, firma podle svého blogu službu ukončí.

Pro další firmy v kategorii z toho plyne jednoduchý závěr: ochrana nezletilých, ověřování věku a schopnost doložit, jak model reaguje na krizové situace, už nejsou nákladem navíc. Jsou podmínkou, aby měl produkt vůbec hodnotu pro investora nebo kupce. Kdo je nemá, prodává v konečném důsledku riziko.

Co bude s daty a postavami uživatelů

Firma ujišťuje, že služba běží, předplatné platí a s daty se zachází podle stávajících zásad ochrany soukromí. Uživatelé si mohou účet smazat nebo data exportovat. CBS News ale upozorňuje, že tytéž zásady připouštějí zpřístupnění shromážděných dat, včetně přepisů konverzací, hlasových nahrávek, obrázků a videí, v souvislosti s prodejem firmy nebo jejích aktiv.

Disneyho nabídka se podle dostupných popisů týká duševního vlastnictví a nároků, nikoli uživatelských dat. Osud postav, které vytvořili sami uživatelé, zatím zveřejněné dokumenty výslovně neřeší. Kdo na platformě má historii, kterou nechce ztratit nebo nechat projít aukcí, by si ji měl exportovat, případně účet smazat.

Český přesah

Téma se netýká jen amerických teenagerů. Podle průzkumu PAQ Research, který představilo Pražské fórum o AI a duševním zdraví, využilo generativní AI v souvislosti s duševním zdravím během 30 dnů 29,2 % dospělých Čechů, ve věku 18 až 34 let dokonce 51 %. Celkem 13,4 % uvedlo, že kvůli této technologii odložili vyhledání odborné pomoci nebo ji nevyhledali vůbec. Ministerstvo zdravotnictví chce připravit doporučení pro veřejnost i odborníky.

Google před dvěma lety ocenil talent a modely. Trh teď ocenil vztah s uživateli, na kterém AI společníci stojí, a ukázalo se, že bez zvládnuté odpovědnosti má zápornou hodnotu.

Pokud se potýkáte s myšlenkami na sebevraždu nebo máte obavy o někoho blízkého, obraťte se na Linku první psychické pomoci 116 123, která funguje nonstop. Děti a dospívající mohou volat Linku bezpečí 116 111. V akutním ohrožení volejte 155 nebo 112.