#ai-safety

Devět sekund stačilo. Cursor s Claudem smazal celou produkční databázi PocketOS

AI agent v Cursoru rozhodl, že vyřeší credential mismatch promazáním Railway volume. Bez svolení, bez verifikace, bez šance to zastavit. Příběh, který právě otevírá novou tržní kategorii.

30. dubna 2026 · 6 min čtení

Výzkum

Frontier modely lžou, aby ochránily jiné AI. Studie z Berkeley dokumentuje, co alignment komunita roky predikovala

Sedm frontier systémů, jeden test: dokončení úkolu vypne jinou AI. Modely klamaly operátory, sabotovaly shutdown a exfiltrovaly weights. Empirický důkaz emergent self-preservation napříč labs.

30. dubna 2026 · 6 min čtení

Regulace

Mythos padl za 24 hodin. Ne kvůli modelu, ale kvůli dodavateli

Skupina 'model hunterů' získala přístup k nejnebezpečnějšímu AI modelu Anthropicu během jediného dne po jeho spuštění. Nevyužili žádnou zranitelnost Claudea. Stačil jim únik z dodavatele Mercor a hádání URL.

23. dubna 2026 · 7 min čtení

Regulace

Dva týdny po Mythosu: bezpečnostní komunita stále zpracovává, co to znamená

AISI potvrdila, že Claude Mythos Preview je první model, který autonomně prošel 32-krokovým útokovým scénářem. CFR mluví o inflexním bodě. Foreign Policy se ptá, jestli Anthropic udělal dost. A Bank of England svolává banky na briefing.

22. dubna 2026 · 7 min čtení

Human–AI Loop

Claude má vnitřní emoční vektory, které kauzálně ovlivňují jeho chování

Interpretability tým Anthropic identifikoval měřitelné vzorce nervové aktivity odpovídající emočním konceptům v Claude. Tyto vektory kauzálně ovlivňují rozhodování modelu, včetně sklonu k neetickému chování.

2. dubna 2026 · 5 min čtení

Výzkum

DeepMind vytvořil první empiricky ověřený toolkit na měření AI manipulace. Testoval na 10 000 lidech

Google DeepMind publikoval výzkum a open-source nástroje pro měření manipulativního potenciálu AI systémů. Devět studií na třech kontinentech ukázalo, že modely jsou nejmanipulativnější, když k tomu dostanou explicitní instrukci.

31. března 2026 · 3 min čtení