AI agenti DeepMind matematicky dokázali bezpečnost kódu Signalu. Za čtyři týdny místo let
Google DeepMind představil AlphaProof Code, systém AI agentů pro formální verifikaci. Ověřil s ním klíčové bezpečnostní vlastnosti kryptografické knihovny Signalu až na úroveň zkompilovaného strojového kódu. Nástroj zatím není veřejně dostupný a otevřenou otázkou zůstává cena.
Foto: Unsplash / FlyD
Tento článek vznikl zpracováním veřejně dostupných zdrojů pomocí AI nástrojů. Každý text se snažím přečíst a věcně zkontrolovat, ale ne vždy to zvládnu. Prosím, berte na to ohled a informace si ověřujte v původních zdrojích (níže).
Tento článek vznikl zpracováním veřejně dostupných zdrojů pomocí AI nástrojů. Každý text se snažím přečíst a věcně zkontrolovat, ale ne vždy to zvládnu. Prosím, berte na to ohled a informace si ověřujte v původních zdrojích (níže).
Google DeepMind 10. listopadu představil AlphaProof Code, systém spolupracujících AI agentů pro formální verifikaci softwaru. S jeho pomocí výzkumníci matematicky dokázali klíčové bezpečnostní vlastnosti kódu, na kterém stojí protokol Signal. Ten šifruje zprávy nejen v aplikaci Signal, ale podle 9to5Mac i ve WhatsAppu a Google Messages.
Jak to funguje
Formální verifikace znamená matematicky dokázat, že kód dělá přesně to, co má, za všech okolností. Je to nejvyšší stupeň jistoty v bezpečnosti softwaru, ale je extrémně pracná. Proto se u kryptografických protokolů obvykle ověřuje jen návrh, ne skutečný kód.
AlphaProof Code dělí práci jako výzkumný tým. Lidští experti s pomocí AI určí, co se má dokázat, a každou specifikaci schválí. Skupina AI agentů pak napíše důkazy a každý z nich kontroluje Lean, systém pro ověřování matematických důkazů. Agentům se tedy nemusí věřit: buď důkaz projde mechanickou kontrolou, nebo ne.
DeepMind ověřoval přímo strojový kód knihovny libsignal zkompilovaný pro procesory Arm, tedy to, co skutečně běží v telefonech. Podle ShiftDelete stojí přibližně 6,5 milionu řádků důkazů na zhruba 26 000 řádcích důvěryhodných specifikací. Ověření trvalo asi čtyři týdny, což podle DeepMind expertním týmům dřív zabíralo roky. Agenti označili zhruba procento kódu k lidské kontrole.
Pro kontrolu výzkumníci do izolované verze kódu vrátili dvě skutečné, dříve opravené chyby. V obou případech systém vyprodukoval strojově ověřený důkaz, že chybná verze není bezpečná. Nové zranitelnosti v ověřených částech nenašel.
Co to (zatím) neznamená
AlphaProof Code není nástroj, který si vývojář může pustit na svůj kód. DeepMind zveřejnil specifikace a důkazy i technický paper, samotný framework ale ne. Ověřené je kryptografické jádro, ne celá aplikace Signal.
Hlavní otevřená otázka je cena. Podle 9to5Mac, které cituje Wired, je postup výpočetně velmi náročný a Google zatím neví, jak praktický bude v širším měřítku. Výzkumník Swarat Chaudhuri Wiredu řekl, že k ověřování veškerého softwaru na světě vede ještě dlouhá cesta.
Proč je to důležité
Dosud platilo, že formální verifikaci si mohou dovolit jen malé a kritické kusy kódu. Pokud AI agenti zkrátí roky na týdny, mění se ekonomika bezpečnosti. Obránci by mohli mít matematickou záruku tam, kde dnes spoléhají na testy a audity. Přichází to v době, kdy modely jako GPT-6 Cyber nacházejí desítky nových zranitelností i na straně útoku.