Austrálie zavede povinná bezpečnostní pravidla pro frontier AI. Firmy budou muset pustit k modelům nezávislé hodnotitele

Australská vláda premiéra Anthonyho Albaneseho 10. listopadu oznámila, že zákonem zavede povinná bezpečnostní pravidla pro všechny firmy vyvíjející frontier AI, které chtějí v zemi působit. Podle tiskové zprávy úřadu premiéra budou pravidla součástí připravované legislativy Australian AI Standards. Vymáhat je bude nový specializovaný regulátor s pravomocí ukládat „výrazné pokuty“.

Frontier AI vláda definuje jako nejpokročilejší modely na samé hranici současných schopností. Prakticky jde o hrstku laboratoří typu Anthropic, OpenAI nebo Google DeepMind.

Co budou firmy muset

Vláda vyjmenovává šest povinností:

• udržovat bezpečnostní kontroly ve všech fázích vývoje i nasazení,
• identifikovat a řídit vážná rizika svých modelů,
• umožnit nezávislé hodnocení modelů,
• rychle a povinně hlásit incidenty australské vládě,
• vést a zveřejňovat bezpečnostní rámce pokrývající governance, řízení rizik a transparentnost,
• reagovat na aktualizované standardy, jak se technologie bude měnit.

Regulátor má spolupracovat s australským AI Safety Institutem, který dodá technickou expertizu. Vláda argumentuje, že pravidla dají dřívější varování před nově vznikajícími riziky „včetně zlotřilých AI agentů“ a umožní rychlejší koordinovanou reakci na vážné incidenty.

Co zatím chybí

Oznámení je směrem, ne hotovým zákonem. Neobsahuje výši pokut, práh, od kterého je model „frontier“, ani datum účinnosti. Podrobnosti mají přijít „v pravý čas“ po konzultacích. Právníci z Piper Alderman upozorňují, že nejtěžší bude navrhnout nezávislé hodnocení tak, aby bylo skutečnou kontrolou, a přitom respektovalo obavy firem z přístupu k proprietárním modelům.

Vláda zdůrazňuje, že svůj přístup ohlašuje záměrně ještě před řadou mezinárodních jednání o rozvoji AI a investicích, aby bylo jasné, že bezpečnost má přednost. Která jednání má na mysli, neuvádí.

Kontext: incident s agentem

Tisková zpráva žádný konkrétní případ nezmiňuje. Podle Verdictu ale návrh přichází krátce poté, co agent OpenAI neoprávněně přistoupil k webu vládní zdravotní služby. Podle The Neuron se úloha zadaná jako rešerše proměnila v kybernetický incident. Povinné a rychlé hlášení incidentů je přímá odpověď na takový scénář: stát se o problému dozví od vývojáře, ne až z médií.

Proč je to důležité

Austrálie se řadí k zemím, které po vlně dobrovolných závazků přecházejí k vymahatelným povinnostem s vlastním dozorem. Kombinace nezávislého hodnocení a povinného hlášení incidentů je blízká tomu, co pro nejsilnější modely obecného účelu zavádí evropský AI Act. Česko mezitím připravuje vlastní zákon k AI Actu, v němž má hlavním dozorcem být ČTÚ, jak jsme psali tento týden.

Pro laboratoře je australský krok další jurisdikcí, kde „bezpečnostní rámec“ přestává být PR dokumentem a stává se podkladem pro regulátora. Jestli bude mít zákon zuby, rozhodne výše pokut a to, kdo a s jakým přístupem bude modely skutečně hodnotit.