OpenAI zrychlil GPT-6.1 Sol až osmkrát. Režim Ultrafast míří do API, Codexu a ChatGPT Work
Nový režim Ultrafast slibuje u modelu GPT-6.1 Sol až osminásobnou rychlost generování oproti standardu. V API stojí 12 dolarů za milion vstupních a 60 dolarů za milion výstupních tokenů.
Tento článek vznikl zpracováním veřejně dostupných zdrojů pomocí AI nástrojů. Každý text se snažím přečíst a věcně zkontrolovat, ale ne vždy to zvládnu. Prosím, berte na to ohled a informace si ověřujte v původních zdrojích (níže).
Tento článek vznikl zpracováním veřejně dostupných zdrojů pomocí AI nástrojů. Každý text se snažím přečíst a věcně zkontrolovat, ale ne vždy to zvládnu. Prosím, berte na to ohled a informace si ověřujte v původních zdrojích (níže).
OpenAI ve čtvrtek začal zpřístupňovat režim Ultrafast pro model GPT-6.1 Sol. Podle oznámení firmy generuje až osmkrát rychleji než standardní režim Sol. Osminásobek je horní hranice („up to“), ne průměr.
Rychlost něco stojí. V API vychází Ultrafast na 12 dolarů za milion vstupních a 60 dolarů za milion výstupních tokenů. OpenAI ho cílí na úlohy, kde rozhodují sekundy: ladění výpadku, agenty ovládající aplikace a živé interaktivní aplikace. Dokumentace režimu doporučuje připojení přes WebSockets, protože u agentů s mnoha rychlými voláními nástrojů by režie opakovaných HTTP požadavků zrychlení zčásti spolkla. HTTP přes SDK ale funguje také. Ultrafast má vlastní limity propustnosti, oddělené od standardního a rychlého režimu, a vedle GPT-6.1 Sol ho podporuje i GPT-6 Astra.
V Codexu a ChatGPT Work je režim dostupný v tarifu Pro 500, ve vybraných Enterprise tarifech s platbou podle využití a v kreditních Edu tarifech. Ve firmách ho musí zapnout administrátor. Ultrafast u GPT-6.1 Sol podporuje uložení dat v USA i EU, což je pro evropské firmy podstatné. U GPT-6 Astra je to zatím jen v USA. OpenAI zároveň přidal evropskou rezidenci dat pro rychlé režimy GPT-6.1 Sol Fast a GPT-6 Luna Fast.
Jde o produktovou úpravu, ne o nový model. Ukazuje ale, kam se posouvá konkurence: vedle chytrosti modelů se čím dál víc soutěží v rychlosti, protože agent, který na každý krok čeká desítky sekund, se v reálné práci špatně používá.