OpenAI представила Codex CLI, локальный агентный инструмент, который упрощает работу с кодом на компьютере пользователя. Это решение будет особенно полезно разработчикам, создающим собственных агентов или стремящимся сократить расходы на инференс и управление контекстом.
Codex CLI использует традиционную модель agent loop: пользователь инициирует запрос, после чего система формирует развернутое руководство в виде большого промпта. Модель отвечает текстом или вызывает инструмент, после чего агент обрабатывает команду и добавляет результаты в контекст, что инициирует новый цикл. Важно помнить о жестком лимите: все инструкции из AGENTS.md и корневых директорий проекта собираются в один JSON, размер которого не превышает 32 Кб.
Кроме того, внимание уделяется проблеме затрат на контекст. История диалога растет, что может привести к высокому росту расходов. Для решения этой проблемы используется кэширование промптов, позволяющее поддерживать линейные затраты, однако кэш чувствителен к изменениям.
Изменена архитектура API: Codex CLI перешел на stateless модель работы. Все состояния диалога хранятся на стороне клиента в зашифрованном виде, что обеспечивает режим Zero Data Retention.
При заполнении контекстного окна автоматически запускается механизм компакции для сжатия старых сообщений в компактный блок. OpenAI также сообщила, что Codex CLI можно использовать не только с их серверами, но и с локальными моделями. В будущем будут представлены более подробные материалы по архитектуре и инструментам Codex.
tasani.ru