Налог на контекст: куда утекают токены при кодинге с ИИ‑агентами

В статье на Habr AI автор провёл измерения стоимости токенов в 40 реальных сессиях разработки, где использовались два популярных AI‑ассистента: Claude Code (Anthropic) и Codex (OpenAI). Основная цель – понять, какая часть расходов действительно покрывает «мозговую работу» модели, а какая «налогом» является многократная передача уже известного контекста.

Методика. Для каждой сессии фиксировались: количество входных токенов (контекст), количество выходных токенов (сгенерированный код) и стоимость в долларах (по текущим тарифам). Сессии охватывали задачи от простых функций до интеграции внешних API, длительностью от 10 мин до 1 ч.

Ключевые цифры:

• Средний объём входных токенов за сессию – 12 000, из них 70‑75 % приходилось на повторную отправку уже переданных фрагментов (например, импортов, объявлений функций, комментариев).
• Выходные токены составляли лишь 25‑30 % от общего количества токенов, но генерировали большую часть полезного кода.
• В денежном выражении средний счёт за одну сессию составил $3,2; из них $2,4 (≈75 %) ушли на контекст, $0,8 – на генерацию.

Почему так происходит? AI‑модели требуют полного контекста для каждой новой подсказки. При интерактивной работе разработчик часто «добавляет» новые строки к уже отправленному коду, а система вынуждена получать весь предыдущий код заново, даже если он не изменился. Это приводит к экспоненциальному росту токенов при длительных диалогах.

Рекомендации автора: использовать техники «контекст‑сжатия» (удалять несущественные комментарии, использовать ссылки на файлы вместо полного кода), разбивать задачи на более мелкие под‑сессии и применять модели с более дешёвыми тарифами для «чистого» контекста.

Полный материал доступен по ссылке: https://habr.com/ru/articles/1076312/