Код, который удобно читать человеку, тормозит AI-агентов.
Исследователь из arXiv (2604.07502) проверил: что если сжать код, убрать комментарии, переименовать переменные, сделать "нечитаемым"? Агент будет работать быстрее?
Сюрприз. Агрессивное сжатие сократило входные токены на 17%. А стоимость сессии? Выросла на 67%. Агент запутался в нечитаемом коде, начал дёргать больше вызовов, переспрашивать, ошибаться.
Работает другое: semantic density. Убираешь мусор (пустые строки, скопированный boilerplate, дублирование), но оставляешь каждый логический блок на месте. Тогда агент быстрее ориентируется и не тратит лишнего.
Если у вас AI работает с кодом или логами, не сжимайте их "в кашу" ради экономии токенов. Сэкономите на входе, переплатите на выходе. Убирайте мусор, но оставляйте структуру. Агент разберётся быстрее, чем в минифицированной каше.
Paper: arxiv.org/abs/2604.07502
@gorilla_under_hood
Исследователь из arXiv (2604.07502) проверил: что если сжать код, убрать комментарии, переименовать переменные, сделать "нечитаемым"? Агент будет работать быстрее?
Сюрприз. Агрессивное сжатие сократило входные токены на 17%. А стоимость сессии? Выросла на 67%. Агент запутался в нечитаемом коде, начал дёргать больше вызовов, переспрашивать, ошибаться.
Работает другое: semantic density. Убираешь мусор (пустые строки, скопированный boilerplate, дублирование), но оставляешь каждый логический блок на месте. Тогда агент быстрее ориентируется и не тратит лишнего.
Если у вас AI работает с кодом или логами, не сжимайте их "в кашу" ради экономии токенов. Сэкономите на входе, переплатите на выходе. Убирайте мусор, но оставляйте структуру. Агент разберётся быстрее, чем в минифицированной каше.
Paper: arxiv.org/abs/2604.07502
@gorilla_under_hood