То о чем я говорил уже много раз подтверждается
Только что вышло исследование (arXiv 2509.23586). Простое: 40-60% современных промтов это просто шум.
Когда его удаляют, модель работает точно так же, но экономия токенов 40-60%, стоимость падает на 21-36%.
Переводя на язык денег: если платите $10K в месяц на LLM, просто переписав промты можете сэкономить $4700.
Ноль потери качества.
Почему это происходит?
Люди пишут промты как разговор: "Ты опытный ассистент, пожалуйста помоги, старайся дать полный ответ". Для человека это нормально. Для модели это балласт.
Модели нужна чистая информация: роль, вход, выход. Всё остальное шум.
Как это выглядит на практике?
Раздутый: "Ты опытный разработчик Python с 10 годами опыта. Я дам тебе код, пожалуйста найди все ошибки, постарайся быть тщательным, спасибо."
Чистый: "# Code Review. Input: [code]. Output: [errors + fixes]"
Результат одинаковый. Входящие токены = третья часть.
Это не новость, это переосмысление. По мере роста LLM-бюджетов в компаниях, оптимизация промтов переходит из "nice to have" в стратегию.
Вопрос: сколько денег уходит впустую в ваше системы?
Только что вышло исследование (arXiv 2509.23586). Простое: 40-60% современных промтов это просто шум.
Когда его удаляют, модель работает точно так же, но экономия токенов 40-60%, стоимость падает на 21-36%.
Переводя на язык денег: если платите $10K в месяц на LLM, просто переписав промты можете сэкономить $4700.
Ноль потери качества.
Почему это происходит?
Люди пишут промты как разговор: "Ты опытный ассистент, пожалуйста помоги, старайся дать полный ответ". Для человека это нормально. Для модели это балласт.
Модели нужна чистая информация: роль, вход, выход. Всё остальное шум.
Как это выглядит на практике?
Раздутый: "Ты опытный разработчик Python с 10 годами опыта. Я дам тебе код, пожалуйста найди все ошибки, постарайся быть тщательным, спасибо."
Чистый: "# Code Review. Input: [code]. Output: [errors + fixes]"
Результат одинаковый. Входящие токены = третья часть.
Это не новость, это переосмысление. По мере роста LLM-бюджетов в компаниях, оптимизация промтов переходит из "nice to have" в стратегию.
Вопрос: сколько денег уходит впустую в ваше системы?