Ошибка масштабирования AI: пилот не равен продакшену

Ошибка масштабирования в AI выглядит так.

Команда берёт систему, даёт ей одну задачу, ставит рядом сильного специалиста. Человек видит, где модель недопоняла контекст, где соврала уверенно, где полезла не туда. Поправляет. Пилот работает. Демо красивое.

Потом пилот хотят масштабировать: • дать доступ всем менеджерам • подключить к CRM • отправить отвечать клиентам • пустить в код • автоматизировать весь процесс, потому что на демо всё же было хорошо

И тут кажется, что AI внезапно стал хуже.

Модель та же, Обвязка та же Просто она встретилась с данными, исключениями и ценой ошибки, которых в пилоте почти не было

Кузнечик высоко прыгает не потому, что открыл секрет вечного двигателя. Он маленький. Увеличь его до размера человека, и та же механика перестанет работать: масса растёт иначе, чем сила его ножек.

С AI похожая история.

Пилот не равен продакшену На малом объёме операций можно жить на ручной коррекции. AI составил договор, юрист посмотрел. AI разобрал заявку, менеджер поправил. AI написал кусок кода, разработчик провёл ревью. Ошибка не исчезла, но её поймали внутри короткого контура. На большом объёме ручная коррекция превращается в скрытый отдел контроля качества.

В этот момент AI уже не усиливает людей и компанию Люди начинают обслуживать ошибки, которые этот AI размазал по процессу

Пилот доказывает только одно: в конкретной связке задачи, данных и людей модель иногда даёт полезный результат. Он не доказывает, что процесс готов к тиражированию

Вопрос не «работает ли AI?» Вопрос другой: сколько ошибок пройдёт дальше по цепочке, прежде чем их заметят, и кто за это заплатит

Экономика меняет механику Один удачный запрос почти всегда выглядит дёшево. Особенно если считать только стоимость токенов.

Но в реальной системе появляются повторные прогоны, лишний контекст, интеграции, очереди, мониторинг, доступы, поддержка, разбор инцидентов и цена плохого решения. А ещё люди, которым теперь надо объяснить, почему система сделала именно это и как отменить её действие.

На маленьком объёме это шум На большом объёме это сама экономика продукта

Поэтому спор «облачный API или свои сервера» часто начинается слишком рано Сначала нужно измерить нагрузку, повторяемость задач, цену ошибки и долю запросов, которые реально можно стандартизировать Иначе вы сравниваете две красивые гипотезы, а не два варианта системы

Открытые веса не делают инференс бесплатным. Хорошее демо не делает операционный контур дешёвым

Управление меняет задачу Пока AI помогает сильному специалисту, это инструмент Человек держит контекст, видит исключение, отвечает за решение

Когда AI начинает сам менять статус сделки, отправлять письмо, платить подрядчику, влиять на приоритеты команды или писать код в общий контур, он становится частью системы управления

А у системы управления должны быть: • права • ограничения • журнал действий • обратимость • понятный владелец ошибки

Нельзя масштабировать доверие к модели вместе с числом пользователей И человеческую проверку тоже нельзя просто нанять и размножить На потоке человек привыкает к обычно правильной системе и начинает пропускать её ошибки

Поэтому масштабировать нужно контур проверки, ручной review этого не даёт

Вместо «пусть агент работает автономно» вопросы: • какие действия он вообще имеет право делать? • что требует подтверждения? • что можно откатить? • где он обязан остановиться и передать задачу человеку?

Это не бюрократия вокруг AI Это его скелет

AI сегодня часто продают как двигатель роста Но сначала надо спросить: для какого веса, на какой дистанции и в какой среде этот двигатель рассчитан

Потому что каждая система работает в своём окне возможностей. И зрелость команды не в том, чтобы быстрее всех назвать пилот масштабированием. А в том, чтобы вовремя увидеть: дальше нужна уже другая механика.