Paperclip, "компания без людей", потратил $10K на API за одну ночь. Агенты запускались автоматически, лимитов не было, уведомлений тоже.
В Cowork Scheduled Tasks те же риски. Задача стартует по расписанию, запускает 5 параллельных агентов, каждый делает 10+ поисков. Один прогон нашего скаута: ~50 API-вызовов. Два прогона в день, это 100. За месяц, 3000.
Что мы сделали, чтобы не стать Paperclip:
notifyOnCompletion: true. После каждого прогона приходит уведомление. Если что-то пошло не так, видишь сразу.
Лимит tool calls в промпте. Прописали: "не более N поисков за прогон". Агент следует.
Аудит через list_sessions + read_transcript. Раз в 2-3 дня открываем историю прогонов, смотрим что агент делал, сколько вызовов, были ли зацикливания.
API rate limits на уровне провайдера. OpenAI, Anthropic, Google: у всех есть настройки лимитов. Ставьте их до запуска, а не после первого счёта.
Разделение ключей. У скаута свой API-ключ с отдельным лимитом. Если он сойдёт с ума, не заберёт бюджет других задач.
$10K за ночь это не страшилка. Это реальный кейс. Контроль дешевле.
В Cowork Scheduled Tasks те же риски. Задача стартует по расписанию, запускает 5 параллельных агентов, каждый делает 10+ поисков. Один прогон нашего скаута: ~50 API-вызовов. Два прогона в день, это 100. За месяц, 3000.
Что мы сделали, чтобы не стать Paperclip:
notifyOnCompletion: true. После каждого прогона приходит уведомление. Если что-то пошло не так, видишь сразу.
Лимит tool calls в промпте. Прописали: "не более N поисков за прогон". Агент следует.
Аудит через list_sessions + read_transcript. Раз в 2-3 дня открываем историю прогонов, смотрим что агент делал, сколько вызовов, были ли зацикливания.
API rate limits на уровне провайдера. OpenAI, Anthropic, Google: у всех есть настройки лимитов. Ставьте их до запуска, а не после первого счёта.
Разделение ключей. У скаута свой API-ключ с отдельным лимитом. Если он сойдёт с ума, не заберёт бюджет других задач.
$10K за ночь это не страшилка. Это реальный кейс. Контроль дешевле.