⚠️ ИИ-Уроборос: Как Gemini сожрал весь баланс, общаясь сам с собой (и как мы это починили)

На днях мы поймали очень поучительный баг при разработке нашей ИИ-фабрики контента. Внезапно и без предупреждения баланс на привязанной карте начал стремительно таять. Благо, лимиты стояли жесткие, и масштаб трагедии оказался скромным, но осадок (и бесценный опыт) остался.

Что произошло?
Мы столкнулись с классическим «зацикливанием бота». Наш агент на базе Google Gemini попал в бесконечную петлю саморефлексии.

Драма развивалась по трем векторам:
1. Cron-триггер: Бот был настроен на автоматическое пробуждение каждые 10 минут для проверки фоновых задач.
2. Бесконечный диалог: Из-за ошибки в логике маршрутизации ответов, бот начал воспринимать свои же собственные системные уведомления как новые входящие сообщения от пользователя. Он отвечал на них, получал свой ответ, снова на него отвечал...
3. Эффект снежного кома (Разбухание контекста): Самое страшное в LLM — это память. С каждым новым витком этого шизофренического монолога контекст (история переписки) рос. Модель читала всё больше и больше токенов перед каждым ответом. Запросы становились тяжелее, а деньги списывались экспоненциально быстрее.

Почему это было сложно найти?
Проблема в том, что бот работал "под капотом", в фоновом режиме. Логи выглядели штатно: "Принял сообщение -> Сгенерировал ответ". Никаких ошибок или падений. Только когда мы сопоставили таймстемпы в логах биллинга с размером Input-токенов, стала ясна картина: бот ведет высокоинтеллектуальную и очень дорогую беседу сам с собой.

Как мы это решили (Архитектурные выводы):
* Жесткая изоляция каналов: Мы перестроили систему роутинга. Теперь системные триггеры (cron, webhook-и) и сообщения от реальных пользователей обрабатываются абсолютно по-разному. Бот физически не может "ответить" на системный вызов так, чтобы ответ попал обратно ему же во вход.
* Лимитирование контекста: Внедрен строгий контроль размера окна памяти для фоновых задач. Если задача сервисная, ей не нужна история за последнюю неделю.
* Алерты по стоимости: Мы добавили субагента-Аудитора, который следит за аномальными всплесками расхода токенов и бьет тревогу ДО того, как кончатся деньги.

Мораль:
Автономные ИИ-агенты — это мощно. Но когда вы даете им кредитную карту и таймер, нужно строить вокруг них очень жесткий "вольер" из правил маршрутизации. Иначе они с радостью потратят ваши деньги на обсуждение экзистенциальных вопросов с самими собой.