Почему AI-агенты забывают свои ошибки и как второй агент помогает им не сбиваться с курса

Проблема забывчивости AI-агентов

AI-агент получает задачу, разбивает её на шаги и начинает действовать. На первых этапах всё идёт гладко: он анализирует условия, подбирает инструменты, выдаёт промежуточные результаты. Но к середине длинной цепочки действий что-то ломается. Агент повторяет ошибку, которую уже совершил три шага назад. Или забывает ключевое требование из самого начала задачи. Или начинает опираться на случайные данные, игнорируя проверенные факты.

Это не гипотетический сценарий. Разработчики MiniMax M2 прямо указывали: контекст сессии - это память агента, и её потеря ведёт к резкому падению качества ответов. Проблема не в том, что агент «глупый». Проблема в том, что он не умеет вовремя вспоминать важное.

Представьте человека, который заходит в комнату и забывает, зачем пришёл. Он не потерял память как таковую - он просто не смог извлечь нужную информацию в нужный момент. С AI-агентами происходит то же самое, только в масштабе сотен и тысяч шагов.

Почему длинная память не спасает

Логичный вопрос: разве нельзя просто дать агенту больше памяти? Технически - можно. Контекстное окно современных моделей растёт, и агент способен удерживать в поле зрения десятки тысяч токенов. Но объём памяти не равен умению ей пользоваться.

Это похоже на огромную библиотеку, в которой нет каталога. Книг много, но вы не знаете, какую открыть, чтобы найти ответ на текущий вопрос. Агент «видит» всю историю взаимодействия, но не выделяет в ней критически важные моменты. Он одинаково относится к случайной реплике и к ключевому требованию задачи.

Результат предсказуем: агент перескакивает с одной детали на другую, теряет нить рассуждений и начинает генерировать ответы, которые выглядят правдоподобно, но расходятся с исходными условиями. В разборе проблемы генерализации от создателей MiniMax M2 эта ситуация описана детально: агент не адаптируется к изменениям окружения и разрушает свою же производительность.

Решение от Meta AI: агент-память как второй пилот

Исследователи из Meta AI предложили архитектурное решение: не пытаться «расширить память» основному агенту, а дать ему отдельного помощника. Этот помощник - агент-память - работает параллельно и выполняет одну задачу: следит за тем, что происходит, и вовремя подсказывает.

Метафора здесь точная - второй пилот в кабине самолёта. Основной пилот управляет машиной, принимает решения, выполняет манёвры. Второй пилот следит за приборами, сверяется с картой и предупреждает, если курс отклоняется от заданного. Он не дёргает штурвал каждую секунду, но его вмешательство в нужный момент спасает ситуацию.

Агент-память ведёт структурированную запись того, что уже сделано и проверено. Это не просто лог - это активный фильтр. Он отделяет важные события от фонового шума и хранит их в форме, удобной для быстрого извлечения. Когда основной агент собирается повторить ошибку или отклониться от исходных требований, агент-память отправляет напоминание. Когда всё идёт по плану - молчит.

Как агент-память принимает решение о напоминании

Ключевой механизм здесь - избирательность. Агент-память постоянно оценивает текущий контекст и сравнивает его со своими записями. Если он видит, что основной агент собирается использовать данные, которые уже были признаны недостоверными, или игнорирует ограничение, зафиксированное на старте, - следует напоминание.

Эксперименты показали парадоксальный результат: постоянное вмешательство снижает эффективность. Если агент-память комментирует каждый шаг, основной агент начинает «перегружаться» и теряет собственную логику рассуждений. Избирательная система - когда напоминания приходят только в критических точках - повышает эффективность на несколько процентных пунктов.

Этот принцип перекликается с открытием, описанным в материале о том, как две настройки API помогли GPT-5.6 втрое улучшить результат на тесте ARC-AGI-3. Там тоже решающую роль сыграл не объём вычислений, а умение сохранять цепочку рассуждений и уплотнять информацию в нужный момент.

Экспериментальные результаты: насколько это эффективно

Meta AI провела серию экспериментов, сравнивая три сценария: агент без помощника, агент с постоянными напоминаниями и агент с избирательной системой напоминаний. Точные цифры прироста не раскрыты, но исследователи подтверждают стабильный положительный эффект избирательного подхода.

Агент с постоянными напоминаниями показал наихудшие результаты. Причина понятна: непрерывные подсказки разрушают собственную логику основного агента. Он перестаёт выстраивать последовательное рассуждение и начинает просто реагировать на стимулы помощника. Это как если бы второй пилот комментировал каждое движение штурвала - первый пилот быстро потерял бы концентрацию.

Избирательная система сработала лучше. Агент-память вмешивался только тогда, когда фиксировал конкретный риск: повторение ошибки, отклонение от требований, использование непроверенных данных. В остальное время он оставался в тени. Такой подход дал прирост эффективности в несколько процентных пунктов - на первый взгляд немного, но для задач, где цена ошибки высока, это существенно.

Связь с другими исследованиями прослеживается и здесь. В отчёте OpenAI об ИИ-агентах в науке подчёркивается: ключевая проблема смещается с выполнения задачи на верификацию результата. Агент-память как раз решает часть этой проблемы - он выступает встроенным верификатором, который следит за соответствием исходным условиям.

Практическая польза: стабильность и опора на факты

Главный практический выигрыш от агента-памяти - стабильность. AI-агент перестаёт быть непредсказуемым. Он реже повторяет ошибки, реже теряет контекст и чаще опирается на проверенные факты, а не на случайные данные, всплывшие в середине сессии.

Это важно для задач, где длина цепочки действий измеряется десятками и сотнями шагов: написание длинных отчётов, разработка стратегий, многошаговые исследования. В таких сценариях потеря контекста на середине пути означает либо неверный результат, либо необходимость начинать заново.

Агент-память снижает этот риск. Он не гарантирует идеальный результат, но делает поведение основного агента более предсказуемым и контролируемым. Для бизнеса это означает меньше сюрпризов и больше доверия к результатам AI.

Пример: как агент-память предотвращает повторение ошибок

Представьте: агент пишет аналитическую статью. В начале работы вы договариваетесь о нейтральном тоне и опоре на проверенные источники. Агент начинает писать, но к середине текста переходит на эмоциональные формулировки и ссылается на неподтверждённые данные.

Без агента-памяти этот дрейф остался бы незамеченным. Основной агент не сравнивает свои текущие действия с исходными договорённостями - он просто генерирует следующий фрагмент на основе последнего контекста.

С агентом-памятью ситуация другая. Помощник фиксирует расхождение и отправляет напоминание: «В начале мы договорились использовать нейтральный тон и опираться только на проверенные источники. Текущий фрагмент отклоняется от этих условий». Основной агент получает сигнал и корректирует курс.

Другой пример - работа с данными. Агент собирает информацию из нескольких источников и на пятом шаге натыкается на цифру, которая противоречит тому, что он уже проверил на втором шаге. Без помощника он может принять новую цифру как данность. Агент-память вмешивается: «Эти данные расходятся с проверенным фактом со второго шага. Перепроверь источник».

Ограничения и будущее агентов-памяти

Технология новая, и не все детали экспериментов раскрыты. Meta AI не опубликовала полные данные о задачах, на которых тестировалась система, и не указала конкретные проценты прироста эффективности. Это оставляет пространство для вопросов.

Возможные ограничения: сложность настройки агента-памяти под конкретный тип задач, зависимость от качества структурированных записей, риск неверных напоминаний. Если агент-память ошибётся и отправит напоминание не вовремя или с неверным содержанием, он может сбить основного агента с правильного пути.

Ещё один открытый вопрос - масштабирование. Эксперименты проводились в контролируемой среде. Как система поведёт себя в реальных задачах с высоким уровнем шума и непредсказуемыми входными данными - пока неизвестно.

Агент-память - это шаг к более надёжным AI-системам, но не панацея. Он решает конкретную проблему: помогает агенту не забывать то, что он уже знает. Проблемы генерализации, адаптации к новым инструментам и верификации результатов остаются. О некоторых из них мы рассказывали в материале о рисках внедрения AI-агентов в бизнесе.

Направление выглядит перспективным. Идея отдельного агента-помощника, который не выполняет задачу, а следит за качеством её выполнения, может стать стандартным компонентом AI-архитектур. Как второй пилот в авиации - когда-то это было новшеством, а теперь обязательный элемент безопасности.

Есть вопрос или заметили неточность? Мы открыты к диалогу и исправлениям.