Агент или один запрос: сколько автономии на самом деле нужно
Когда задаче хватает одного вызова модели, когда — жёсткой цепочки шагов, а когда действительно нужен агент, и чем приходится платить за его свободу.
Слово «агент» сейчас ставят на всё, что вызывает модель больше одного раза. Из-за этого легко решить, что агент — это следующая ступень после «простого запроса» и к ней надо стремиться. На деле это просто другой инструмент, и у него есть цена, которую видно не сразу.
Разберём три уровня по возрастанию свободы.
Один запрос
На вход — данные и инструкция, на выход — ответ. Классифицировать обращение, вытащить поля из документа, сократить текст, перевести, предложить заголовок. Сюда попадает удивительно большая часть реальных задач.
Плюсы очевидны: предсказуемая стоимость, предсказуемое время ответа, легко тестировать, легко понять, что пошло не так. Если задача решается одним запросом с хорошим промптом и, может быть, парой примеров, усложнять не нужно.
Цепочка шагов
Когда в один запрос не помещается, следующий шаг — не агент, а фиксированный конвейер, где порядок задаёт твой код:
- сначала модель классифицирует запрос;
- в зависимости от класса код выбирает, какие данные подтянуть;
- вторым запросом модель пишет ответ по этим данным;
- третьим — проверяет ответ по чек-листу.
Каждый шаг можно тестировать отдельно, у каждого понятный вход и выход, а стоимость всё ещё считается заранее: столько-то шагов, столько-то токенов. Если что-то сломалось, видно, на каком шаге. Большинство задач, которые хочется отдать агенту, на самом деле прекрасно ложатся в такую цепочку с одной-двумя развилками.
Агент
Агент — это когда порядок шагов решает модель: у неё есть набор инструментов, она сама выбирает, какой вызвать, смотрит на результат и решает, что дальше, пока не сочтёт задачу выполненной.
Это оправдано, когда путь к решению действительно нельзя описать заранее:
- исследование, где следующий шаг зависит от того, что нашлось на предыдущем;
- работа с кодом, где нужно прочитать файлы, запустить тесты, поправить и проверить снова;
- задачи со многими инструментами, где комбинаций слишком много для ручных развилок.
Цена автономии
За гибкость платишь сразу в нескольких валютах.
Стоимость и время непредсказуемы. Одна задача решается за три шага, похожая — за тридцать. Каждый шаг заново отправляет растущий контекст. Без потолка на число шагов и токенов на задачу агент может уйти в цикл и честно работать, пока не кончится бюджет.
Ошибки накапливаются. Если каждый шаг надёжен не на сто процентов, длинная цепочка решений надёжна заметно меньше, чем любой шаг в отдельности. Неверный вывод на третьем шаге тянется до конца.
Сложнее тестировать. Один и тот же вход может пройти разными путями. Проверять приходится не ответ, а поведение: дошёл ли до цели, не сделал ли лишнего, сколько потратил.
Больше поверхность атаки. Агент с инструментами, который читает внешние данные, — ровно та конструкция, где промпт-инъекция превращается из неловкости в действие.
Если агент всё-таки нужен
- Узкий набор инструментов — только те, что нужны этой задаче, с правами конкретного пользователя.
- Жёсткие лимиты — шаги, токены, время на задачу. При превышении — остановка и понятное сообщение, а не тихий провал.
- Подтверждение необратимого — всё, что отправляет, удаляет или платит, требует «да» от человека.
- Полный журнал — каждый вызов инструмента с аргументами и результатом. Без него разбор инцидента превращается в гадание.
- Сравнение с простым вариантом — прогони те же задачи через цепочку без агента. Если результат сопоставим, бери цепочку.
Как выбрать
Начни с одного запроса. Не хватает — добавь шаги в коде. Развилок стало столько, что код превращается в лабиринт, и путь действительно зависит от промежуточных результатов, — тогда агент. Двигаться стоит снизу вверх и только когда предыдущий уровень упёрся в потолок, а не потому что «агенты сейчас в моде».
SUBXCAT может посмотреть на твою агентную схему и подсказать, какие её части надёжнее и дешевле работают обычной цепочкой.