Отказ не лечится перезапуском

Шестого октября Temporal объявила, что к ней переходит команда Oso. Oso несколько лет делала авторизацию для корпоративных приложений — проверку «кому что можно». Сам продукт и клиентов, по данным GeekWire, забрал холдинг Tiny, так что Temporal купила людей, а не код. Temporal — платформа для долгих многошаговых процессов, описанных прямо в коде, и сама себя называет «основой агентных платформ в крупных компаниях». Месяцем ранее, напоминает GeekWire, она привлекла 550 млн долларов при оценке 12,55 млрд.

Интересна не сделка, а пример, на котором Temporal её объясняет.

Возврат денег и упавший исполнитель

Агент собирается вернуть клиенту деньги и сначала просит одобрения. Человек одобряет. В этот момент падает процесс-исполнитель, в котором работал агент. Что дальше?

В Temporal работа поднимается с того же места. Одобрение уже записано в историю исполнения, поэтому агент, цитирую, «не спрашивает повторно и не идёт дальше без него». В посте есть формулировка короче: «одобрение остаётся одобренным, а отказ — отказом, даже после падения или повторной попытки». И главная фраза: «если агент может обойти одобрение или заново выполнить отклонённое действие при повторе, средства контроля сломаны».

Обычно повтор после сбоя обсуждают как вопрос надёжности: не потерять заказ, не списать деньги дважды. Temporal честно переносит его в раздел безопасности. Представьте агента, которому отказали. Он падает, перезапускается, теряет контекст и с чистой памятью спрашивает ещё раз — уже другого человека. Или не спрашивает вовсе, потому что в его контексте согласования больше нет. Это не сбой надёжности. Это обход согласования, просто случайный.

Там же есть цифра из исследования Oso: 96% выданных прав никто не использует. Людей сдерживает здравый смысл, у агентов такой сдержанности нет, и, как пишет Temporal, раздвигать границы собственных полномочий им позволять нельзя.

Тот же день, другая компания

В тот же день Salesforce опубликовала интервью с Кэти Бакстер, главным архитектором по этике ИИ. По её словам, Agentforce «делит мозг агента на два слоя». Первый — языковая модель: рассуждает и предсказывает вероятный ответ. Через второй, детерминированный (Flow, Apex, Agent Fabric), проходят все существенные решения: заданная бизнес-логика, права, передача вопроса человеку. Отдельно ведётся audit trail — журнал действий и агента, и людей. И ещё одна мысль, которую стоит повесить над столом: самостоятельность агенту выдают постепенно и по правилам.

Две компании, два разных стека, один вывод: модель думает, а решает процесс.

Camunda была права

Тем, кто живёт в мире движков процессов, всё это знакомо. В Camunda или Flowable экземпляр процесса хранится в базе. Пользовательская задача — шаг, который ждёт человека, — может висеть неделю, а решение по ней становится частью состояния процесса, а не воспоминанием исполнителя. Перезапустили сервер — процесс стоит ровно там, где стоял. В нормальной схеме отказ уводит процесс по ветке «отказано», и вернуть его можно только новой заявкой, которая видна в журнале.

Агентная индустрия приходит к этому через боль. Сначала согласование живёт в контексте модели: агент спросил, пользователь написал «да», где-то в истории чата это лежит. Потом выясняется, что контекст обрезается, сессии падают, а истории чата аудитор не верит. И состояние, человеческий шаг и журнал переезжают туда, где им место, — в оркестратор, слой, который раздаёт работу и помнит, что уже сделано.

Оговорка для честности. Сохранение состояния и истории, включая одобрения и отказы, у Temporal есть уже сейчас. А авторизация на каждом вызове — от чьего имени действует агент и что этому человеку можно — по словам самой компании, ещё в разработке, и приход Oso её только ускоряет.

Что проверить у себя

  1. Где хранится решение человека: в состоянии процесса или в контексте модели?
  2. Что происходит с отклонённым действием, если исполнитель упал и поднялся? Это должен быть тест, а не предположение.
  3. Может ли агент после перезапуска запросить согласование заново, у другого человека, и увидите ли вы это в журнале?
  4. Получаете ли вы один и тот же ответ на вопрос «от чьего имени это действие», сколько бы раз шаг ни повторялся?

Итого

Сдерживать агента должен не system prompt, а процесс, который помнит, кто что разрешил и кто что запретил. Отказ, который стирается перезапуском, — это не отказ, а предложение немного подождать.

Комментарии

Популярные сообщения из этого блога

ИИ-агенты для изолированных промышленных сред: Почему Goose?

Skills Over MCP

Песочница на честном слове