Автономия по выслуге лет
16 ноября вышли два объявления из разных миров. OpenAI показала агентов, которые работают «мышкой» в медицинских системах. Genpact, крупный аутсорсер бизнес-процессов, выпустила платформу Onyx для агентов в бэк-офисе. Медицина и расчёты с поставщиками, клиники и бухгалтерия — а описан, по сути, один и тот же механизм. Агента не выпускают сразу на свободу: сначала он предлагает, человек подписывает, и только потом агенту доверяют больше.
Робот снова кликает
Начнём с OpenAI. Агент с управлением компьютером кликает и печатает в электронных медкартах и порталах страховщиков — там, куда не дотягиваются API. Готовит запросы на предварительное одобрение страховщика, направления, документы к выписке. Тот, кто застал волну роботизации интерфейсов (RPA), узнает жанр: робот снова водит курсор по экрану, только теперь он ещё и читает медкарту.
Цифры, по словам компании, такие. На задачах из входящих врача 99% из 325 проверенных задач признаны безопасными, то есть ошибки не могли бы навредить пациенту. На независимом тесте HealthAdminBench, который сделали исследователи из Стэнфорда, модель GPT‑6 Astra набрала 94,3% возможных баллов, а GPT‑6 Luna — 91,8%, при этом она на 98% дешевле Astra: 8,5 цента за задачу. Оговорка инженера: 94,3% — это доля баллов по критериям оценки, а не доля задач, доведённых до конца без ошибок. А оставшийся процент из 325 — это несколько задач, где врачи увидели риск для пациента. В медицине «несколько» — это не округление.
Интереснее цифр — заказчики. В CVS Health агент, по словам компании, за выходные разобрал завал с отправкой документов, копившийся месяцами, а другой ведёт системные шаги по десяткам тысяч консультаций в день. Важная деталь: CVS использует проверки, человеческий надзор, скриншоты и запись действий, чтобы сверить, что агент сделал и в каком состоянии осталась система. Свой Agent Kit CVS выкладывает в открытый доступ. В Cigna Healthcare, по словам CIO, от идеи до внедрения прошло меньше восьми недель — раньше менеджерам приходилось обходить больше десяти систем, чтобы собрать сведения о клиенте.
А самый показательный пример — у Ambience, хотя это пока демонстрация. Если запись в медкарте неоднозначна, агент останавливается, спрашивает врача и ждёт одобрения перед отправкой запроса страховщику. Клиника сама задаёт, какие действия агенту разрешены, может остановить его в любой момент и получает пошаговый журнал для проверки (audit trail).
Автономию надо заработать
Теперь Genpact. Компания продаёт не столько агентов, сколько свою «карту исключений»: накопленное за десятилетия знание о том, как устроены процессы в финансах, рисках, закупках, банках и страховании, — включая пограничные случаи и решения людей, которых, как пишет сама Genpact, не найти ни в библиотеке промптов, ни в статичной схеме процесса. Разобранные исключения возвращаются в эту базу.
Ключевой принцип называется «заработанная автономия»: агенты сначала предлагают действия на одобрение эксперту и берут на себя больше решений по мере того, как доказывают надёжность. Каждое действие, по словам компании, контролируется и связано с причиной решения. Первый продукт — пакет для расчётов с поставщиками. Цифр эффекта и имён клиентов, использующих именно Onyx, в объявлении нет.
Что из этого следует для процессов
Обе истории про одно: уровень свободы агента — это не свойство модели, а параметр процесса. Кто одобряет, какой шаг, при каком условии агент обязан остановиться. В BPMN это пользовательская задача «Согласовать» перед отправкой и шлюз «запись однозначна?». Ничего революционного: так же мы годами вводили в работу нового сотрудника — испытательный срок, визы руководителя, потом право подписи до определённой суммы.
Но у «заработанной автономии» есть неудобный вопрос: кто и по каким цифрам решает, что агент «доказал надёжность»? В объявлении Genpact критериев нет. А без них получится, как обычно: одобрение снимут не тогда, когда агент заслужил, а когда эксперту надоест нажимать «ОК» на сотом одинаковом запросе. Порог стоит записать заранее — в модели процесса, а не в голове руководителя: сколько подряд одобренных без правок предложений, на каком классе операций, с какой суммой. И так же заранее — условие, при котором автономию отзывают.
Медицина здесь хороший учитель: там «агент сказал, что всё сделал» не принимается без скриншота. Бэк-офису стоит взять эту привычку себе, пока его агенты ещё на испытательном сроке.
Источники: OpenAI, объявление компании, 16.11 · Genpact, объявление компании, 16.11
Комментарии
Отправить комментарий