оркестрация

что это

когда ии-компонентов становится больше одного, нужен слой, который ими управляет: принимает задачу, решает, кому её отдать, следит за выполнением, разруливает сбои. это и есть оркестрация. аналогия зашита в название: оркестр без дирижёра может сыграть простую вещь, но на сложной партитуре разъедется — кто-то спешит, кто-то ждёт, вступления пропущены.

отличие от пайплайна: пайплайн — фиксированный маршрут, задача всегда идёт по одним и тем же шагам. оркестрация — маршрутизация по ситуации: простой вопрос уходит дешёвому боту, сложный — сильной модели, жалоба со словом «суд» — сразу человеку. плюс служебное: повторить упавший шаг, не дать двум агентам схватить одну задачу, остановить процесс, который пошёл вразнос.

зачем это бизнесу

пока у вас один бот — оркестрация не нужна, и подрядчик, продающий «оркестрацию агентов» под задачу на один сценарий, продаёт лишнее. но со второго-третьего сценария именно этот слой определяет, система у вас или зоопарк: без него каждый бот живёт отдельно, сбои никто не видит, а «почему заявка потерялась» превращается в расследование на день. практический маркер зрелости: у оркестрируемой системы есть единое место, где видно все задачи и их статусы — что в работе, что упало, что ждёт человека. если такого места нет, оркестрации нет, какие бы слова ни были в презентации.

о чём спросить подрядчика

• «где я увижу все задачи в системе и их статусы?» — должен существовать экран или отчёт. «посмотрим в логах» — значит, видимости нет и не планировалось.
• «что происходит, когда один из шагов недоступен — например, лёг сервис распознавания?» — правильный ответ: очередь, повторы, уведомление. неправильный: тишина и потерянные задачи.