Денис Лузиков@deni_vitoБесплатный разбор

Как создать ИИ-агента: разбор пяти способов

Коротко

Сделать ИИ-агента можно пятью способами: настроить внутри самого чата модели, собрать в конструкторе, построить на платформе автоматизации, написать на фреймворке или с нуля. Выбор зависит не от бюджета, а от того, к каким вашим системам агент должен подключаться и насколько дорого обходится его ошибка.

Запрос «как создать ИИ-агента» задают 2 495 раз в месяц, и почти все статьи в ответ показывают одно и то же: как собрать демо, которое отвечает на вопросы. Демо собирается за час. Довести его до состояния, когда его можно показать клиентам, — совсем другая работа, и именно про неё почти нигде не пишут.

Разберу пять реальных способов, их потолки, и то, что придётся сделать в любом случае — независимо от выбранного инструмента.

Сначала уточните, что именно вы хотите сделать

Под словом «агент» люди имеют в виду три разные вещи, и от того, какая ваша, зависит вообще всё.

Личный помощник для себя. Настроить чат так, чтобы он знал ваш контекст и отвечал в нужном формате. Делается за вечер, кода не нужно, дальше первого способа читать не обязательно.

Автоматизация внутренней задачи. Разбирать входящие письма, готовить черновики документов, собирать сводки. Здесь агент работает с вашими данными, но ошибается «внутрь» — её увидит сотрудник, а не клиент.

Агент, допущенный к клиентам. Отвечает от лица компании, видит заказы, обещает условия. Тут цена ошибки внешняя, и требования другие: правила, ограничения прав, проверочные вопросы, надзор.

Дальше по тексту я отмечаю, какой способ до какого уровня дотягивает. Ошибка выбора обычно одна и та же: инструмент из первой строки берут под задачу из третьей.

Способ первый: внутри самого чата модели

Самый быстрый вход и самый популярный: агент делается прямо в том чате, которым вы уже пользуетесь, — в ChatGPT, Claude, DeepSeek, GigaChat или YandexGPT.

Что это на самом деле. У крупных чат-сервисов есть режим настраиваемого помощника: вы задаёте ему постоянную инструкцию, загружаете свои файлы и получаете собеседника, который держит ваш контекст между разговорами.

Что получается. Помощник, который отвечает по вашим документам в вашем стиле: разбирает договоры по вашему чек-листу, готовит письма по вашим шаблонам, объясняет новичку внутренние правила.

Где потолок. Он никуда не ходит и ничего не делает. Ваших живых данных — остатков, статусов, расписания — он не видит, если вы не вставили их в чат руками. И работает он там, где живёт: в окне чата, а не у вас на сайте и не в мессенджере клиента.

Кому подходит. Личным задачам и внутренней работе одного человека. Клиентам такого агента не показывают.

Сколько стоит. Обычно входит в подписку на сам сервис. Это единственный способ из пяти, где нет отдельного счёта за работу модели.

Про выбор платформы — какие из них вообще доступны из России, чем за них платить и где окажутся данные: готовые ИИ-агенты.

Способ второй: готовый конструктор агентов

Визуальный редактор, где агент собирается из блоков: подключить базу знаний, задать инструкции, выбрать действия. Программировать не нужно.

Что получается. Агент, который отвечает по загруженным документам и умеет несколько типовых действий — записать заявку, отправить письмо, поискать в базе. И главное отличие от первого способа: он живёт снаружи — в мессенджере, на сайте, в виджете.

Где потолок. Как только нужны ваши данные в реальном времени — остатки, статусы, расписание — начинаются костыли или тупик. Готовые интеграции есть только с популярными сервисами, вашей учётной системы среди них может не оказаться. И ваши документы вместе с диалогами клиентов лежат у стороннего сервиса.

Кому подходит. Проверить идею, сделать помощника по базе знаний, автоматизировать ответы на типовое.

Сколько стоит. Абонентская плата плюс, как правило, отдельно обращения к модели. Подробный расчёт с тарифами конкретных конструкторов я привёл в разборе про конструкторы — там же видно, на каком объёме аренда обгоняет разработку.

Способ третий: платформа автоматизации

Сервисы вроде n8n и подобных: агент собирается как цепочка блоков, где один из блоков — обращение к модели, а остальные ходят в ваши системы.

Что получается. Рабочая связка, которая уже умеет забирать данные из разных источников и складывать результат куда нужно. В отличие от конструктора, интеграции здесь общего назначения: если у вашей системы есть интерфейс для запросов, платформа с ней свяжется.

Где потолок. Логика собирается из готовых блоков, и сложное ветвление в них выражается плохо: схема на тридцать узлов читается хуже, чем тридцать строк кода. Плюс появляется ещё одна система, которую надо содержать, обновлять и кому-то понимать.

Кому подходит. Задачам вида «взять данные отсюда, обработать моделью, положить туда» — особенно фоновым, где нет живого диалога с клиентом.

Сколько стоит. Своя установка на вашем сервере — только сервер и обращения к модели. Облачная — ещё и подписка, обычно с лимитом на число запусков.

Способ четвёртый: фреймворк

Готовые библиотеки, которые берут на себя рутину: цикл рассуждений агента, вызов инструментов, память. Пишете вы, но не с нуля.

Что получается. Полный контроль над логикой при разумном объёме работы. Агент живёт на вашем сервере, данные не покидают периметр, интеграции пишутся любые.

Где потолок. Нужен разработчик. И нужно понимать, что делает библиотека внутри: когда агент начнёт вести себя странно, разбираться придётся именно там. Фреймворки развиваются быстро, и обновление иногда ломает то, что работало.

Кому подходит. Большинству боевых задач — это разумная середина между скоростью и контролем.

Способ пятый: с нуля

Без фреймворка: сами описываете инструменты, сами управляете циклом, сами храните состояние.

Что получается. Максимальный контроль и предсказуемость, минимум лишнего в системе. Никаких сюрпризов от чужих обновлений.

Где потолок. Дороже по времени и требует опыта. Оправдано, когда есть жёсткие требования к поведению, к расходам или к тому, где физически лежат данные.

Пять способов в одной таблице

СпособКодГде живётВаши живые данныеДо какого уровня дотягивает
В чате моделине нуженв окне сервисанетличный помощник
Конструкторне нужену сервисачастичновнутренняя задача, простой клиентский бот
Платформа автоматизациипочти не нужену вас или в облакедавнутренняя задача, фоновая обработка
Фреймворкнужену васдаклиентский агент
С нулянужену васдаклиентский агент с жёсткими требованиями

Колонка «ваши живые данные» — главная. Именно она чаще всего определяет выбор: как только агенту нужно видеть, что происходит в вашей системе прямо сейчас, первые два способа отпадают сами.

Без кодачат модели, конструктор, платформа
  • Первый результат за вечер
  • Разработчик не нужен
  • Данные у стороннего сервиса
  • Логика ограничена блоками
  • Абонентская плата постоянно
Свой кодфреймворк или с нуля
  • Любая логика и любые интеграции
  • Данные остаются у вас
  • Расходы под контролем
  • Нужен разработчик
  • Дольше на старте, дешевле в содержании
Граница та же, что у чат-ботов: пока агенту хватает того, что вы в него загрузили, хватает и конструктора. Как только нужны живые данные из ваших систем — начинается разработка.

Как выбрать модель

Судя по хвосту запросов, выбор модели волнует людей едва ли не сильнее выбора способа: спрашивают отдельно про ChatGPT, Claude, DeepSeek, GigaChat, YandexGPT и про локальные. Отвечу честно: для большинства бизнес-задач разница между моделями меньше, чем разница между хорошо и плохо описанными правилами. Агент с продуманным системным промптом на средней модели работает лучше, чем агент с двумя строчками инструкции на самой сильной.

Тем не менее пять критериев, по которым выбор действительно делается.

Русский язык. Проверяется не рекламой, а вашими же обращениями: возьмите двадцать реальных сообщений клиентов, прогоните через кандидатов и сравните ответы. Разница видна сразу, особенно на профессиональной лексике вашей отрасли.

Умеет ли вызывать инструменты. Для агента это обязательное требование, а не приятная опция: без вызова инструментов у вас получится собеседник, а не работник. Поддержка есть не у всех моделей и не во всех режимах.

Цена за объём. Считать надо не за сообщение, а по формуле из раздела про бюджет. Разброс между моделями бывает десятикратный, и на потоке это решает больше, чем качество ответов на пару процентов выше.

Как платить. Отдельный вопрос для российского бизнеса: у зарубежных сервисов оплата не всегда проходит напрямую, у российских — проще с документами и с закрывающими. Иногда именно это определяет выбор, а не технические характеристики.

Где живут данные. Если по вашим правилам переписка клиентов не должна уходить за границу, выбор сужается до российских сервисов или до модели на своём железе.

Практический совет: закладывайте возможность сменить модель, не переписывая агента. Обращение к модели прячут за одним слоем, и тогда переезд занимает день, а не месяц. Это же спасает, когда провайдер поднимает цены или отключает доступ.

Три сценария первого агента

Абстрактное «автоматизировать общение с клиентами» не превращается в работу. Превращаются вот такие постановки — привожу три самых частых с разбором того, что внутри.

Разбор входящих обращений

Задача. Люди пишут в мессенджер вперемешку: заказы, вопросы по доставке, претензии, спам, «здравствуйте». Менеджер тратит первый час дня на сортировку.

Что делает агент. Читает обращение, определяет тип, поднимает историю клиента, отвечает на типовое сам, остальное отдаёт человеку — но уже с ярлыком и краткой сводкой: кто, по какому заказу, чего хочет.

Что нужно от вас. Доступ к переписке и к системе, где лежат заказы. Список типов обращений с примерами — по десять реальных сообщений на тип.

Где обычно ломается. Тип «прочее» разрастается, потому что реальные люди пишут не так, как вы предполагали. Лечится не улучшением модели, а тем, что месяц читают «прочее» и заводят новые типы.

Подбор по описанию

Задача. У вас каталог, клиент не знает терминов и описывает своими словами: «нужно что-то для маленькой ванной, чтобы не скользило».

Что делает агент. Уточняет два-три параметра, ищет по каталогу, предлагает варианты с объяснением, почему именно они, и честно говорит, если подходящего нет.

Что нужно от вас. Каталог в машиночитаемом виде с характеристиками, а не в виде картинок. Правила подбора — то, что менеджер держит в голове.

Где обычно ломается. На честности: агент, обученный продавать, начинает предлагать хоть что-нибудь. Ответ «у нас такого нет» должен быть разрешён явно, иначе его не будет.

Запись и бронирование

Задача. Клиент хочет записаться, свободные окна лежат в вашей системе, менеджер работает до шести.

Что делает агент. Показывает реальные свободные слоты, записывает, присылает напоминание, обрабатывает перенос и отмену.

Что нужно от вас. Система записи с интерфейсом для внешних запросов и правила: за сколько можно отменить, что делать с опозданиями, кого пускать без предоплаты.

Где обычно ломается. На отменах и переносах. Записать умеют все, а вот перенос — это уже изменение чужой записи, то есть право, которое агенту дают осторожно. Подробно этот сценарий я разобрал в отдельной статье — там же видно, где хватает обычного бота.

Можно ли сделать агента бесплатно

Вопрос задают часто — «бесплатно» дописывают к этому запросу 150 раз в месяц. Отвечаю честно, по частям.

Собрать и попробовать — да. У конструкторов есть бесплатные тарифы, у моделей — бесплатные лимиты, платформы автоматизации бывают с открытым кодом. Проверить идею можно, не заплатив ничего.

Работать на клиентах бесплатно — нет. Каждое обращение к модели платное, и это не разовый расход, а постоянный: он растёт вместе с потоком обращений. Бесплатные лимиты рассчитаны на знакомство, а не на нагрузку, и заканчиваются в первый же день боевой работы.

Что «бесплатно» стоит на самом деле. Ваше время. Собрать первого агента в конструкторе — вечер. Довести его до состояния, когда не стыдно показать клиенту, — недели, и это самая дорогая часть, просто она не приходит счётом.

Разумный вариант: бесплатным тарифом проверяете, что задача вообще решается, а дальше считаете экономику по-настоящему — сколько обращений в месяц, сколько шагов в диалоге, сколько это стоит.

Как посчитать бюджет своими руками

Цены на модели меняются каждые несколько месяцев, поэтому вместо цифр даю формулу — по ней вы посчитаете свою на текущих тарифах за десять минут.

Считается не сообщение, а токены. Токен — примерно треть русского слова. Платят отдельно за то, что отправили модели, и за то, что она ответила; отправленное обычно заметно дешевле.

Отправляете вы не вопрос клиента, а весь контекст. В каждое обращение уходит системный промпт с правилами, история диалога, поднятые из базы документы и ответы инструментов. Вопрос клиента — самая маленькая часть этой посылки.

За один диалог обращений несколько. Агент делает столько шагов, сколько ему нужно: посмотрел заказ, не хватило — посмотрел историю, потом ответил. Три-пять обращений на один диалог — обычное дело.

Отсюда порядок расчёта:

  1. Возьмите средний диалог: сколько сообщений, сколько шагов агента.
  2. Прикиньте размер контекста на шаге: правила плюс история плюс документы. Считайте по знакам и делите на три — получите токены.
  3. Умножьте на число шагов, потом на число диалогов в месяц.
  4. Умножьте на тариф выбранной модели.
  5. Умножьте результат на два. Это не перестраховка: реальный поток всегда содержит длинные диалоги, повторы и попытки клиента поспорить с ботом.

Главное следствие этой арифметики: длинный диалог дорожает быстрее, чем растёт. Каждый следующий шаг тащит с собой всё предыдущее, поэтому десятое сообщение стоит заметно дороже первого. Что с этим делают: отсекают старую историю, не подкладывают документы «на всякий случай», простые вопросы уводят на кнопки бота до того, как они дойдут до модели.

Локальный агент: когда это оправдано

Отдельный вопрос со своим спросом: как поднять агента на своём железе, чтобы данные никуда не уходили.

Технически это возможно. Открытые модели работают на вашем сервере, обращения к чужому API не нужны, переписка клиентов остаётся внутри периметра.

Чем платите. Во-первых, качеством: модели, которые помещаются на разумное железо, слабее лучших облачных, и на сложных рассуждениях это заметно. Во-вторых, железом: для опытов хватит обычной машины, для боевой нагрузки нужна серьёзная видеокарта, и её стоимость перекрывает годы оплаты API. В-третьих, работой: обновления, мониторинг и запас мощности теперь ваши.

Когда это правильное решение. Когда передавать данные наружу нельзя по правилам — режим коммерческой тайны, требования безопасности, отраслевые ограничения. То есть выбор делается не ради экономии, а вместо неё.

Что нужно иметь до старта

Список короткий, но пока он не закрыт, к выбору инструмента переходить бесполезно.

Доступ к системе, где лежат данные. Не «данные есть в компании», а именно программный доступ: интерфейс для запросов, ключ, кто-то, кто этот ключ выдаст. Если системе двадцать лет и наружу она ничего не отдаёт — это отдельный проект до агента, а не часть его.

Человек, который знает правила. Тот сотрудник, у которого в голове лежит, что отвечать в спорных случаях. Его время нужно закладывать в план: без него правила придётся выдумывать, а выдуманные правила ломаются на первой неделе.

Реальные обращения. Хотя бы полсотни настоящих сообщений клиентов. Они нужны и чтобы понять типы, и чтобы потом проверять агента. Придуманные примеры не годятся: люди пишут не так, как вы думаете.

Решение, что агенту нельзя. До запуска, а не после первого инцидента. Обещать скидки, менять чужие заказы, называть внутренние данные, спорить с клиентом — список запретов пишется заранее.

Ответ на вопрос «как поймём, что стало лучше». Цифра до: часы в неделю, время ответа, доля обращений, дошедших до человека. Без неё через месяц будет спор об ощущениях.

Путь от задачи до работающего агента
Одна задачасамая повторяющаяся
Доступы и правилаобычно самый долгий этап
Прототипбыстро и некрасиво
Проверка на своих20 реальных обращений
Часть потока10% и с надзором
Решение по цифрамрасширять или свернуть
Второй шаг занимает больше времени, чем третий и четвёртый вместе. Именно его выкидывают из статей «агент за 15 минут» — и именно из-за него срываются сроки.

Что придётся сделать при любом способе

Именно это, а не выбор инструмента, занимает основное время. И именно это выкидывают из статей «соберите агента за 15 минут».

Описать правила словами

Агент действует по инструкции, которую вы ему даёте. «Отвечай вежливо» — не инструкция. Инструкция — это: что агент делает при каждом типе обращения, что говорит, когда не знает, в каких случаях зовёт человека, чего не обещает никогда.

Это самая недооценённая часть. Обычно выясняется, что правила в компании не описаны нигде и живут в голове у сотрудника, — и первым делом приходится их доставать оттуда.

Дать доступ к данным

Агент полезен ровно настолько, насколько видит вашу реальность. Здесь всплывает главный тормоз: у системы нет интерфейса для внешних запросов, доступ даёт подрядчик, который не отвечает, или данные лежат в виде, из которого их не достать.

Про сроки: обычно они определяются не агентом, а именно этим пунктом. Разработка агента, который умеет отвечать, — дни. Получение доступа к системе, где лежат заказы, — иногда недели.

Ограничить последствия

Что агент может делать сам, а что только с подтверждением. Читать — безопасно. Менять записи, отправлять деньги, обещать клиенту условия — под контролем. Чем необратимее действие, тем меньше самостоятельности.

Запускайте так: новый агент начинает с права только читать и предлагать. Права на действия выдают по мере накопления статистики, а не авансом.

Собрать проверочные вопросы

Двадцать типовых обращений с ожидаемыми ответами. Прогонять после каждой правки инструкции — иначе вы не узнаете, что «улучшение» сломало три других сценария. Правку промпта, в отличие от правки кнопки, не видно, пока кто-то не задаст нужный вопрос.

Это единственная защита от тихой деградации, и её почти никогда не делают.

Поставить потолок расходов

Каждое решение агента — платное обращение к модели. Нужен лимит и на диалог, и на день. Без него первая же ошибка в логике превращается в счёт, который никто не ждал: агент, зациклившийся на паре инструментов, способен потратить месячный бюджет за ночь.

Порядок для первого агента
  1. 1
    Выберите одну задачуСамую повторяющуюся. Не «внедрить ИИ», а конкретное действие, которое кто-то делает руками каждый день
  2. 2
    Посчитайте, сколько она стоит сейчасЧасы в месяц. Иначе потом не с чем сравнить результат
  3. 3
    Опишите правилаКак отвечать, когда звать человека, чего не обещать. Это документ, а не пара фраз
  4. 4
    Соберите прототип быстроВ конструкторе или на платформе автоматизации — важно увидеть поведение, а не сделать красиво
  5. 5
    Прогоните на своих вопросахДвадцать реальных обращений. Смотреть надо на ошибки, а не на удачные ответы
  6. 6
    Запустите на части потокаДесять процентов обращений и с проверкой человеком. Не на всех клиентах сразу
  7. 7
    Решайте по цифрамСравните с числом из второго шага и решайте: расширять, переписывать или остановиться
Шаги три и пять пропускают чаще всего, и именно из-за них агент потом «работает странно». Инструмент при этом ни при чём.

Как проверить агента до того, как его увидят клиенты

Проверка агента отличается от проверки обычной программы: одинаковый вопрос два раза подряд может дать разные ответы, поэтому «нажали — работает» здесь не доказательство.

Что делают вместо этого:

  • Берут реальные обращения, а не придуманные. Двадцать штук из настоящей переписки, включая грубые, невнятные и не по теме.
  • Проверяют не только правильные ответы. Главное — что агент делает, когда не знает, когда его провоцируют и когда данных нет.
  • Смотрят, признаёт ли он незнание. Агент, который всегда отвечает, опаснее агента, который иногда молчит.
  • Проверяют границы. Попросите его пообещать скидку, изменить чужой заказ, рассказать внутренние данные. Он должен отказаться.
  • Гоняют весь набор после каждой правки правил. Без этого одна улучшенная формулировка тихо ломает три сценария.

Набор из двадцати вопросов стоит сразу оформить так, чтобы прогон занимал одну команду, а не полчаса ручной переписки. Иначе его перестанут гонять на второй неделе — ровно тогда, когда правки идут чаще всего.

Сколько это занимает по времени

Честные ориентиры, из практики, а не из рекламы.

Прототип на одной задаче — от нескольких дней. Настолько быстро, что этим и соблазняют.

Агент, подключённый к вашим системам — от нескольких недель. Срок задаёт не программирование, а доступ к данным и описание правил.

Агент, допущенный к клиентам — плюс несколько недель обкатки на части потока. Этот этап пытаются пропустить чаще всего, и именно он отделяет работающего агента от демонстрации.

Что делать после запуска

Запуск — это начало работы, а не её конец. Первый месяц определяет, приживётся агент или тихо умрёт.

Читать диалоги. Не сводку, а сами разговоры — хотя бы двадцать в день первые две недели. Ничто другое не показывает, каких правил не хватает.

Вести список того, чего агент не знал. Каждый случай «не смог ответить» — это либо новое правило, либо новый инструмент, либо признак, что задача не агентская. Список разбирают раз в неделю.

Смотреть, куда уходят деньги. Расход на модель по дням и по типам обращений. Обычно выясняется, что треть бюджета съедают вопросы, которые должна была закрыть кнопка.

Не улучшать всё сразу. Одна правка правил за раз, потом прогон проверочных вопросов. Иначе, когда что-то сломается, вы не поймёте, какая из пяти правок виновата.

Расширять права по статистике. Через месяц видно, где агент не ошибается ни разу, — вот там ему и можно дать делать самому то, что раньше подтверждал человек.

Пять ошибок первого агента

Начать с инструмента, а не с задачи. «Мы решили сделать ИИ-агента» — плохое начало. Хорошее: «менеджер тратит час в день на разбор входящих».

Дать сразу много прав. Соблазн понятен: пусть сам всё делает. Но агент, который в первый же день может изменить заказ клиента, ошибётся дорого. Права расширяют по мере доверия, а не выдают авансом.

Не зафиксировать версию модели. Провайдер обновил модель — поведение агента изменилось, хотя вы ничего не трогали. Версию фиксируют, а обновляются осознанно и с прогоном проверочных вопросов.

Взять инструмент не того уровня. Помощник, настроенный в чате, прекрасен для личных задач и беспомощен как клиентский агент. Обратное тоже верно: писать свой код ради задачи, которую закрывает конструктор, — трата денег.

Не назначить хозяина. У агента должен быть человек, который первый месяц читает его диалоги и дописывает правила. Без этого ошибки не исчезают — они просто перестают попадаться на глаза.

Что делать, если не хочется разбираться

Всё описанное выше — работа на недели, и большая её часть не про технологии, а про ваши процессы. Если разбираться самому некогда, расскажите задачу — разберу бесплатно и скажу, что реально нужно: агент, обычный чат-бот или вообще другое решение.

Разница между агентом и ботом в цене существенная, поэтому первым делом на разборе я выясняю, нужна ли вам самостоятельность агента или хватит предсказуемого сценария — чем они отличаются, разобрал отдельно. А если вы ещё только разбираетесь в терминах, начните с материала что такое ИИ-агент простыми словами: там словарь из восьми слов, после которого разговор с любым подрядчиком становится предметным.

Если разбираться во всём этом некогда

Основное время в этой работе съедает не выбор инструмента, а правила и доступ к вашим данным. Расскажите задачу словами — посмотрю, каким из пяти способов её закрывать, сколько это займёт и во сколько обойдётся содержание. Разбор бесплатный.

Денис Лузиков
Денис ЛузиковРазработчик ИИ-агентов и чат-ботов

5 лет работаю с ИИ, 120+ проектов в разных нишах. Четыре продукта в Telegram, которые можно открыть и попробовать прямо сейчас, — суммарно 477 016 пользователей в месяц. Разработку веду сам, без агентства.

Вопросы

Частые вопросы

Можно ли создать ИИ-агента бесплатно?

Собрать и попробовать — да: у конструкторов есть бесплатные тарифы, у моделей — бесплатные лимиты. Работать на клиентах бесплатно не выйдет: обращения к модели платные, и это постоянный расход, а не разовый. Бесплатные варианты годятся для проверки идеи, а не для боевой работы.

Нужно ли уметь программировать?

Для первых трёх способов — нет, достаточно понимать логику и уметь читать документацию своих систем. Программирование нужно там, где агент должен работать с вашими данными по вашим правилам, а не по типовым. Но и без кода придётся разбираться в том, как устроены ваши процессы, — и это обычно сложнее самого агента.

Какую модель выбрать?

Для большинства бизнес-задач разница между топовыми моделями меньше, чем разница между хорошо и плохо описанными правилами. Начинайте с той, что доступна и дешевле, и меняйте, только если упрётесь в качество. Фиксировать версию обязательно: обновление модели без предупреждения меняет поведение агента.

Можно ли поднять агента локально, на своём железе?

Да, открытые модели работают на своём сервере, и данные тогда не покидают периметр. Платите вы за это качеством ответов и стоимостью железа: слабой машины хватит для опытов, для боевой нагрузки нужна видеокарта уровня серверной. Выбирают такой путь обычно не ради экономии, а когда передавать данные наружу запрещено.

Сколько времени занимает первый агент?

Работающий прототип на одной задаче — от нескольких дней. Агент, подключённый к вашим системам и допущенный к клиентам, — от нескольких недель, и срок определяет не разработка, а доступ к данным: есть ли у ваших систем интерфейс, кто даёт доступ, в каком виде лежит информация.

Чем агент отличается от обычного чат-бота?

Бот идёт по заранее описанному сценарию, агент строит порядок действий сам под конкретное обращение. Практическое следствие: бот дешевле и предсказуем, но ломается на всём, чего не предусмотрели; агент справляется с непредвиденным, но требует правил, доступа к данным и надзора первые недели.