Перейти к основному содержимому

AI-модели

AI-модель в MonoChat — это сохранённое подключение к одной модели одного провайдера: провайдер, название модели, учётные данные и настройки по умолчанию, с которыми модель работает. Каждая AI-функция выбирает модель из этого списка: узел Создать AI-ответ в чате, узел AI-агент, AI-области (для эмбеддингов и распознавания речи) и расшифровка голосовых сообщений.

Управлять ими можно в разделе Настройки › Автоматизация › AI-модели.

Модели MonoChat и ваши собственные модели​

В списке два вида моделей:

ВидКто создаётМожно ли изменить или удалитьКто выставляет счёт за использование
Модели, предоставляемые MonoChatMonoChatНет, для вашего рабочего пространства они доступны только для чтенияMonoChat, с баланса вашего рабочего пространства
Ваши собственные моделиВы, со своим API-ключом или конечной точкойДаВаш провайдер, напрямую на вашем аккаунте у провайдера

Модели, предоставляемые MonoChat, доступны каждому рабочему пространству, поэтому вы можете начать использовать AI без аккаунта у какого-либо AI-провайдера. Цены на них устанавливает и ведёт MonoChat.

Как работает оплата

Когда сценарий использует модель, предоставляемую MonoChat, расход (входные и выходные токены, кэшированные токены, секунды транскрипции, эмбеддинги, сгенерированные изображения, аудио или видео, использование инструментов) списывается с вашего баланса и отображается в разделе Транзакции в таких категориях, как Входной токен AI, Выходной токен AI или Транскрипция AI. У модели, созданной с вашими собственными учётными данными, нет цены MonoChat: счёт за неё выставляет ваш провайдер.

Поддерживаемые провайдеры​

ПровайдерЧто запрашивает форма
OpenAIAPI-ключ
AnthropicAPI-ключ
GeminiAPI-ключ
OpenRouterAPI-ключ
XAIAPI-ключ
DeepSeekAPI-ключ
GroqAPI-ключ
CohereAPI-ключ, Конечная точка (необязательно, https://api.cohere.ai)
AzureОсновной домен (openai.azure.com), API-ключ, Версия API (например, 2024-02-15-preview), Название экземпляра
OllamaКонечная точка (например, http://localhost:11434); сервер должен быть доступен из MonoChat
AWSПровайдер есть в списке, но форма пока не запрашивает для него учётные данные
OpenRouter

С OpenRouter один API-ключ даёт доступ к моделям многих разработчиков. Введите идентификатор модели OpenRouter в поле Название модели (например, openai/gpt-4o-mini).

Добавление модели​

  1. Перейдите в Настройки › Автоматизация › AI-модели и нажмите + (Создать).
  2. Введите Название и при желании Описание. Именно это название вы будете выбирать в узлах и областях.
  3. Выберите Провайдер.
  4. В разделе Общие настройки AI выберите Функции, которые поддерживает эта модель (см. ниже), а для текстовых моделей — Форматы ответа, которые она может возвращать.
  5. В разделе Конфигурация клиента AI-модели введите Название модели точно так, как его называет провайдер, затем учётные данные провайдера.
  6. При необходимости измените параметры генерации и нажмите Сохранить.

Теперь модель появится во всех списках выбора моделей, для которых у неё есть нужная функция.

предупреждение

При редактировании модели введите API-ключ заново. MonoChat никогда не отправляет сохранённый ключ обратно в ваш браузер, поэтому в форме редактирования это поле пустое.

Поля​

Общие настройки AI​

ПолеОписание
ФункцииЧто умеет модель: Текст, Эмбеддинг, Транскрипция, Инструменты (вызов инструментов), Зрение (чтение изображений), Генерация изображений, Генерация видео, Генерация аудио и Рассуждение (см. ниже). Списки выбора, которым нужна определённая функция, предлагают только модели с ней: AI-области запрашивают Эмбеддинг, списки AI-модели преобразования речи в текст — Транскрипция, узел AI-агент — Текст. MonoChat также отклоняет вызов, для которого модель не отмечена, например AI-инструменты на модели без Инструменты.
Форматы ответаОтображается для текстовых моделей. Поддерживаемые моделью структурированные ответы: text, json-schema (схема JSON, которую вы задаёте в AI-узле) и message-schema (сообщение MonoChat, например с кнопками или списками).

Конфигурация клиента AI-модели​

ПолеДля каких моделейОписание
Название моделиВсеИдентификатор модели у провайдера, например gpt-4o-mini.
Учётные данныеЗависит от провайдераСм. Поддерживаемые провайдеры.
Макс. токеновМодели без РассуждениеВерхний предел токенов в ответе.
Макс. токенов завершенияМодели с рассуждениемВерхний предел токенов, которые модель может сгенерировать, включая рассуждение.
Уровень рассужденияМодели с рассуждениемnone, minimal, low, medium, high или xhigh. Более высокий уровень даёт лучшие ответы на сложные вопросы ценой времени и токенов. Оставьте пустым, чтобы использовать значение провайдера по умолчанию.
ПодробностьМодели с рассуждениемlow, medium или high: насколько длинными должны быть ответы.
КэшВсеПо умолчанию включён. Позволяет провайдеру повторно использовать кэшированные части запроса, что снижает стоимость и задержку для повторяющихся запросов.
Макс. повторных попытокВсеСколько раз повторяется неудачный вызов (1–10).
ТемператураМодели без Рассуждение0–1. Чем ниже, тем предсказуемее ответы, чем выше, тем они креативнее.
Top PМодели без Рассуждение0–1. Ограничивает выборку наиболее вероятными токенами.

В узле Создать AI-ответ в чате есть собственные поля Макс. токенов, Макс. токенов завершения, Уровень рассуждения, Подробность, Кэш, Макс. повторных попыток, Температура и Top P. Значения, заданные в узле, переопределяют значения модели по умолчанию только для этого узла.

Где используются модели​

ГдеКакие модели предлагаются
Узел Создать AI-ответ в чатеМодели для ответа и список AI-модели преобразования речи в текст для голосовых сообщений
Узел AI-агентОсновная, резервная и быстрая модели, а также модель преобразования речи в текст. См. AI-агенты.
AI-областиМодель с Эмбеддинг для преобразования документов в векторы и модель преобразования речи в текст для аудиофайлов

Права доступа​

Доступ регулируется правами роли Просмотр / Создание / Обновление / Удаление клиентов моделей ИИ в автоматизации. См. Роли.