跳到主要内容

AI 模型

MonoChat 中的 AI 模型是一条已保存的连接,对应某个服务提供商的某一个模型:包括提供商、模型名称、凭据,以及该模型运行时使用的默认设置。所有 AI 功能都从这个列表中选择模型:创建 AI 聊天补全节点、AI 智能体节点、AI 范围(用于嵌入和语音转录),以及语音消息转录。

您可以在设置 › 自动化 › AI 模型中管理它们。

MonoChat 提供的模型与您自己的模型​

列表中显示两种模型:

类型创建者能否编辑或删除用量由谁计费
MonoChat 提供的模型MonoChat不能,对您的工作区只读MonoChat,从您工作区的余额中扣费
您自己的模型您,使用您自己的 API 密钥或端点可以您的提供商,直接在您的提供商账户上计费

MonoChat 提供的模型对每个工作区开放,因此您无需在任何 AI 提供商处注册账户就可以开始使用 AI。它们的价格由 MonoChat 设定和管理。

计费方式

当流程使用 MonoChat 提供的模型时,其用量(输入和输出令牌、缓存令牌、转录秒数、嵌入、生成的图片、音频或视频、工具使用)会从您的余额中扣费,并显示在交易中,类别包括 AI 输入令牌、AI 输出令牌或 AI 转录等。使用您自己的凭据创建的模型没有 MonoChat 价格:由您的提供商向您计费。

支持的提供商​

提供商表单需要填写的内容
OpenAIAPI 密钥
AnthropicAPI 密钥
GeminiAPI 密钥
OpenRouterAPI 密钥
XAIAPI 密钥
DeepSeekAPI 密钥
GroqAPI 密钥
CohereAPI 密钥、端点(可选,https://api.cohere.ai)
Azure主域名(openai.azure.com)、API 密钥、API 版本(例如 2024-02-15-preview)、实例名称
Ollama端点(例如 http://localhost:11434);MonoChat 必须能够访问该服务器
AWS该提供商已列出,但表单目前不要求为其填写任何凭据
OpenRouter

使用 OpenRouter,一个 API 密钥就可以访问众多厂商的模型。请在模型名称中输入 OpenRouter 的模型 ID(例如 openai/gpt-4o-mini)。

添加模型​

  1. 前往设置 › 自动化 › AI 模型,点击 +(创建)。
  2. 输入名称,并可选择填写描述。您将在节点和范围中通过该名称选择模型。
  3. 选择提供商。
  4. 在 AI 常规设置下,选择该模型支持的功能(见下文),对于文本模型,还可选择它可以返回的响应格式。
  5. 在 AI 模型客户端配置下,输入与提供商命名完全一致的模型名称,然后填写提供商的凭据。
  6. 如有需要,调整生成设置,然后点击保存。

该模型现在会出现在所有要求具备其功能的模型选择器中。

注意

编辑模型时,请重新输入 API 密钥。MonoChat 绝不会把已保存的密钥发回您的浏览器,因此更新表单中该字段是空的。

字段​

AI 常规设置​

字段描述
功能模型能做什么:文本、嵌入、转录、工具(工具调用)、视觉(读取图片)、生成图片、生成视频、生成音频和推理(见下文)。需要某项功能的选择器只会提供具备该功能的模型:AI 范围需要嵌入,语音转文字 AI 模型选择器需要转录,AI 智能体节点需要文本。MonoChat 还会拒绝模型未标记支持的调用,例如在没有工具功能的模型上使用 AI 工具。
响应格式仅对文本模型显示。模型支持的结构化输出:text、json-schema(您在 AI 节点中定义的 JSON Schema)和 message-schema(MonoChat 消息负载,例如按钮或列表)。

AI 模型客户端配置​

字段适用于描述
模型名称所有模型提供商的模型标识符,例如 gpt-4o-mini。
凭据取决于提供商请参阅支持的提供商。
最大令牌数没有推理功能的模型一次回复中令牌数的上限。
最大补全令牌数推理模型模型可生成的令牌数上限,包括其推理过程。
推理强度推理模型none、minimal、low、medium、high 或 xhigh。强度越高,对难题的回答越好,但会花费更多时间和令牌。留空则使用提供商的默认值。
详细程度推理模型low、medium 或 high:回答应该有多长。
缓存所有模型默认开启。允许提供商复用缓存的提示词部分,从而降低重复提示词的成本和延迟。
最大重试次数所有模型失败的调用会重试多少次(1–10)。
温度没有推理功能的模型0–1。数值越低越可预测,越高越有创意。
Top P没有推理功能的模型0–1。将采样限制在最可能的令牌范围内。

创建 AI 聊天补全节点有自己的最大令牌数、最大补全令牌数、推理强度、详细程度、缓存、最大重试次数、温度和 Top P 字段。您在节点上设置的值只会覆盖该节点所用模型的默认值。

模型的使用位置​

位置提供哪些模型
创建 AI 聊天补全节点用于回复的模型,以及用于语音消息的语音转文字 AI 模型选择器
AI 智能体节点主模型、备用模型和快速模型,以及一个语音转文字模型。请参阅 AI 智能体。
AI 范围一个具备嵌入功能的模型(用于将文档转换为向量),以及一个用于音频文件的语音转文字模型

权限​

访问权限由角色权限 Read / Create / Update / Delete AI model clients in automation 控制。请参阅角色。