AI 模型
MonoChat 中的 AI 模型是一条已保存的连接,对应某个服务提供商的某一个模型:包括提供商、模型名称、凭据,以及该模型运行时使用的默认设置。所有 AI 功能都从这个列表中选择模型:创建 AI 聊天补全节点、AI 智能体节点、AI 范围(用于嵌入和语音转录),以及语音消息转录。
您可以在设置 › 自动化 › AI 模型中管理它们。
MonoChat 提供的模型与您自己的模型
列表中显示两种模型:
| 类型 | 创建者 | 能否编辑或删除 | 用量由谁计费 |
|---|---|---|---|
| MonoChat 提供的模型 | MonoChat | 不能,对您的工作区只读 | MonoChat,从您工作区的余额中扣费 |
| 您自己的模型 | 您,使用您自己的 API 密钥或端点 | 可以 | 您的提供商,直接在您的提供商账户上计费 |
MonoChat 提供的模型对每个工作区开放,因此您无需在任何 AI 提供商处注册账户就可以开始使用 AI。它们的价格由 MonoChat 设定和管理。
计费方式
当流程使用 MonoChat 提供的模型时,其用量(输入和输出令牌、缓存令牌、转录秒数、嵌入、生成的图片、音频或视频、工具使用)会从您的余额中扣费,并显示在交易中,类别包括 AI 输入令牌、AI 输出令牌或 AI 转录等。使用您自己的凭据创建的模型没有 MonoChat 价格:由您的提供商向您计费。
支持的提供商
| 提供商 | 表单需要填写的内容 |
|---|---|
| OpenAI | API 密钥 |
| Anthropic | API 密钥 |
| Gemini | API 密钥 |
| OpenRouter | API 密钥 |
| XAI | API 密钥 |
| DeepSeek | API 密钥 |
| Groq | API 密钥 |
| Cohere | API 密钥、端点(可选,https://api.cohere.ai) |
| Azure | 主域名(openai.azure.com)、API 密钥、API 版本(例如 2024-02-15-preview)、实例名称 |
| Ollama | 端点(例如 http://localhost:11434);MonoChat 必须能够访问该服务器 |
| AWS | 该提供商已列出,但表单目前不要求为其填写任何凭据 |
OpenRouter
使用 OpenRouter,一个 API 密钥就可以访问众多厂商的模型。请在模型名称中输入 OpenRouter 的模型 ID(例如 openai/gpt-4o-mini)。
添加模型
- 前往设置 › 自动化 › AI 模型,点击 +(创建)。
- 输入名称,并可选择填写描述。您将在节点和范围中通过该名称选择模型。
- 选择提供商。
- 在 AI 常规设置下,选择该模型支持的功能(见下文),对于文本模型,还可选择它可以返回的响应格式。
- 在 AI 模型客户端配置下,输入与提供商命名完全一致的模型名称,然后填写提供商的凭据。
- 如有需要,调整生成设置,然后点击保存。
该模型现在会出现在所有要求具备其功能的模型选择器中。
注意
编辑模型时,请重新输入 API 密钥。MonoChat 绝不会把已保存的密钥发回您的浏览器,因此更新表单中该字段是空的。
字段
AI 常规设置
| 字段 | 描述 |
|---|---|
| 功能 | 模型能做什么:文本、嵌入、转录、工具(工具调用)、视觉(读取图片)、生成图片、生成视频、生成音频和推理(见下文)。需要某项功能的选择器只会提供具备该功能的模型:AI 范围需要嵌入,语音转文字 AI 模型选择器需要转录,AI 智能体节点需要文本。MonoChat 还会拒绝模型未标记支持的调用,例如在没有工具功能的模型上使用 AI 工具。 |
| 响应格式 | 仅对文本模型显示。模型支持的结构化输出:text、json-schema(您在 AI 节点中定义的 JSON Schema)和 message-schema(MonoChat 消息负载,例如按钮或列表)。 |
AI 模型客户端配置
| 字段 | 适用于 | 描述 |
|---|---|---|
| 模型名称 | 所有模型 | 提供商的模型标识符,例如 gpt-4o-mini。 |
| 凭据 | 取决于提供商 | 请参阅支持的提供商。 |
| 最大令牌数 | 没有推理功能的模型 | 一次回复中令牌数的上限。 |
| 最大补全令牌数 | 推理模型 | 模型可生成的令牌数上限,包括其推理过程。 |
| 推理强度 | 推理模型 | none、minimal、low、medium、high 或 xhigh。强度越高,对难题的回答越好,但会花费更多时间和令牌。留空则使用提供商的默认值。 |
| 详细程度 | 推理模型 | low、medium 或 high:回答应该有多长。 |
| 缓存 | 所有模型 | 默认开启。允许提供商复用缓存的提示词部分,从而降低重复提示词的成本和延迟。 |
| 最大重试次数 | 所有模型 | 失败的调用会重试多少次(1–10)。 |
| 温度 | 没有推理功能的模型 | 0–1。数值越低越可预测,越高越有创意。 |
| Top P | 没有推理功能的模型 | 0–1。将采样限制在最可能的令牌范围内。 |
创建 AI 聊天补全节点有自己的最大令牌数、最大补全令牌数、推理强度、详细程度、缓存、最大重试次数、温度和 Top P 字段。您在节点上设置的值只会覆盖该节点所用模型的默认值。
模型的使用位置
| 位置 | 提供哪些模型 |
|---|---|
| 创建 AI 聊天补全节点 | 用于回复的模型,以及用于语音消息的语音转文字 AI 模型选择器 |
| AI 智能体节点 | 主模型、备用模型和快速模型,以及一个语音转文字模型。请参阅 AI 智能体。 |
| AI 范围 | 一个具备嵌入功能的模型(用于将文档转换为向量),以及一个用于音频文件的语音转文字模型 |
权限
访问权限由角色权限 Read / Create / Update / Delete AI model clients in automation 控制。请参阅角色。