Mô hình AI
Một mô hình AI trong MonoChat là một kết nối đã lưu tới một mô hình của một nhà cung cấp: nhà cung cấp, tên mô hình, thông tin xác thực và các cài đặt mặc định mà mô hình chạy với. Mọi tính năng AI đều chọn mô hình từ danh sách này: nút Tạo chat completion bằng AI, nút Tác tử AI, Phạm vi AI (cho embedding và phiên âm giọng nói) và việc phiên âm tin nhắn thoại.
Bạn quản lý chúng tại Cài đặt › Tự động hóa › Mô hình AI.
Mô hình do MonoChat cung cấp và mô hình của riêng bạn
Danh sách hiển thị hai loại mô hình:
| Loại | Ai tạo | Bạn có thể sửa hoặc xóa không? | Ai tính phí sử dụng |
|---|---|---|---|
| Mô hình do MonoChat cung cấp | MonoChat | Không, chúng chỉ đọc đối với không gian làm việc của bạn | MonoChat, trừ vào số dư không gian làm việc của bạn |
| Mô hình của riêng bạn | Bạn, bằng khóa API hoặc điểm cuối của riêng bạn | Có | Nhà cung cấp của bạn, trực tiếp trên tài khoản nhà cung cấp của bạn |
Mô hình do MonoChat cung cấp được cung cấp cho mọi không gian làm việc, nên bạn có thể bắt đầu dùng AI mà không cần tài khoản ở bất kỳ nhà cung cấp AI nào. Giá của chúng do MonoChat đặt và quản lý.
Khi một luồng dùng mô hình do MonoChat cung cấp, mức sử dụng (token đầu vào và đầu ra, token đã cache, số giây phiên âm, embedding, hình ảnh, âm thanh hoặc video được tạo, việc sử dụng công cụ) được tính vào số dư của bạn và xuất hiện trong Giao dịch với các danh mục như Token đầu vào AI, Token đầu ra AI hoặc Chuyển giọng nói thành văn bản bằng AI. Mô hình bạn tạo bằng thông tin xác thực riêng không có giá của MonoChat: nhà cung cấp của bạn tính phí bạn cho nó.
Nhà cung cấp được hỗ trợ
| Nhà cung cấp | Biểu mẫu yêu cầu |
|---|---|
| OpenAI | Khóa API |
| Anthropic | Khóa API |
| Gemini | Khóa API |
| OpenRouter | Khóa API |
| XAI | Khóa API |
| DeepSeek | Khóa API |
| Groq | Khóa API |
| Cohere | Khóa API, Điểm cuối (tùy chọn, https://api.cohere.ai) |
| Azure | Tên miền chính (openai.azure.com), Khóa API, Phiên bản API (ví dụ 2024-02-15-preview), Tên thực thể |
| Ollama | Điểm cuối (ví dụ http://localhost:11434); MonoChat phải truy cập được máy chủ |
| AWS | Nhà cung cấp có trong danh sách, nhưng hiện biểu mẫu không yêu cầu thông tin xác thực nào cho nó |
Với OpenRouter, một khóa API truy cập được mô hình của nhiều hãng. Hãy nhập ID mô hình của OpenRouter vào Tên mô hình (ví dụ openai/gpt-4o-mini).
Thêm mô hình
- Vào Cài đặt › Tự động hóa › Mô hình AI và bấm + (Tạo).
- Nhập Tên và, nếu muốn, Mô tả. Tên là thứ bạn sẽ chọn trong các nút và phạm vi.
- Chọn Nhà cung cấp.
- Trong Cài đặt chung của AI, chọn các Tính năng mà mô hình này hỗ trợ (xem bên dưới), và với mô hình văn bản là Định dạng phản hồi nó có thể trả về.
- Trong Cấu hình máy khách mô hình AI, nhập Tên mô hình đúng như nhà cung cấp đặt tên, rồi nhập thông tin xác thực của nhà cung cấp.
- Điều chỉnh các cài đặt tạo sinh nếu cần, rồi bấm Lưu.
Mô hình giờ xuất hiện trong mọi bộ chọn mô hình yêu cầu tính năng mà nó có.
Khi sửa một mô hình, hãy nhập lại Khóa API. MonoChat không bao giờ gửi lại khóa đã lưu về trình duyệt của bạn, nên trường này để trống trong biểu mẫu cập nhật.
Các trường
Cài đặt chung của AI
| Trường | Mô tả |
|---|---|
| Tính năng | Mô hình có thể làm gì: Văn bản, Nhúng (embedding), Chuyển giọng nói thành văn bản, Công cụ (gọi công cụ), Xử lý hình ảnh (đọc hình ảnh), Tạo hình ảnh, Tạo video, Tạo âm thanh và Suy luận (xem bên dưới). Các bộ chọn cần một tính năng chỉ đưa ra những mô hình có tính năng đó: phạm vi AI yêu cầu Nhúng, các bộ chọn Mô hình AI chuyển giọng nói thành văn bản yêu cầu Chuyển giọng nói thành văn bản, nút Tác tử AI yêu cầu Văn bản. MonoChat cũng từ chối một lượt gọi mà mô hình không được đánh dấu hỗ trợ, ví dụ công cụ AI trên mô hình không có Công cụ. |
| Định dạng phản hồi | Hiển thị cho mô hình văn bản. Các đầu ra có cấu trúc mà mô hình hỗ trợ: text, json-schema (một JSON Schema bạn định nghĩa trong nút AI) và message-schema (một payload tin nhắn MonoChat, chẳng hạn nút bấm hoặc danh sách). |
Cấu hình máy khách mô hình AI
| Trường | Hiển thị cho | Mô tả |
|---|---|---|
| Tên mô hình | Tất cả | Mã định danh mô hình của nhà cung cấp, ví dụ gpt-4o-mini. |
| Thông tin xác thực | Tùy nhà cung cấp | Xem Nhà cung cấp được hỗ trợ. |
| Số token tối đa | Mô hình không có Suy luận | Giới hạn trên số token trong một câu trả lời. |
| Số token hoàn thành tối đa | Mô hình suy luận | Giới hạn trên số token mô hình có thể tạo ra, gồm cả phần suy luận. |
| Mức độ suy luận | Mô hình suy luận | none, minimal, low, medium, high hoặc xhigh. Mức cao hơn cho câu trả lời tốt hơn với các câu hỏi khó, đổi lại tốn thêm thời gian và token. Để trống để dùng mặc định của nhà cung cấp. |
| Độ chi tiết | Mô hình suy luận | low, medium hoặc high: câu trả lời nên dài đến đâu. |
| Bộ nhớ đệm | Tất cả | Mặc định bật. Cho phép nhà cung cấp tái sử dụng các phần câu lệnh đã cache, giúp giảm chi phí và độ trễ với các câu lệnh lặp lại. |
| Số lần thử lại tối đa | Tất cả | Số lần một lượt gọi thất bại được thử lại (1–10). |
| Nhiệt độ | Mô hình không có Suy luận | 0–1. Thấp hơn thì dễ đoán hơn, cao hơn thì sáng tạo hơn. |
| Top P | Mô hình không có Suy luận | 0–1. Giới hạn việc lấy mẫu ở các token có khả năng cao nhất. |
Nút Tạo chat completion bằng AI có các trường riêng Số token tối đa, Số token hoàn thành tối đa, Mức độ suy luận, Độ chi tiết, Bộ nhớ đệm, Số lần thử lại tối đa, Nhiệt độ và Top P. Giá trị bạn đặt trên nút ghi đè mặc định của mô hình chỉ cho nút đó.
Nơi các mô hình được sử dụng
| Nơi | Các mô hình được đưa ra |
|---|---|
| Nút Tạo chat completion bằng AI | Mô hình cho câu trả lời, và bộ chọn Mô hình AI chuyển giọng nói thành văn bản cho tin nhắn thoại |
| Nút Tác tử AI | Mô hình chính, dự phòng và nhanh, cùng mô hình chuyển giọng nói thành văn bản. Xem Tác tử AI. |
| Phạm vi AI | Một mô hình có Nhúng để chuyển tài liệu thành vector, và một mô hình chuyển giọng nói thành văn bản cho tệp âm thanh |
Quyền
Quyền truy cập được kiểm soát bởi các quyền vai trò Xem / Tạo / Cập nhật / Xóa máy khách mô hình AI trong tự động hóa. Xem Vai trò.