Model AI
Model AI di MonoChat adalah koneksi tersimpan ke satu model dari satu penyedia: penyedia, nama model, kredensial, dan pengaturan default yang digunakan model. Setiap fitur AI memilih modelnya dari daftar ini: node Buat Respons Obrolan AI, node Agen AI, Cakupan AI (untuk embedding dan transkripsi suara), serta transkripsi pesan suara.
Anda mengelolanya di Pengaturan › Otomatisasi › Model AI.
Model yang disediakan MonoChat dan model milik Anda
Daftar menampilkan dua jenis model:
| Jenis | Siapa yang membuat | Bisakah Anda mengedit atau menghapusnya? | Siapa yang menagih penggunaan |
|---|---|---|---|
| Model yang disediakan MonoChat | MonoChat | Tidak, hanya-baca untuk workspace Anda | MonoChat, dari saldo workspace Anda |
| Model milik Anda | Anda, dengan kunci API atau endpoint Anda sendiri | Ya | Penyedia Anda, langsung di akun penyedia Anda |
Model yang disediakan MonoChat ditawarkan kepada setiap workspace, sehingga Anda dapat mulai menggunakan AI tanpa akun di penyedia AI mana pun. Harganya ditetapkan dan dikelola oleh MonoChat.
Saat sebuah alur menggunakan model yang disediakan MonoChat, penggunaannya (token input dan output, token cache, detik transkripsi, embedding, gambar, audio, atau video yang dihasilkan, penggunaan alat) dibebankan ke saldo Anda dan muncul di Transaksi dengan kategori seperti Token Input AI, Token Output AI, atau Transkrip AI. Model yang Anda buat dengan kredensial sendiri tidak memiliki harga MonoChat: penyedia Anda yang menagih Anda.
Penyedia yang didukung
| Penyedia | Yang diminta formulir |
|---|---|
| OpenAI | Kunci API |
| Anthropic | Kunci API |
| Gemini | Kunci API |
| OpenRouter | Kunci API |
| XAI | Kunci API |
| DeepSeek | Kunci API |
| Groq | Kunci API |
| Cohere | Kunci API, Endpoint (opsional, https://api.cohere.ai) |
| Azure | Domain Utama (openai.azure.com), Kunci API, Versi API (misalnya 2024-02-15-preview), Nama Instance |
| Ollama | Endpoint (misalnya http://localhost:11434); server harus dapat dijangkau dari MonoChat |
| AWS | Penyedia ini tercantum, tetapi formulir saat ini tidak meminta kredensial untuknya |
Dengan OpenRouter, satu kunci API menjangkau model dari banyak vendor. Masukkan ID model OpenRouter di Nama Model (misalnya openai/gpt-4o-mini).
Tambahkan model
- Buka Pengaturan › Otomatisasi › Model AI dan klik + (Buat).
- Masukkan Nama dan, jika perlu, Deskripsi. Nama inilah yang akan Anda pilih di node dan cakupan.
- Pilih Penyedia.
- Di bawah Pengaturan Umum AI, pilih Fitur yang didukung model ini (lihat di bawah), dan untuk model teks, Format Respons yang dapat dikembalikannya.
- Di bawah Konfigurasi Klien Model AI, masukkan Nama Model persis seperti penamaan penyedia, lalu kredensial penyedia.
- Sesuaikan pengaturan generasi jika perlu, lalu klik Simpan.
Model kini muncul di setiap pemilih model yang membutuhkan fitur yang dimilikinya.
Saat mengedit model, masukkan Kunci API lagi. MonoChat tidak pernah mengirim kembali kunci yang tersimpan ke browser Anda, sehingga kolomnya kosong di formulir pembaruan.
Kolom
Pengaturan Umum AI
| Kolom | Deskripsi |
|---|---|
| Fitur | Apa yang dapat dilakukan model: Teks, Embed, Transkrip, Alat (pemanggilan alat), Visi (membaca gambar), Buat Gambar, Buat Video, Buat Audio, dan Penalaran (lihat di bawah). Pemilih yang membutuhkan suatu fitur hanya menawarkan model yang memilikinya: cakupan AI meminta Embed, pemilih Model AI Ucapan ke Teks meminta Transkrip, node Agen AI meminta Teks. MonoChat juga menolak panggilan yang tidak ditandai untuk model tersebut, misalnya alat AI pada model tanpa Alat. |
| Format Respons | Ditampilkan untuk model teks. Output terstruktur yang didukung model: text, json-schema (JSON Schema yang Anda tentukan di node AI), dan message-schema (payload pesan MonoChat, seperti tombol atau daftar). |
Konfigurasi Klien Model AI
| Kolom | Ditampilkan untuk | Deskripsi |
|---|---|---|
| Nama Model | Semua | Pengenal model dari penyedia, misalnya gpt-4o-mini. |
| Kredensial | Tergantung penyedia | Lihat Penyedia yang didukung. |
| Maks. Token | Model tanpa Penalaran | Batas atas token dalam sebuah balasan. |
| Maks. Token Penyelesaian | Model penalaran | Batas atas token yang boleh dihasilkan model, termasuk penalarannya. |
| Tingkat Penalaran | Model penalaran | none, minimal, low, medium, high, atau xhigh. Tingkat yang lebih tinggi memberi jawaban lebih baik untuk pertanyaan sulit, dengan konsekuensi waktu dan token. Biarkan kosong untuk memakai default penyedia. |
| Tingkat Rincian | Model penalaran | low, medium, atau high: seberapa panjang jawaban yang diinginkan. |
| Cache | Semua | Aktif secara default. Memungkinkan penyedia menggunakan kembali bagian prompt yang di-cache, yang menurunkan biaya dan latensi untuk prompt yang berulang. |
| Maks. Percobaan Ulang | Semua | Berapa kali panggilan yang gagal dicoba ulang (1–10). |
| Temperature | Model tanpa Penalaran | 0–1. Lebih rendah berarti lebih dapat diprediksi, lebih tinggi berarti lebih kreatif. |
| Top P | Model tanpa Penalaran | 0–1. Membatasi sampling pada token yang paling mungkin. |
Node Buat Respons Obrolan AI memiliki kolom Maks. Token, Maks. Token Penyelesaian, Tingkat Penalaran, Tingkat Rincian, Cache, Maks. Percobaan Ulang, Temperature, dan Top P sendiri. Nilai yang Anda tetapkan pada node menggantikan default model hanya untuk node tersebut.
Tempat model digunakan
| Tempat | Model yang ditawarkan |
|---|---|
| Node Buat Respons Obrolan AI | Model untuk balasan, dan pemilih Model AI Ucapan ke Teks untuk pesan suara |
| Node Agen AI | Model utama, cadangan, dan cepat, serta model ucapan ke teks. Lihat Agen AI. |
| Cakupan AI | Model dengan Embed untuk mengubah dokumen menjadi vektor, dan model ucapan ke teks untuk file audio |
Izin
Akses dikendalikan oleh izin peran Lihat / Buat / Perbarui / Hapus klien model AI di otomasi. Lihat Peran.