Modele AI
Un model AI în MonoChat este o conexiune salvată la un model al unui furnizor: furnizorul, numele modelului, credențialele și setările implicite cu care rulează modelul. Fiecare funcție AI își alege modelul din această listă: nodul Creează finalizare de chat AI, nodul Agent AI, Domeniile AI (pentru embeddinguri și transcriere vocală) și transcrierea mesajelor vocale.
Le gestionați în Setări › Automatizare › Modele AI.
Modele oferite de MonoChat și modelele dumneavoastră
Lista arată două feluri de modele:
| Fel | Cine îl creează | Îl puteți edita sau șterge? | Cine facturează consumul |
|---|---|---|---|
| Modele oferite de MonoChat | MonoChat | Nu, sunt doar pentru citire în spațiul dumneavoastră de lucru | MonoChat, din soldul spațiului dumneavoastră de lucru |
| Modelele dumneavoastră | Dumneavoastră, cu propria cheie API sau propriul endpoint | Da | Furnizorul dumneavoastră, direct în contul dumneavoastră la furnizor |
Modelele oferite de MonoChat sunt disponibile în toate spațiile de lucru, deci puteți începe să folosiți AI fără un cont la vreun furnizor de AI. Prețurile lor sunt stabilite și gestionate de MonoChat.
Când un flux folosește un model oferit de MonoChat, consumul (tokeni de intrare și de ieșire, tokeni din cache, secunde de transcriere, embeddinguri, imagini generate, audio sau video, utilizarea instrumentelor) este debitat din soldul dumneavoastră și apare în Tranzacții cu categorii precum Token de intrare AI, Token de ieșire AI sau Transcriere AI. Un model creat de dumneavoastră cu propriile credențiale nu are preț MonoChat: furnizorul dumneavoastră vă facturează pentru el.
Furnizori acceptați
| Furnizor | Ce cere formularul |
|---|---|
| OpenAI | Cheie API |
| Anthropic | Cheie API |
| Gemini | Cheie API |
| OpenRouter | Cheie API |
| XAI | Cheie API |
| DeepSeek | Cheie API |
| Groq | Cheie API |
| Cohere | Cheie API, Endpoint (opțional, https://api.cohere.ai) |
| Azure | Domeniu principal (openai.azure.com), Cheie API, Versiune API (de exemplu 2024-02-15-preview), Nume instanță |
| Ollama | Endpoint (de exemplu http://localhost:11434); serverul trebuie să fie accesibil din MonoChat |
| AWS | Furnizorul este listat, dar formularul nu cere în prezent credențiale pentru el |
Cu OpenRouter, o singură cheie API oferă acces la modelele multor producători. Introduceți ID-ul de model OpenRouter în Numele modelului (de exemplu openai/gpt-4o-mini).
Adăugați un model
- Accesați Setări › Automatizare › Modele AI și faceți clic pe + (Creați).
- Introduceți un Nume și, opțional, o Descriere. Numele este ceea ce veți alege în noduri și domenii.
- Alegeți Furnizorul.
- La Setări generale AI, selectați Funcționalitățile pe care le acceptă modelul (vezi mai jos) și, pentru modelele de text, Formatele de răspuns pe care le poate returna.
- La Configurația clientului de model AI, introduceți Numele modelului exact așa cum îl denumește furnizorul, apoi credențialele furnizorului.
- Ajustați setările de generare dacă este necesar și faceți clic pe Salvați.
Modelul apare acum în fiecare selector de modele a cărui funcționalitate o are.
Când editați un model, introduceți din nou Cheia API. MonoChat nu trimite niciodată înapoi în browser o cheie salvată, deci câmpul este gol în formularul de actualizare.
Câmpuri
Setări generale AI
| Câmp | Descriere |
|---|---|
| Funcționalități | Ce poate face modelul: Text, Încorporare, Transcriere, Instrumente (apelarea instrumentelor), Vision (citirea imaginilor), Generați imagine, Generați videoclip, Generați audio și Raționament (vezi mai jos). Selectoarele care au nevoie de o funcționalitate oferă doar modelele care o au: domeniile AI cer Încorporare, selectoarele Modele AI pentru transcriere vocală cer Transcriere, nodul Agent AI cere Text. MonoChat refuză și un apel pentru care modelul nu este marcat, de exemplu instrumente AI pe un model fără Instrumente. |
| Formate de răspuns | Afișat pentru modelele de text. Ieșirile structurate pe care le acceptă modelul: text, json-schema (o schemă JSON pe care o definiți în nodul AI) și message-schema (un payload de mesaj MonoChat, cum ar fi butoane sau liste). |
Configurația clientului de model AI
| Câmp | Afișat pentru | Descriere |
|---|---|---|
| Numele modelului | Toate | Identificatorul modelului la furnizor, de exemplu gpt-4o-mini. |
| Credențiale | Depinde de furnizor | Consultați Furnizori acceptați. |
| Număr maxim de tokeni | Modele fără Raționament | Limita superioară a tokenilor dintr-un răspuns. |
| Număr maxim de tokeni de finalizare | Modele cu raționament | Limita superioară a tokenilor pe care îi poate genera modelul, inclusiv raționamentul. |
| Efort de raționament | Modele cu raționament | none, minimal, low, medium, high sau xhigh. Un efort mai mare dă răspunsuri mai bune la întrebări dificile, în schimbul timpului și al tokenilor. Lăsați gol pentru a folosi valoarea implicită a furnizorului. |
| Nivel de detaliere | Modele cu raționament | low, medium sau high: cât de lungi să fie răspunsurile. |
| Cache | Toate | Activat implicit. Permite furnizorului să reutilizeze părți de prompt din cache, ceea ce reduce costul și latența pentru prompturile repetate. |
| Număr maxim de reîncercări | Toate | De câte ori este reîncercat un apel eșuat (1–10). |
| Temperatură | Modele fără Raționament | 0–1. Mai mică înseamnă mai previzibil, mai mare înseamnă mai creativ. |
| Top P | Modele fără Raționament | 0–1. Limitează eșantionarea la cei mai probabili tokeni. |
Nodul Creează finalizare de chat AI are propriile câmpuri Număr maxim de tokeni, Număr maxim de tokeni de finalizare, Efort de raționament, Nivel de detaliere, Cache, Număr maxim de reîncercări, Temperatură și Top P. Valorile setate pe un nod înlocuiesc valorile implicite ale modelului doar pentru acel nod.
Unde sunt folosite modelele
| Loc | Ce modele oferă |
|---|---|
| Nodul Creează finalizare de chat AI | Modele pentru răspuns și un selector Modele AI pentru transcriere vocală pentru mesajele vocale |
| Nodul Agent AI | Modele principal, de rezervă și rapid și un model de transcriere vocală. Consultați Agenți AI. |
| Domenii AI | Un model cu Încorporare pentru a transforma documentele în vectori și un model de transcriere vocală pentru fișierele audio |
Permisiuni
Accesul este controlat de permisiunile de rol Citire / Creare / Actualizare / Ștergere clienți de model AI în automatizare. Consultați Roluri.