Modelli AI
Un modello AI in MonoChat è una connessione salvata a un modello di un provider: il provider, il nome del modello, le credenziali e le impostazioni predefinite con cui il modello viene eseguito. Ogni funzione AI sceglie il proprio modello da questo elenco: il nodo Crea completamento chat AI, il nodo Agente AI, gli Ambiti AI (per embedding e trascrizione vocale) e la trascrizione dei messaggi vocali.
Li gestisce in Impostazioni › Automazione › Modelli AI.
Modelli forniti da MonoChat e modelli propri
L'elenco mostra due tipi di modelli:
| Tipo | Chi lo crea | Può modificarlo o eliminarlo? | Chi fattura l'utilizzo |
|---|---|---|---|
| Modelli forniti da MonoChat | MonoChat | No, sono di sola lettura per il Suo workspace | MonoChat, dal saldo del Suo workspace |
| I Suoi modelli | Lei, con la Sua chiave API o il Suo endpoint | Sì | Il Suo provider, direttamente sul Suo account presso il provider |
I modelli forniti da MonoChat sono offerti a ogni workspace, così può iniziare a usare l'AI senza un account presso alcun provider AI. I loro prezzi sono definiti e gestiti da MonoChat.
Quando un flusso usa un modello fornito da MonoChat, l'utilizzo (token di input e di output, token in cache, secondi di trascrizione, embedding, immagini, audio o video generati, utilizzo degli strumenti) viene addebitato sul Suo saldo e compare in Transazioni con categorie come Token di input AI, Token di output AI o Trascrizione AI. Un modello che crea con le Sue credenziali non ha un prezzo MonoChat: la fattura il Suo provider.
Provider supportati
| Provider | Cosa chiede il modulo |
|---|---|
| OpenAI | Chiave API |
| Anthropic | Chiave API |
| Gemini | Chiave API |
| OpenRouter | Chiave API |
| XAI | Chiave API |
| DeepSeek | Chiave API |
| Groq | Chiave API |
| Cohere | Chiave API, Endpoint (facoltativo, https://api.cohere.ai) |
| Azure | Dominio principale (openai.azure.com), Chiave API, Versione API (ad esempio 2024-02-15-preview), Nome dell'istanza |
| Ollama | Endpoint (ad esempio http://localhost:11434); il server deve essere raggiungibile da MonoChat |
| AWS | Il provider è presente nell'elenco, ma al momento il modulo non richiede credenziali per esso |
Con OpenRouter una sola chiave API raggiunge i modelli di molti fornitori. Inserisca l'ID del modello di OpenRouter in Nome del modello (ad esempio openai/gpt-4o-mini).
Aggiungere un modello
- Vada in Impostazioni › Automazione › Modelli AI e faccia clic su + (Crea).
- Inserisca un Nome e, facoltativamente, una Descrizione. Il nome è ciò che sceglierà nei nodi e negli ambiti.
- Scelga il Provider.
- In Impostazioni generali AI, selezioni le Funzionalità supportate da questo modello (vedere sotto) e, per i modelli di testo, i Formati di risposta che può restituire.
- In Configurazione del client del modello AI, inserisca il Nome del modello esattamente come lo chiama il provider, poi le credenziali del provider.
- Regoli le impostazioni di generazione se necessario e faccia clic su Salva.
Il modello compare ora in ogni selettore di modelli la cui funzionalità possiede.
Quando modifica un modello, inserisca di nuovo la Chiave API. MonoChat non rimanda mai al Suo browser una chiave salvata, quindi il campo è vuoto nel modulo di modifica.
Campi
Impostazioni generali AI
| Campo | Descrizione |
|---|---|
| Funzionalità | Ciò che il modello sa fare: Testo, Embedding, Trascrizione, Strumenti (chiamata di strumenti), Vision (lettura di immagini), Genera immagine, Genera video, Genera audio e Ragionamento (vedere sotto). I selettori che richiedono una funzionalità offrono solo i modelli che la possiedono: gli ambiti AI chiedono Embedding, i selettori Modelli AI di riconoscimento vocale chiedono Trascrizione, il nodo Agente AI chiede Testo. MonoChat rifiuta inoltre una chiamata per cui il modello non è contrassegnato, ad esempio strumenti AI su un modello senza Strumenti. |
| Formati di risposta | Mostrato per i modelli di testo. Gli output strutturati supportati dal modello: text, json-schema (uno JSON Schema che definisce nel nodo AI) e message-schema (un payload di messaggio MonoChat, come pulsanti o elenchi). |
Configurazione del client del modello AI
| Campo | Mostrato per | Descrizione |
|---|---|---|
| Nome del modello | Tutti | L'identificativo del modello del provider, ad esempio gpt-4o-mini. |
| Credenziali | Dipende dal provider | Vedere Provider supportati. |
| Numero massimo di token | Modelli senza Ragionamento | Limite massimo di token in una risposta. |
| Numero massimo di token di completamento | Modelli con ragionamento | Limite massimo di token che il modello può generare, incluso il suo ragionamento. |
| Livello di ragionamento | Modelli con ragionamento | none, minimal, low, medium, high o xhigh. Un livello più alto dà risposte migliori a domande difficili, al prezzo di più tempo e token. Lo lasci vuoto per usare il valore predefinito del provider. |
| Verbosità | Modelli con ragionamento | low, medium o high: quanto devono essere lunghe le risposte. |
| Cache | Tutti | Attiva per impostazione predefinita. Consente al provider di riutilizzare parti di prompt in cache, riducendo costi e latenza per i prompt ripetuti. |
| Numero massimo di tentativi | Tutti | Quante volte viene ritentata una chiamata non riuscita (1–10). |
| Temperatura | Modelli senza Ragionamento | 0–1. Più basso è più prevedibile, più alto è più creativo. |
| Top P | Modelli senza Ragionamento | 0–1. Limita il campionamento ai token più probabili. |
Il nodo Crea completamento chat AI ha i propri campi Numero massimo di token, Numero massimo di token di completamento, Livello di ragionamento, Verbosità, Cache, Numero massimo di tentativi, Temperatura e Top P. I valori che imposta su un nodo sostituiscono quelli predefiniti del modello solo per quel nodo.
Dove vengono usati i modelli
| Posizione | Quali modelli offre |
|---|---|
| Nodo Crea completamento chat AI | Modelli per la risposta e un selettore Modelli AI di riconoscimento vocale per i messaggi vocali |
| Nodo Agente AI | Modelli principale, di fallback e veloce, e un modello di riconoscimento vocale. Vedere Agenti AI. |
| Ambiti AI | Un modello con Embedding per trasformare i documenti in vettori e un modello di riconoscimento vocale per i file audio |
Permessi
L'accesso è controllato dai permessi di ruolo Leggere / Creare / Aggiornare / Eliminare client di modelli AI nell'automazione. Vedere Ruoli.