KI-Modelle
Ein KI-Modell in MonoChat ist eine gespeicherte Verbindung zu einem Modell eines Anbieters: der Anbieter, der Modellname, die Zugangsdaten und die Standardeinstellungen, mit denen das Modell läuft. Jede KI-Funktion wählt ihr Modell aus dieser Liste: der Knoten KI-Chat-Completion erstellen, der Knoten KI-Agent, KI-Bereiche (für Embeddings und Sprachtranskription) und die Transkription von Sprachnachrichten.
Sie verwalten sie unter Einstellungen › Automatisierung › KI-Modelle.
Von MonoChat bereitgestellte und eigene Modelle
Die Liste zeigt zwei Arten von Modellen:
| Art | Wer erstellt es | Können Sie es bearbeiten oder löschen? | Wer rechnet die Nutzung ab |
|---|---|---|---|
| Von MonoChat bereitgestellte Modelle | MonoChat | Nein, sie sind für Ihren Workspace schreibgeschützt | MonoChat, über das Guthaben Ihres Workspace |
| Ihre eigenen Modelle | Sie, mit Ihrem eigenen API-Schlüssel oder Endpoint | Ja | Ihr Anbieter, direkt über Ihr Konto beim Anbieter |
Von MonoChat bereitgestellte Modelle stehen jedem Workspace zur Verfügung, sodass Sie KI nutzen können, ohne ein Konto bei einem KI-Anbieter zu haben. Ihre Preise werden von MonoChat festgelegt und verwaltet.
Wenn ein Flow ein von MonoChat bereitgestelltes Modell verwendet, wird die Nutzung (Input- und Output-Tokens, gecachte Tokens, Transkriptionssekunden, Embeddings, generierte Bilder, Audio oder Video, Tool-Nutzung) Ihrem Guthaben belastet und erscheint unter Transaktionen mit Kategorien wie KI-Input-Token, KI-Output-Token oder KI-Transkript. Ein Modell, das Sie mit Ihren eigenen Zugangsdaten erstellen, hat keinen MonoChat-Preis: Ihr Anbieter stellt es Ihnen in Rechnung.
Unterstützte Anbieter
| Anbieter | Was das Formular abfragt |
|---|---|
| OpenAI | API-Schlüssel |
| Anthropic | API-Schlüssel |
| Gemini | API-Schlüssel |
| OpenRouter | API-Schlüssel |
| XAI | API-Schlüssel |
| DeepSeek | API-Schlüssel |
| Groq | API-Schlüssel |
| Cohere | API-Schlüssel, Endpoint (optional, https://api.cohere.ai) |
| Azure | Hauptdomain (openai.azure.com), API-Schlüssel, API-Version (zum Beispiel 2024-02-15-preview), Instanzname |
| Ollama | Endpoint (zum Beispiel http://localhost:11434); der Server muss von MonoChat aus erreichbar sein |
| AWS | Der Anbieter ist aufgeführt, das Formular fragt dafür aber derzeit keine Zugangsdaten ab |
Mit OpenRouter erreicht ein API-Schlüssel die Modelle vieler Hersteller. Tragen Sie die Modell-ID von OpenRouter in Modellname ein (zum Beispiel openai/gpt-4o-mini).
Modell hinzufügen
- Gehen Sie zu Einstellungen › Automatisierung › KI-Modelle und klicken Sie auf + (Erstellen).
- Geben Sie einen Namen und optional eine Beschreibung ein. Der Name ist das, was Sie später in Knoten und Bereichen auswählen.
- Wählen Sie den Anbieter.
- Wählen Sie unter Allgemeine KI-Einstellungen die Funktionen aus, die dieses Modell unterstützt (siehe unten), und bei Textmodellen die Antwortformate, die es zurückgeben kann.
- Geben Sie unter KI-Modell-Client-Konfiguration den Modellnamen genau so ein, wie der Anbieter ihn nennt, und dann die Zugangsdaten des Anbieters.
- Passen Sie bei Bedarf die Generierungseinstellungen an und klicken Sie auf Speichern.
Das Modell erscheint nun in jeder Modellauswahl, deren Funktion es besitzt.
Wenn Sie ein Modell bearbeiten, geben Sie den API-Schlüssel erneut ein. MonoChat sendet einen gespeicherten Schlüssel nie an Ihren Browser zurück, daher ist das Feld im Bearbeitungsformular leer.
Felder
Allgemeine KI-Einstellungen
| Feld | Beschreibung |
|---|---|
| Funktionen | Was das Modell kann: Text, Embedding, Transkript, Tools (Tool-Aufrufe), Vision (Bilder lesen), Bild generieren, Video generieren, Audio generieren und Reasoning (siehe unten). Auswahlfelder, die eine Funktion benötigen, bieten nur Modelle an, die sie haben: KI-Bereiche verlangen Embedding, die Auswahlfelder Speech-to-Text-KI-Modelle verlangen Transkript, der Knoten KI-Agent verlangt Text. MonoChat lehnt außerdem einen Aufruf ab, für den das Modell nicht markiert ist, zum Beispiel KI-Tools bei einem Modell ohne Tools. |
| Antwortformate | Wird bei Textmodellen angezeigt. Die strukturierten Ausgaben, die das Modell unterstützt: text, json-schema (ein JSON-Schema, das Sie im KI-Knoten definieren) und message-schema (eine MonoChat-Nachrichten-Payload, etwa mit Schaltflächen oder Listen). |
KI-Modell-Client-Konfiguration
| Feld | Angezeigt bei | Beschreibung |
|---|---|---|
| Modellname | Allen | Die Modellkennung des Anbieters, zum Beispiel gpt-4o-mini. |
| Zugangsdaten | Je nach Anbieter | Siehe Unterstützte Anbieter. |
| Max. Tokens | Modellen ohne Reasoning | Obergrenze der Tokens in einer Antwort. |
| Max. Completion-Tokens | Reasoning-Modellen | Obergrenze der Tokens, die das Modell generieren darf, einschließlich seines Reasonings. |
| Reasoning-Aufwand | Reasoning-Modellen | none, minimal, low, medium, high oder xhigh. Ein höherer Aufwand liefert bessere Antworten auf schwierige Fragen, kostet aber Zeit und Tokens. Lassen Sie das Feld leer, um den Standard des Anbieters zu verwenden. |
| Ausführlichkeit | Reasoning-Modellen | low, medium oder high: wie lang die Antworten sein sollen. |
| Cache | Allen | Standardmäßig aktiviert. Erlaubt dem Anbieter, zwischengespeicherte Teile des Prompts wiederzuverwenden, was Kosten und Latenz bei wiederholten Prompts senkt. |
| Max. Wiederholungen | Allen | Wie oft ein fehlgeschlagener Aufruf wiederholt wird (1–10). |
| Temperatur | Modellen ohne Reasoning | 0–1. Niedriger ist berechenbarer, höher ist kreativer. |
| Top P | Modellen ohne Reasoning | 0–1. Beschränkt das Sampling auf die wahrscheinlichsten Tokens. |
Der Knoten KI-Chat-Completion erstellen hat eigene Felder Max. Tokens, Max. Completion-Tokens, Reasoning-Aufwand, Ausführlichkeit, Cache, Max. Wiederholungen, Temperatur und Top P. Werte, die Sie an einem Knoten festlegen, überschreiben die Standardwerte des Modells nur für diesen Knoten.
Wo Modelle verwendet werden
| Stelle | Welche Modelle sie anbietet |
|---|---|
| Knoten KI-Chat-Completion erstellen | Modelle für die Antwort und eine Auswahl Speech-to-Text-KI-Modelle für Sprachnachrichten |
| Knoten KI-Agent | Haupt-, Ersatz- und schnelles Modell sowie ein Speech-to-Text-Modell. Siehe KI-Agenten. |
| KI-Bereiche | Ein Modell mit Embedding, um Dokumente in Vektoren umzuwandeln, und ein Speech-to-Text-Modell für Audiodateien |
Berechtigungen
Der Zugriff wird über die Rollenberechtigungen Read / Create / Update / Delete AI model clients in automation gesteuert. Siehe Rollen.