Zum Hauptinhalt springen

KI-Agenten

Ein KI-Agent ist ein mehrstufiger Assistent. Er liest die Konversation, plant, ruft Tools auf (Ihre KI-Tools, MCP-Tools und eine Wissensdatenbank-Suche), wertet die Ergebnisse aus und ruft das Modell erneut auf, bis er eine Antwort hat. Der Knoten KI-Chat-Completion erstellen führt einen einzigen Modellaufruf aus und antwortet; der Knoten KI-Agent kann innerhalb der von Ihnen gesetzten Limits mehrere Modell- und Tool-Aufrufe durchlaufen, bevor er antwortet.

Verwenden Sie einen Agenten, wenn eine Anfrage mehrere Schritte erfordert, zum Beispiel „die Bestellung des Kunden finden, den Lieferstatus prüfen und einen neuen Termin anbieten". Für eine direkte Antwort aus Anweisungen und einer Wissensdatenbank ist der KI-Knoten einfacher und günstiger.

Die Bausteine​

TeilWas es istWo Sie es festlegen
KI-HarnessDie Engine, die die Agent-Schleife ausführt: die von MonoChat, ein Agent-SDK oder ein gehosteter Agent-Dienst.Einstellungen › Automatisierung › KI-Harnesses
ModelleDie KI-Modelle, mit denen der Agent denkt: ein Hauptmodell, ein optionales Ersatzmodell und ein optionales schnelles Modell. Gehostete Harnesses verwenden stattdessen die Modelle ihres eigenen Anbieters.Der Knoten KI-Agent
ToolsKI-Bereiche, KI-Tool-Funktionen und MCP-Tools.Der Knoten KI-Agent
AusführungsbudgetLimits für Modellaufrufe, Tool-Aufrufe, Tokens, Dauer und Wiederholungen pro Ausführung.Der Knoten KI-Agent
AusführungEin Lauf des Agenten. Jede Ausführung wird unter AI-Agent-Ausführungen aufgezeichnet.Wird vom Knoten oder der API erstellt

KI-Harnesses​

Unter Einstellungen › Automatisierung › KI-Harnesses sehen Sie die Harnesses, auf denen Ihre Agenten laufen können: die, die MonoChat jedem Workspace anbietet, und die, die Sie mit Ihren eigenen Zugangsdaten hinzufügen.

HarnessWo es läuftVerwendete ModelleWer es hinzufügt
MonoChat NativeIn MonoChatIhre KI-ModelleMonoChat
OpenAI Agents SDKIn MonoChatIhre KI-ModelleMonoChat
Claude Agent SDKAuf dem MonoChat Agent-RunnerIhre KI-ModelleMonoChat
piAuf dem MonoChat Agent-RunnerIhre KI-ModelleMonoChat
OpenAI Agents APIIn der Cloud von OpenAIDie erlaubten Modelle des HarnessSie, mit Ihrem OpenAI-API-Schlüssel (MonoChat kann ebenfalls eines anbieten)
Claude Managed AgentsIn der Cloud von AnthropicDie erlaubten Modelle des HarnessSie, mit Ihrem Anthropic-API-Schlüssel (MonoChat kann ebenfalls eines anbieten)
Eigener EndpunktAuf Ihrem eigenen ServerIhre KI-Modelle (optional)Sie, mit Ihrem Endpoint und Secret

Harnesses, die auf MonoChat laufen, werden von MonoChat angeboten; Ihr Workspace kann nur Harnesses hinzufügen, die eigene Zugangsdaten verwenden. Claude Agent SDK und pi benötigen den Agent-Runner von MonoChat: Wo er nicht eingerichtet ist, schlägt eine Ausführung darauf mit „This harness is not available on this server." fehl.

Welches Harness Sie auch verwenden, MonoChat behält die Kontrolle: Jeder Modellaufruf eines Harness, das Ihre KI-Modelle nutzt, läuft über MonoChat (sodass Abrechnung und Budget gelten), jeder Tool-Aufruf führt Ihre Funktionen, MCP-Tools und KI-Bereiche in Ihrem Workspace aus, und das Budget wird bei jedem Harness durchgesetzt.

Harness hinzufügen​

  1. Gehen Sie zu Einstellungen › Automatisierung › KI-Harnesses und klicken Sie auf + (Erstellen).
  2. Geben Sie einen Namen und optional eine Beschreibung ein.
  3. Wählen Sie das Harness. Jede Option gibt an, wo es läuft.
  4. Geben Sie unter Zugangsdaten ein, was das Harness benötigt:
    • OpenAI Agents API, Claude Managed Agents: API-Schlüssel.
    • Eigener Endpunkt: Endpoint und API-Schlüssel.
  5. Füllen Sie bei einem gehosteten Harness die Erlaubten Modelle aus: Geben Sie die Modellnamen des Anbieters ein (zum Beispiel die OpenAI- oder Anthropic-Modell-ID). Mit Modell hinzufügen können Sie bis zu 10 Modelle hinzufügen. Agenten auf diesem Harness können nur aus dieser Liste wählen.
  6. Klicken Sie auf Speichern.

Wenn Sie ein Harness bearbeiten, lässt sich der Typ Harness nicht ändern, und das Schlüsselfeld heißt API-Schlüssel (leer lassen, um den gespeicherten zu behalten).

Claude Managed Agents

Bei der ersten Verwendung eines Harness dieses Typs erstellt MonoChat in diesem Anthropic-Konto einen Agenten und eine Umgebung und verwendet sie danach wieder.

Eigener Endpunkt​

Ein Harness vom Typ Eigener Endpunkt sendet Ausführungen an Ihren eigenen Dienst, zum Beispiel einen selbst gehosteten Agenten. Für jede Ausführung sendet MonoChat einen POST an <Endpoint>/runs mit Authorization: Bearer <API Key>. Der Body enthält die ID der Ausführung, die Anweisungen, die Eingabe, die Nachrichten der Konversation, das Budget, die Modell-Aliasse (agent-main, agent-fallback, agent-fast) und drei URLs mit einem Token für diese Ausführung:

  • ein Modell-Gateway (OpenAI-kompatible …/v1- und Anthropic-kompatible Basis-URLs), das die KI-Modelle des Knotens aufruft und das Budget durchsetzt,
  • ein MCP-Server, der die Tools der Ausführung bereitstellt,
  • eine Events-URL, unter der Ihr Dienst das Ergebnis meldet (completed mit result oder failed mit error).

Das Token der Ausführung wird ungültig, wenn die Ausführung endet.

Der Knoten „KI-Agent"​

Fügen Sie einem Flow mit dem Knoten KI-Agent einen Agenten hinzu, zu finden unter den Hybrid-Knoten im Flow-Designer. Wie Sie Knoten hinzufügen und verbinden, steht unter Flows.

Felder​

AbschnittFeldBeschreibung
NameDer Name des Knotens, der auf der Arbeitsfläche angezeigt wird.
KI-HarnessErforderlich. Das Harness, das den Agenten ausführt.
AnweisungenDie System-Anweisungen des Agenten: seine Rolle, sein Ton, seine Regeln und was er tun oder nicht tun darf.
Aufgabe (wird den Agent-Anweisungen hinzugefügt; Tags möglich)Was dieser Knoten vom Agenten verlangt. Sie wird nach den Anweisungen angehängt und kann dieselben Tags wie der Prompt des KI-Knotens verwenden, zum Beispiel um Kundendaten einzufügen.
ModelleHauptmodellDas Modell, das der Agent verwendet. Erforderlich für jedes Harness außer Eigener Endpunkt.
Ersatzmodell (nach dem weichen Limit)Das Modell, auf das der Agent wechselt, sobald er das weiche Limit der Modellaufrufe erreicht, typischerweise ein günstigeres oder schnelleres Modell.
Schnelles Modell (leichte Hintergrundaufgaben)Ein Modell, das ein Harness für seine leichten Hintergrundaufrufe verwenden kann.
Modell (eines der erlaubten Modelle des Harness)Wird bei einem gehosteten Harness anstelle der drei obigen Felder angezeigt.
Agent-SitzungSitzungBestehende Agent-Sitzung fortsetzen (Standard) oder Neue Agent-Sitzung starten. Siehe Agent-Sitzungen.
Aufgabenschlüssel (eigene Agent-Sitzung pro Aufgabe)Optional. Führt in derselben Konversation pro Schlüssel eine eigene Agent-Sitzung, zum Beispiel booking und support.
Limit für NachrichtenverlaufWie viele Nachrichten der Konversation der Agent erhält.
Speech-to-Text-KI-ModelleEin Modell mit Transkript. Sprachnachrichten in der Konversation erreichen den Agenten als Text.
Tool-EinstellungenKI-BereicheWissensdatenbanken, die der Agent durchsuchen kann. Sie werden dem Agenten als Tool für die Wissenssuche angeboten.
KI-ToolFunktionen vom Typ KI-Tool, die der Agent aufrufen kann.
KI-MCP-Client-Content-Tools festlegenÖffnet die Seitenleiste, in der Sie MCP-Tools hinzufügen. Siehe MCP-Clients.
NachrichtenZwischennachrichten an den Kunden sendenStandardmäßig aus. Was der Agent schreibt, während er noch arbeitet (zum Beispiel „Ich prüfe Ihre Bestellung"), wird bei Aktivierung an den Kunden gesendet; bei Deaktivierung wird es der Sitzung als interner Kommentar hinzugefügt, den nur Ihr Team sieht.
Antwort sendenStandardmäßig an. Sendet die endgültige Antwort des Agenten an den Kunden. Deaktivieren Sie die Option, um die Antwort nur innerhalb des Flows zu verwenden.
AusführungsbudgetMax. ModellaufrufeStandard 4.
Weiches Limit: ModellaufrufeOptional. Nach dieser Anzahl von Modellaufrufen wechselt der Agent auf das Ersatzmodell. Muss kleiner sein als Max. Modellaufrufe und setzt ein Ersatzmodell voraus.
Max. Tool-AufrufeStandard 6. Bei 0 endet die Ausführung mit Budget überschritten, sobald der Agent versucht, ein Tool aufzurufen.
Max. Tokens gesamtStandard 20000. Input- und Output-Tokens aller Modellaufrufe der Ausführung.
Max. Dauer (Sekunden)Standard 30.
Max. WiederholungenStandard 2. Wie oft ein fehlgeschlagener Modellaufruf wiederholt wird.
tipp

Schreiben Sie die stabilen Regeln in Anweisungen und die konkrete Aufgabe dieses Schritts in Aufgabe. So können mehrere KI-Agent-Knoten in einem Flow dieselben Anweisungen teilen und sich nur in ihrer Aufgabe unterscheiden.

warnung

Gehostete Harnesses unterstützen kein weiches Limit, da sie nicht auf ein Ersatzmodell wechseln können. Lassen Sie Weiches Limit: Modellaufrufe für sie leer.

Was passiert, wenn der Flow den Knoten erreicht​

  1. MonoChat prüft Ihr Guthaben und die Einstellungen des Knotens und startet eine Ausführung. Die Ausführung ist In Warteschlange, dann Läuft. Die Flow-Instanz wartet am Knoten.
  2. Der Agent erhält die Anweisungen und die Aufgabe und, wenn der Flow zu einer Konversation gehört, die Nachrichten der Konversation bis zum Limit für Nachrichtenverlauf, wobei Sprachnachrichten transkribiert werden.
  3. Der Agent ruft Modelle und Tools auf, bis er eine Antwort hat oder ein Limit erreicht ist. Text, den er zwischen Tool-Aufrufen schreibt, wird als Zwischennachricht behandelt.
  4. Wenn die Ausführung endet:
    • Wurde sie Abgeschlossen und Antwort senden ist aktiv, wird die Antwort an den Kunden gesendet. Lange Antworten werden in mehrere Nachrichten aufgeteilt, wenn sie das Limit des Kanals überschreiten (4096 Zeichen bei WhatsApp);
    • endete sie anders, wird der Sitzung für Ihr Team ein interner Kommentar „AI agent run ended: status. error" hinzugefügt.
  5. Der Flow läuft auf der Ausgabe weiter, die zum Ende der Ausführung passt.

Ausführungen derselben Agent-Sitzung werden nacheinander in der richtigen Reihenfolge verarbeitet.

Ausgaben​

AusgabeWann
AbgeschlossenDer Agent hat mit einer Antwort abgeschlossen.
Budget überschrittenDie Ausführung hat Max. Modellaufrufe, Max. Tool-Aufrufe oder Max. Tokens gesamt aufgebraucht.
ZeitüberschreitungDie Ausführung hat Max. Dauer (Sekunden) erreicht.
Hass, Jailbreak, Selbstverletzung, Sexuelle Inhalte, GewaltDer Inhaltsfilter des Modellanbieters hat die Ausführung für diese Kategorie gestoppt. Das sind dieselben Ausgaben wie beim KI-Knoten.
Bei FehlerDie Ausführung ist aus einem anderen Grund fehlgeschlagen oder wurde abgebrochen. Ein Stopp durch den Inhaltsfilter landet bei Knoten, die vor Einführung dieser Ausgaben gespeichert wurden, ebenfalls hier; öffnen und speichern Sie einen solchen Knoten, um sie zu erhalten.

Verbinden Sie mindestens Abgeschlossen und Bei Fehler. Ein verbreitetes Muster ist, Budget überschritten, Zeitüberschreitung und Bei Fehler an einen Knoten Sitzung zuweisen zu leiten, damit ein Teammitglied übernimmt.

Agent-Sitzungen​

Eine Agent-Sitzung ist das Gedächtnis des Agenten über Ausführungen hinweg. MonoChat führt pro Konversation, Harness und Aufgabenschlüssel eine aktive Agent-Sitzung.

  • Bestehende Agent-Sitzung fortsetzen verwendet sie weiter, sodass der Agent dort weitermacht, wo er aufgehört hat. Bei gehosteten Harnesses läuft auch die eigene Sitzung des Anbieters weiter.
  • Neue Agent-Sitzung starten schließt die aktive Sitzung und beginnt neu, zum Beispiel am Anfang eines neuen Themas.
  • Ein Aufgabenschlüssel hält unabhängige Sitzungen nebeneinander in derselben Konversation.

Abrechnung​

  • Modellaufrufe an von MonoChat bereitgestellten KI-Modellen werden wie gewohnt Ihrem Guthaben belastet. Aufrufe an Ihren eigenen Modellen rechnet Ihr Anbieter ab.
  • Ein von MonoChat bereitgestelltes Harness kann eigene Gebühren pro Ausführung, pro Minute und pro Tool-Aufruf erheben, bei einem gehosteten Harness zusätzlich die Tokens, die sein Anbieter meldet. Sie erscheinen unter Transaktionen als KI-Agent-Ausführung, KI-Agent-Laufzeit, KI-Agent-Tool-Aufruf und KI-Token-Kategorien.
  • Für ein Harness, das Sie mit eigenen Zugangsdaten hinzufügen, fällt keine MonoChat-Gebühr an; Ihr Anbieter stellt es Ihnen in Rechnung.
  • Eine Ausführung startet nicht, wenn Ihr Guthaben nicht ausreicht.

Ereignis „KI-Agent-Ausführung beendet"​

KI-Agent-Ausführung beendet ist ein Ereignis-Knoten. Er wird ausgelöst, wenn eine Ausführung endet, die einem Kunden zugeordnet ist, unabhängig davon, ob die Ausführung von einem Flow oder über die API mit einer Sitzung gestartet wurde. Wie andere Ereignis-Knoten hat er optionale Einstellungen Bedingung und Zeitüberschreitung. Nutzen Sie ihn, um nach Agent-Ausführungen einen separaten Flow zu starten, zum Beispiel um Ergebnisse zu protokollieren oder ein Team zu benachrichtigen.

Einen Agenten per Code starten​

Benutzerdefinierte Funktionen und API-Clients können Agenten mit diesen Methoden ausführen (Berechtigung Start / Read / Cancel AI agent runs in automation):

MethodeWas sie tut
business.tenants.automation.ai.aiAgentRuns.createStartet eine Ausführung. Gibt aiAgentRunId und aiAgentSessionId zurück.
business.tenants.automation.ai.aiAgentRuns.showGibt eine Ausführung (_id) mit Status, Nutzung, Schritten und Ergebnis zurück.
business.tenants.automation.ai.aiAgentRuns.cancelBricht eine wartende oder laufende Ausführung (_id) ab.

create akzeptiert aiHarnessClientId, input (die Aufgabe), optional sessionId (um in einer Konversation zu arbeiten), aiAgentSessionId, taskKey und isNewSession sowie options mit denselben Einstellungen wie der Knoten: instructions, aiModelClientId, fallbackAiModelClientId, fastAiModelClientId, harnessModel, toolCustomFunctionIds, aiScopeIds, aiMcpClientDatas, messageHistoryLimit, speechToTextAiModelClientId, forwardIntermediateMessages, willSendAnswer und ein erforderliches budget. Über die API sind forwardIntermediateMessages und willSendAnswer standardmäßig false.

const { aiAgentRunId } = await sdk.method({ name: 'business.tenants.automation.ai.aiAgentRuns.create' }).callAsync({
payload: {
aiHarnessClientId: 'HARNESS_ID',
input: 'Summarise the open orders of this customer.',
sessionId: 'SESSION_ID',
options: {
instructions: 'You are the order assistant of our store.',
aiModelClientId: 'MODEL_ID',
toolCustomFunctionIds: ['FUNCTION_ID'],
budget: { maxLlmCalls: 4, maxToolCalls: 6, maxTotalTokens: 20000, maxDurationSeconds: 30, maxRetries: 2 },
},
},
})

Die Ausführung ist asynchron: Lesen Sie sie später mit show aus oder reagieren Sie darauf mit dem Ereignis KI-Agent-Ausführung beendet. Ohne sessionId startet jeder Aufruf eine neue Agent-Sitzung, es sei denn, Sie übergeben die aiAgentSessionId, die ein früherer Aufruf zurückgegeben hat; der Agent sieht dann die früheren abgeschlossenen Ausführungen dieser Agent-Sitzung als Verlauf. Wie Sie Methoden aus einer Funktion aufrufen, steht unter Method.

Berechtigungen​

BerechtigungErlaubt
Read / Create / Update / Delete AI harnesses in automationVerwalten der KI-Harnesses
Read AI agent runs in automationEinsehen der AI-Agent-Ausführungen
Start AI agent runs in automationAufrufen von aiAgentRuns.create
Cancel AI agent runs in automationAufrufen von aiAgentRuns.cancel

Siehe Rollen.