Ga naar hoofdinhoud

AI-modellen

Een AI-model in MonoChat is een opgeslagen verbinding met één model van één provider: de provider, de modelnaam, de inloggegevens en de standaardinstellingen waarmee het model draait. Elke AI-functie kiest haar model uit deze lijst: de node AI-chatcompletion maken, de node AI-agent, AI-scopes (voor embeddings en transcriptie van spraak) en de transcriptie van spraakberichten.

U beheert ze onder Instellingen › Automatisering › AI-modellen.

Modellen van MonoChat en uw eigen modellen​

De lijst toont twee soorten modellen:

SoortWie maakt het aanKunt u het bewerken of verwijderen?Wie factureert het gebruik
Modellen van MonoChatMonoChatNee, ze zijn alleen-lezen voor uw workspaceMonoChat, van het saldo van uw workspace
Uw eigen modellenU, met uw eigen API-sleutel of endpointJaUw provider, rechtstreeks op uw account bij de provider

Modellen van MonoChat worden aan elke workspace aangeboden, zodat u AI kunt gebruiken zonder account bij een AI-provider. De prijzen ervan worden door MonoChat vastgesteld en beheerd.

Hoe facturering werkt

Wanneer een flow een model van MonoChat gebruikt, wordt het gebruik (invoer- en uitvoertokens, gecachete tokens, transcriptieseconden, embeddings, gegenereerde afbeeldingen, audio of video, toolgebruik) in rekening gebracht op uw saldo en verschijnt het in Transacties met categorieën zoals AI-invoertoken, AI-uitvoertoken of AI-transcript. Een model dat u met uw eigen inloggegevens aanmaakt, heeft geen MonoChat-prijs: uw provider factureert u daarvoor.

Ondersteunde providers​

ProviderWat het formulier vraagt
OpenAIAPI-sleutel
AnthropicAPI-sleutel
GeminiAPI-sleutel
OpenRouterAPI-sleutel
XAIAPI-sleutel
DeepSeekAPI-sleutel
GroqAPI-sleutel
CohereAPI-sleutel, Endpoint (optioneel, https://api.cohere.ai)
AzureHoofddomein (openai.azure.com), API-sleutel, API-versie (bijvoorbeeld 2024-02-15-preview), Instantienaam
OllamaEndpoint (bijvoorbeeld http://localhost:11434); de server moet bereikbaar zijn vanuit MonoChat
AWSDe provider staat in de lijst, maar het formulier vraagt er momenteel geen inloggegevens voor
OpenRouter

Met OpenRouter bereikt één API-sleutel de modellen van veel aanbieders. Voer de model-ID van OpenRouter in bij Modelnaam (bijvoorbeeld openai/gpt-4o-mini).

Een model toevoegen​

  1. Ga naar Instellingen › Automatisering › AI-modellen en klik op + (Aanmaken).
  2. Voer een Naam in en, optioneel, een Omschrijving. De naam is wat u in nodes en scopes kiest.
  3. Kies de Provider.
  4. Selecteer onder Algemene AI-instellingen de Functies die dit model ondersteunt (zie hieronder) en, voor tekstmodellen, de Antwoordformaten die het kan teruggeven.
  5. Voer onder Clientconfiguratie van AI-model de Modelnaam in precies zoals de provider die noemt, en daarna de inloggegevens van de provider.
  6. Pas indien nodig de generatie-instellingen aan en klik op Opslaan.

Het model verschijnt nu in elke modelkiezer waarvoor het de juiste functie heeft.

waarschuwing

Wanneer u een model bewerkt, voert u de API-sleutel opnieuw in. MonoChat stuurt een opgeslagen sleutel nooit terug naar uw browser, daarom is het veld in het bewerkformulier leeg.

Velden​

Algemene AI-instellingen​

VeldOmschrijving
FunctiesWat het model kan: Tekst, Embedden, Transcriptie, Tools (toolaanroepen), Vision (afbeeldingen lezen), Afbeelding genereren, Video genereren, Audio genereren en Redeneren (zie hieronder). Kiezers die een functie nodig hebben, bieden alleen modellen aan die ze hebben: AI-scopes vragen om Embedden, de kiezers AI-modellen voor spraak-naar-tekst om Transcriptie, de AI-agent-node om Tekst. MonoChat weigert ook een aanroep waarvoor het model niet is aangemerkt, bijvoorbeeld AI-tools op een model zonder Tools.
AntwoordformatenWordt getoond voor tekstmodellen. De gestructureerde uitvoer die het model ondersteunt: text, json-schema (een JSON Schema dat u in de AI-node definieert) en message-schema (een MonoChat-berichtpayload, zoals knoppen of lijsten).

Clientconfiguratie van AI-model​

VeldGetoond voorOmschrijving
ModelnaamAlleDe modelidentificatie van de provider, bijvoorbeeld gpt-4o-mini.
InloggegevensAfhankelijk van de providerZie Ondersteunde providers.
Max. tokensModellen zonder RedenerenBovengrens van het aantal tokens in een antwoord.
Max. completion-tokensRedeneermodellenBovengrens van het aantal tokens dat het model mag genereren, inclusief zijn redenering.
RedeneerinspanningRedeneermodellennone, minimal, low, medium, high of xhigh. Een hogere inspanning geeft betere antwoorden op moeilijke vragen, ten koste van tijd en tokens. Laat het leeg om de standaardwaarde van de provider te gebruiken.
UitgebreidheidRedeneermodellenlow, medium of high: hoe lang de antwoorden moeten zijn.
CacheAlleStandaard aan. Laat de provider gecachete delen van de prompt hergebruiken, wat de kosten en vertraging bij herhaalde prompts verlaagt.
Max. nieuwe pogingenAlleHoe vaak een mislukte aanroep opnieuw wordt geprobeerd (1–10).
TemperatuurModellen zonder Redeneren0–1. Lager is voorspelbaarder, hoger is creatiever.
Top PModellen zonder Redeneren0–1. Beperkt het samplen tot de meest waarschijnlijke tokens.

De node AI-chatcompletion maken heeft eigen velden Max. tokens, Max. completion-tokens, Redeneerinspanning, Uitgebreidheid, Cache, Max. nieuwe pogingen, Temperatuur en Top P. Waarden die u op een node instelt, overschrijven de standaardwaarden van het model alleen voor die node.

Waar modellen worden gebruikt​

PlaatsWelke modellen worden aangeboden
Node AI-chatcompletion makenModellen voor het antwoord, en een kiezer AI-modellen voor spraak-naar-tekst voor spraakberichten
Node AI-agentHoofd-, fallback- en snelle modellen, en een spraak-naar-tekstmodel. Zie AI-agents.
AI-scopesEen model met Embedden om documenten in vectoren om te zetten, en een spraak-naar-tekstmodel voor audiobestanden

Machtigingen​

Toegang wordt geregeld via de rolmachtigingen Read / Create / Update / Delete AI model clients in automation. Zie Rollen.