> For the complete documentation index, see [llms.txt](https://oswaldai.gitbook.io/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://oswaldai.gitbook.io/docs/functionele-documentatie/instellingen/llm.md).

# LLM

{% hint style="warning" %}
Voor je een model kan kiezen, moet er een AI-integratie zijn, zoals Azure OpenAI of Gemini. Die voeg je toe in de tab `Integraties`.
{% endhint %}

### Configueren in integraties

Onder integraties kun je verschillende AI-integraties kiezen om een LLM te configureren.&#x20;

<figure><img src="https://1621246471-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-L_IHdvfaXCVi1CBgkrB-887967055%2Fuploads%2FWDPfOF8pnxTFuoxQVJHT%2FScreenshot%202026-10-27%20at%2008.38.48.png?alt=media&amp;token=0fdc9a5f-3eb9-4abf-8d40-c277074789eb" alt=""><figcaption></figcaption></figure>

Hierna kun je in de Instellingen, tab `LLM`, kiezen welk taalmodel je wilt gebruiken (LLM's) voor [generatieve antwoorden](https://oswaldai.gitbook.io/docs/functionele-documentatie/scenarios/generatieve-antwoorden.md) en instellen hoe de kennisbank werkt.

<div><figure><img src="https://1621246471-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-L_IHdvfaXCVi1CBgkrB-887967055%2Fuploads%2Fi8XRg92wZfJMEAv0iNC1%2FScreenshot%202026-10-27%20at%2008.40.28.png?alt=media&amp;token=3a1fc326-a959-4f2b-aed4-81a810dacd38" alt=""><figcaption></figcaption></figure> <figure><img src="https://1621246471-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-L_IHdvfaXCVi1CBgkrB-887967055%2Fuploads%2F1ZUxD4Z4LyipK7Qk2Eb7%2FScreenshot%202026-10-27%20at%2008.40.47.png?alt=media&amp;token=a5d956de-db46-4213-870b-e6000c89913e" alt=""><figcaption></figcaption></figure></div>

## Generatieve antwoorden

* `Hoofdmodel (antwoorden)`: het model dat de antwoorden genereert.
* `Systeemprompt`: de instructies die het model meekrijgt bij het genereren van antwoorden. Je stelt de systeemprompt per taal in.

## Antwoordcontrole

Laat een tweede model (`Validatiemodel`) de antwoorden valideren voordat ze verstuurd worden, als het antwoord niet in de bronnen staat, gaat de LLM geen antwoord genereren en ga je naar de fallback "bot not understood". Deze onbeantwoorde vragen vind je dan ook terug onder issues > onbeantwoorde vragen.&#x20;

## Contextualizer

De contextualizer herformuleert de vraag van de gebruiker met een taalmodel, zodat de kennisbank betere resultaten vindt. Je kiest een `Contextualizermodel` en stelt per taal een `Contextualizerprompt` in.

## Kennisbank

De kennisbank gebruikt RAG (Retrieval-Augmented Generation): het model zoekt eerst relevante stukken in je [bronnen](https://oswaldai.gitbook.io/docs/functionele-documentatie/overige-functionaliteiten/kennisbank-en-bronnen.md) en gebruikt die om een antwoord te formuleren. Hier stel je onder andere in:

* `Indexversie`: welke versie van de zoekindex gebruikt wordt.
* `Embeddingmodel`: lokaal (bge-m3) of via een Azure OpenAI embedding deployment.
* `Primaire taal` en `Taalmodus` (`Uitgeschakeld`, `Voorkeur` of `Strikt`).

{% hint style="danger" %}
Opgelet! Als je de `Indexversie` of het `Embeddingmodel` wijzigt, wordt de zoekindex opnieuw opgebouwd. Tijdens het herindexeren is de zoekkwaliteit lager, en dat kan minstens een uur duren.
{% endhint %}
