Kort samengevat
- Eigen AI trainen is voor de meeste bedrijven niet nodig en ook niet zinvol. De gebruikelijke aanpak heet Retrieval-Augmented Generation, kortweg RAG.
- Bij RAG zoekt het systeem voor elke vraag passende passages in uw documenten en laat het taalmodel uitsluitend op basis daarvan antwoorden, met bronvermelding.
- De kwaliteit hangt vooral af van uw documenten: actueel, eenduidig, zonder duplicaten en met duidelijke toegangsrechten.
- Taalmodellen kunnen in EU-datacenters of op eigen servers draaien. Lokale AI biedt controle, maar brengt kosten voor hardware en onderhoud met zich mee.
Eigen AI trainen? Meestal niet nodig
Wie over ‘eigen AI’ spreekt, bedoelt vaak een van vier dingen. Ze verschillen sterk in inspanning en nut:
| Aanpak | Wat er gebeurt | Geschikt voor | Grenzen |
|---|---|---|---|
| Documenten meegeven in de chat | Documenten worden voor een vraag geüpload | Afzonderlijke taken, snelle tests | Geen blijvende kennis, geen rechtenbeheer |
| RAG | Het systeem doorzoekt uw documenten en antwoordt op basis van de gevonden passages | Handleidingen, richtlijnen, productkennis, klantenservice | Staat of valt met de kwaliteit van de documenten |
| Fine-tuning | Een model wordt met voorbeelden verder getraind | Een consistente stijl, vaste formaten, specifieke classificaties | Werkt slecht voor veranderende feiten; elke wijziging kost werk |
| Een eigen model trainen | Een model wordt vanaf de basis opgebouwd | Onderzoek, zeer grote organisaties | Voor kleine en middelgrote bedrijven vrijwel nooit zinvol |
Voor kennis die verandert, zoals prijzen, processen of productgegevens, is RAG bijna altijd de betere keuze. Fine-tuning kan een aanvulling zijn als stijl of formaat zeer consistent moet zijn.
Zo werkt RAG
Deze methode werd in 2020 beschreven in een publicatie van onderzoekers rond Patrick Lewis en is inmiddels de standaard voor kennistoepassingen. Vereenvoudigd werkt het zo:
- Documenten verzamelen: handleidingen, richtlijnen, productbladen, contracten en eerdere antwoorden, uit opslaglocaties zoals SharePoint, schijven of de wiki.
- Opsplitsen: de documenten worden in logische onderdelen verdeeld, bijvoorbeeld op basis van koppen.
- Doorzoekbaar maken: elk onderdeel krijgt een wiskundige beschrijving van zijn betekenis en komt in een vectordatabase terecht, vaak aangevuld met een klassieke zoekfunctie op trefwoorden.
- Zoeken: voor elke vraag worden de best passende passages gevonden, uitsluitend uit documenten die de vragende persoon mag bekijken.
- Antwoorden: het taalmodel formuleert het antwoord op basis van deze passages en noemt de bronnen. Als het antwoord niet in de documenten staat, zegt het dat.
Typische toepassingen
- Interne kennis: medewerkers stellen vragen over processen, richtlijnen of verantwoordelijkheden en krijgen een antwoord met een link naar het document.
- Technische service: servicemonteurs vinden de juiste passage in handleidingen en onderhoudsinstructies, ook onderweg.
- Klantenservice: een AI‑chatbot of e-mailassistent beantwoordt vragen op basis van uw productdocumentatie.
- Contracten en aanbestedingen: passages over termijnen, aansprakelijkheid of eisen worden snel gevonden in lange documenten.
Waarom kennisbanken mislukken
- Verouderde en dubbele documenten: als er drie versies van een richtlijn zijn opgeslagen, vindt de AI mogelijk de verkeerde.
- Gescande pdf's en tabellen: zonder goede tekstherkenning en voorbereiding gaat inhoud verloren.
- Ontbrekende rechten: als de AI alles ziet, ziet binnenkort iedereen alles, ook salarislijsten. Toegangsrechten moeten bij het zoeken worden toegepast.
- Geen meting: zonder testvragen met bekende antwoorden weet niemand hoe vaak het systeem het goed heeft.
- Geen bronnen: antwoorden zonder bronverwijzing zijn niet te controleren en schaden het vertrouwen.
Lokale AI of EU-cloud?
Voor het draaien van het taalmodel zijn er drie mogelijkheden. De grote aanbieders bieden hun modellen aan in EU-datacenters en geven aan dat zij bij zakelijke diensten en API-diensten klantgegevens standaard niet voor training gebruiken. Controleer dit in de contractvoorwaarden. Daarnaast zijn er Europese aanbieders. En er zijn open modellen, bijvoorbeeld van Mistral AI, Meta of Alibaba, die u op eigen servers kunt draaien.
Lokale AI geeft u volledige controle over de gegevens. Daarvoor heeft u geschikte hardware met grafische processors, onderhoud en updates nodig. Bovendien halen de beste open modellen niet bij elke taak de kwaliteit van de grootste cloudmodellen. Voor veel bedrijven is een model in een EU-datacenter met een duidelijk contract de verstandige middenweg. Lokale modellen zijn de moeite waard bij bijzonder gevoelige gegevens of zeer grote volumes. Welk alternatief bij uw gegevens past, wordt duidelijk tijdens AI‑advies.
Gegevensbescherming en beveiliging
Persoonsgegevens in documenten blijven persoonsgegevens. Er zijn een rechtsgrondslag, verwerkersovereenkomsten en regels voor het verwijderen van gegevens nodig. Het Europees Comité voor gegevensbescherming heeft in een advies van december 2024 uitvoerig aandacht besteed aan AI‑modellen en persoonsgegevens. OWASP noemt kwetsbaarheden in vector- en embeddingsystemen uitdrukkelijk als risico, bijvoorbeeld wanneer toegangsrechten bij het zoeken niet worden toegepast. Documenten kunnen ook verborgen instructies bevatten die bedoeld zijn om het systeem te manipuleren. Daarom geldt: controleer de rechten bij elke zoekopdracht, controleer bronnen en leg antwoorden vast.
Eerste stappen
- Eén kennisgebied kiezen: bijvoorbeeld servicehandleidingen of interne richtlijnen.
- Documenten opschonen: verouderde versies verwijderen en verantwoordelijken aanwijzen.
- Testvragen verzamelen: 30 tot 50 echte vragen met het juiste antwoord en de bronverwijzing.
- Een proef met één groep: resultaten meten, feedback verwerken en daarna uitbreiden.
Bronnen
- Lewis e.a.: Retrieval-Augmented Generation voor kennisintensieve NLP-taken, NeurIPS 2020
- OWASP: Top 10 voor LLM-toepassingen 2025
- Europees Comité voor gegevensbescherming: Advies 28/2024 over AI‑modellen
- OpenAI: Privacy voor bedrijven
- Verordening (EU) 2016/679 (algemene verordening gegevensbescherming): EUR-Lex