Kort sagt
- Træning af din egen AI er hverken nødvendig eller nyttig for de fleste virksomheder. Den sædvanlige måde kaldes Retrieval-Augmented Generation, eller kort sagt RAG.
- Med RAG søger systemet efter relevante afsnit i dine dokumenter for hvert spørgsmål og tillader kun sprogmodellen at svare ud fra dem med kildeangivelse.
- Kvaliteten afhænger primært af dine dokumenter: opdaterede, overskuelige, uden dubletter og med klare adgangsrettigheder.
- Sprogmodeller kan betjenes i EU-datacentre eller på dine egne servere. Lokal AI giver kontrol, men koster hardware og vedligeholdelse.
Træne din egen AI? Normalt ikke nødvendigt
Når folk taler om "egen AI", mener de ofte en af fire ting. De adskiller sig meget i indsats og fordel:
| tilgang | Hvad sker der | God til | Grænser |
|---|---|---|---|
| Del dokumenter i chatten | Dokumenter uploades til et spørgsmål | Individuelle opgaver, hurtige tests | Ingen permanent viden, ingen rettighedsstyring |
| RAG | Systemet søger i dine dokumenter og svarer fra de fundne lokationer | Manualer, retningslinjer, produktkendskab, kundeservice | Det afhænger af kvaliteten af dokumenterne |
| Finjuster | En model genoptrænes med eksempler | Ensartet stil, faste formater, særlige klassifikationer | Dårligt for kendsgerninger, der ændrer sig, indsats med hver ændring |
| Træn din egen model | En model er skabt fra bunden | Forskning, meget store organisationer | Giver praktisk talt aldrig mening for små og mellemstore virksomheder |
For viden om ændringer, såsom priser, processer eller produktdata, er RAG næsten altid det bedre valg. Finjustering kan supplere, når stilen eller formatet skal være meget konsistent.
Sådan fungerer RAG
Processen blev beskrevet i 2020 i et papir af forskere ledet af Patrick Lewis og er nu standarden for videnanvendelser. Enkelt sagt går det sådan her:
- Saml dokumenter: Manualer, retningslinjer, produktark, kontrakter, tidligere svar, fra arkiver som SharePoint, drev eller wikien.
- Demonter: Dokumenterne er opdelt i meningsfulde afsnit, fx efter overskrifter.
- Gør søgbar: Hvert afsnit modtager en matematisk beskrivelse af dets betydning og ender i en vektordatabase, ofte suppleret med en klassisk søgeordssøgning.
- Søg: De mest passende sektioner findes for hvert spørgsmål, kun fra dokumenter, som den, der stiller spørgsmålet, har lov til at se.
- Svar: Sprogmodellen formulerer svaret fra disse afsnit og citerer kilderne. Står svaret ikke i dokumenterne, står der det.
Typiske missioner
- Intern viden: Medarbejderne spørger ind til processer, retningslinjer eller ansvar og får svar med et link til dokumentet.
- Teknisk service: Serviceteknikere kan finde det rigtige sted i manualer og vedligeholdelsesinstruktioner, selv på farten.
- Kundeservice: A AI chatbot eller en e-mail-assistent besvarer spørgsmål fra dine produktdokumenter.
- Kontrakter og tilbud: Henvisninger til frister, ansvar eller krav kan hurtigt findes i lange dokumenter.
Hvorfor videndatabaser fejler
- Forældede og duplikerede dokumenter: Hvis der er tre versioner af en politik i filen, kan AI finde den forkerte.
- Scannede PDF'er og regneark: Uden god tekstgenkendelse og forberedelse går indholdet tabt.
- Manglende rettigheder: Hvis AI ser alt, vil alle snart se alt, inklusive lønningslister. Adgangsrettigheder skal gælde ved søgning.
- Ingen måling: Uden testspørgsmål med kendte svar ved ingen, hvor ofte systemet er rigtigt.
- Ingen kilder: Svar uden referencer kan ikke kontrolleres, og tilliden går tabt.
Lokal AI eller EU-sky?
Der er tre måder at betjene sprogmodellen på. De store udbydere tilbyder deres modeller i EU-datacentre og oplyser for erhvervs- og API-tilbud, at de som standard ikke bruger kundedata til træning. Tjek dette i kontraktbetingelserne. Der er også europæiske udbydere. Og der er åbne modeller, såsom dem fra Mistral AI, Meta eller Alibaba, som du kan køre på dine egne servere.
Lokal AI giver fuld kontrol over dataene. Til dette har du brug for passende hardware med grafikprocessorer, vedligeholdelse og opdateringer, og de bedste åbne modeller opnår ikke kvaliteten af de største cloud-modeller i enhver opgave. For mange virksomheder er en model i et EU-datacenter med en klar kontrakt den fornuftige mellemvej. Lokale modeller er umagen værd for særligt følsomme data eller meget store mængder. Du kan finde ud af, hvilken vej der passer til dine data AI rådgivning.
Privatliv og sikkerhed
Personoplysninger i dokumenter forbliver personlige data. Der skal være et lovgrundlag, kontrakter for ordrebehandling og sletningsregler. Det Europæiske Databeskyttelsesråd drøftede AI‑modeller og persondata i detaljer i en udtalelse fra december 2024. OWASP nævner eksplicit sårbarheder i vektor- og indlejringssystemer som en risiko, for eksempel hvis søgerettigheder ikke gælder. Og dokumenter kan indeholde skjulte instruktioner beregnet til at manipulere systemet. Derfor er det vigtigt at tjekke rettighederne for hver søgning, tjekke kilder og logge svar.
Kom godt i gang
- Vælg et vidensområde: for eksempel servicemanualer eller interne retningslinjer.
- Ryd op i dokumenter: Slet forældede versioner, find de ansvarlige.
- Saml testspørgsmål: 30 til 50 rigtige spørgsmål med det rigtige svar og placering.
- Pilot med en gruppe: Mål resultater, inkorporer feedback, og udvid derefter.
Kilder
- Lewis et al.: Retrieval-Augmented Generation til viden-intensive NLP-opgaver, NeurIPS 2020
- OWASP: Top 10 for LLM-applikationer 2025
- Det Europæiske Databeskyttelsesråd: Erklæring 28/2024 om AI‑modeller
- OpenAI: Enterprise privatliv
- Forordning (EU) 2016/679 (generel databeskyttelsesforordning): EUR-Lex