Kort sagt
- Å trene din egen AI er verken nødvendig eller nyttig for de fleste bedrifter. Den vanlige måten kalles Retrieval-Augmented Generation, eller RAG for kort.
- Med RAG søker systemet etter relevante deler i dokumentene dine for hvert spørsmål og lar bare språkmodellen svare fra dem, med henvisning til kilden.
- Kvaliteten avhenger først og fremst av dokumentene dine: oppdatert, oversiktlig, uten duplikater og med klare tilgangsrettigheter.
- Språkmodeller kan betjenes i EU-datasentre eller på dine egne servere. Lokal AI gir kontroll, men koster maskinvare og vedlikehold.
Trene din egen AI? Vanligvis ikke nødvendig
Når folk snakker om «egen AI», mener de ofte én av fire ting. De er veldig forskjellige i innsats og fordel:
| tilnærming | Hva skjer | Bra for | Grenser |
|---|---|---|---|
| Del dokumenter i chatten | Dokumenter lastes opp for et spørsmål | Individuelle oppgaver, raske tester | Ingen permanent kunnskap, ingen rettighetsforvaltning |
| RAG | Systemet søker i dokumentene dine og svarer fra stedene som er funnet | Manualer, retningslinjer, produktkunnskap, kundeservice | Det avhenger av kvaliteten på dokumentene |
| Finjuster | En modell omskoleres med eksempler | Ensartet stil, faste formater, spesielle klassifiseringer | Dårlig for fakta som endrer seg, innsats med hver endring |
| Tren din egen modell | En modell lages fra bunnen av | Forskning, veldig store organisasjoner | Det gir praktisk talt aldri mening for små og mellomstore bedrifter |
For kunnskap om endringer, som priser, prosesser eller produktdata, er RAG nesten alltid det bedre valget. Finjustering kan utfylle når stilen eller formatet må være veldig konsekvent.
Slik fungerer RAG
Prosessen ble beskrevet i 2020 i en artikkel av forskere ledet av Patrick Lewis og er nå standarden for kunnskapsapplikasjoner. Enkelt sagt går det slik ut:
- Samle dokumenter: Manualer, retningslinjer, produktark, kontrakter, tidligere svar, fra depoter som SharePoint, stasjoner eller wikien.
- Demonter: Dokumentene er delt inn i meningsfulle seksjoner, for eksempel etter overskrifter.
- Gjør søkbar: Hver seksjon får en matematisk beskrivelse av betydningen og ender opp i en vektordatabase, ofte supplert med et klassisk nøkkelordsøk.
- Søk: De mest passende delene finnes for hvert spørsmål, kun fra dokumenter som den som stiller spørsmålet har lov til å se.
- Svar: Språkmodellen formulerer svaret fra disse avsnittene og siterer kildene. Står ikke svaret i dokumentene, står det slik.
Typiske oppdrag
- Internkunnskap: Ansatte spør om prosesser, retningslinjer eller ansvar og får svar med lenke til dokumentet.
- Teknisk service: Serviceteknikere kan finne rett sted i manualer og vedlikeholdsinstruksjoner, selv på farten.
- Kundeservice: A AI chatbot eller en e-postassistent svarer på spørsmål fra produktdokumentene dine.
- Kontrakter og anbud: Henvisninger til frister, ansvar eller krav finner du raskt i lange dokumenter.
Hvorfor kunnskapsdatabaser mislykkes
- Utdaterte og dupliserte dokumenter: Hvis det er tre versjoner av en policy i filen, kan AI finne feil.
- Skannede PDF‑er og regneark: Uten god tekstgjenkjenning og forberedelse går innhold tapt.
- Manglende rettigheter: Hvis AI ser alt, vil alle snart se alt, inkludert lønnslister. Adgangsrettigheter må gjelde ved søk.
- Ingen måling: Uten testspørsmål med kjente svar er det ingen som vet hvor ofte systemet er riktig.
- Ingen kilder: Svar uten referanser kan ikke kontrolleres og tilliten går tapt.
Lokal AI eller EU-sky?
Det er tre måter å betjene språkmodellen på. De store leverandørene tilbyr modellene sine i EU-datasentre og oppgir, for forretnings- og API-tilbud, at de ikke bruker kundedata til opplæring som standard. Sjekk dette i kontraktsvilkårene. Det finnes også europeiske tilbydere. Og det finnes åpne modeller, som de fra Mistral AI, Meta eller Alibaba, som du kan kjøre på dine egne servere.
Lokal AI gir full kontroll over dataene. Til dette trenger du egnet maskinvare med grafikkprosessorer, vedlikehold og oppdateringer, og de beste åpne modellene oppnår ikke kvaliteten til de største skymodellene i hver oppgave. For mange bedrifter er en modell i et EU-datasenter med en klar kontrakt den fornuftige mellomveien. Lokale modeller er verdt for spesielt sensitive data eller svært store volumer. Du kan finne ut hvilken vei som passer dine data AI‑rådgivning.
Personvern og sikkerhet
Personopplysninger i dokumenter forblir personopplysninger. Det må være et rettslig grunnlag, kontrakter for ordrebehandling og slettingsregler. European Data Protection Board diskuterte AI‑modeller og personopplysninger i detalj i en uttalelse fra desember 2024. OWASP nevner eksplisitt sårbarheter i vektor- og innebyggingssystemer som en risiko, for eksempel hvis søkerettigheter ikke gjelder. Og dokumenter kan inneholde skjulte instruksjoner beregnet på å manipulere systemet. Derfor er det viktig å sjekke rettigheter for hvert søk, sjekke kilder og logge svar.
Komme i gang
- Velg et kunnskapsområde: for eksempel servicemanualer eller interne retningslinjer.
- Rydd opp i dokumenter: Slett utdaterte versjoner, bestem de ansvarlige.
- Samle testspørsmål: 30 til 50 ekte spørsmål med riktig svar og plassering.
- Pilot med en gruppe: Mål resultater, inkorporer tilbakemelding, og utvid deretter.
Kilder
- Lewis et al.: Gjenvinningsutvidet generasjon for kunnskapsintensive NLP-oppgaver, NeurIPS 2020
- OWASP: Topp 10 for LLM-applikasjoner 2025
- European Data Protection Board: Uttalelse 28/2024 om AI‑modeller
- OpenAI: Bedrifts personvern
- Forordning (EU) 2016/679 (generell databeskyttelsesforordning): EUR-Lex