AI agendid · Tehnika RAG AI ettevõtte andmetega: RAG ja kohalik tehisintellekt selgelt

Treenige oma tehisintellekti? Tavaliselt pole vaja

Kui inimesed räägivad oma tehisintellektist, mõtlevad nad sageli üht neljast asjast. Need erinevad suuresti pingutuse ja kasu poolest:

Muutuvate teadmiste jaoks, nagu hinnad, protsessid või tooteandmed, on RAG peaaegu alati parem valik. Peenhäälestus võib täiendada, kui stiil või formaat peab olema väga ühtlane.

Nii töötab RAG

Protsessi kirjeldati 2020. aastal Patrick Lewise juhitud teadlaste artiklis ja see on nüüd teadmisterakenduste standard. Lihtsamalt öeldes läheb see nii:

1. Koguge dokumente: Käsiraamatud, juhised, tootelehed, lepingud, varasemad vastused hoidlatest, nagu SharePoint, draivid või wiki.
2. Lahti võtta: Dokumendid on jagatud sisukateks osadeks, näiteks pealkirjade järgi.
3. Tee otsitavaks: Iga jaotis saab oma tähenduse matemaatilise kirjelduse ja satub vektorandmebaasi, mida sageli täiendab klassikaline märksõnaotsing.
4. Otsi: Iga küsimuse jaoks leitakse kõige sobivamad jaotised, ainult dokumentidest, mida küsimuse esitajal on lubatud näha.
5. Vastus: Keelemudel formuleerib vastuse nendest osadest ja viitab allikatele. Kui vastust dokumentides pole, siis on nii kirjas.

Tüüpilised missioonid

• Sisemised teadmised: Töötajad küsivad protsesside, juhiste või kohustuste kohta ning saavad vastuse koos lingiga dokumendile.
• Tehniline teenindus: Hooldustehnikud leiavad juhendites ja hooldusjuhistes õige koha isegi liikvel olles.
• Klienditeenindus: A AI vestlusbot või e-posti assistent vastab teie tootedokumentide küsimustele.
• Lepingud ja pakkumised: Pikkadest dokumentidest leiab kiiresti viiteid tähtaegadele, vastutusele või nõuetele.

Miks teadmiste andmebaasid ebaõnnestuvad

• Aegunud ja dubleerivad dokumendid: Kui failis on kolm poliitika versiooni, võib AI leida vale versiooni.
• Skannitud PDF‑id ja arvutustabelid: Ilma hea tekstituvastuse ja ettevalmistuseta läheb sisu kaduma.
• Puuduvad õigused: Kui tehisintellekt näeb kõike, näevad kõik varsti kõike, sealhulgas palgalehti. Otsimisel peavad kehtima juurdepääsuõigused.
• Mõõtmata: Ilma teadaolevate vastustega testküsimusteta ei tea keegi, kui sageli süsteem õige on.
• Puuduvad allikad: Ilma viideteta vastuseid ei saa kontrollida ja usaldus kaob.

Kohalik tehisintellekt või EL-i pilv?

Keelemudeli kasutamiseks on kolm võimalust. Suuremad pakkujad pakuvad oma mudeleid EL-i andmekeskustes ning äri- ja API-pakkumiste puhul väidavad, et nad ei kasuta vaikimisi koolituseks kliendiandmeid. Kontrolli seda lepingutingimustest. On ka Euroopa pakkujaid. Ja on avatud mudeleid, näiteks Mistral AI, Meta või Alibaba mudelid, mida saate oma serverites käivitada.

Kohalik AI annab täieliku kontrolli andmete üle. Selleks on vaja sobivat riistvara koos graafikaprotsessoritega, hooldust ja uuendusi ning parimad avatud mudelid ei saavuta igas ülesandes kõige suuremate pilvemudelite kvaliteeti. Paljude ettevõtete jaoks on EL-i andmekeskuse mudel, millel on selge leping, mõistlik kesktee. Kohalikud mudelid on kasulikud eriti tundlike andmete või väga suurte mahtude jaoks. Saate teada, milline tee teie andmetele sobib AI nõustamine.

Privaatsus ja turvalisus

Isikuandmed dokumentides jäävad isikuandmeteks. Peab olema õiguslik alus, lepingud tellimuste töötlemiseks ja kustutamise reeglid. Euroopa Andmekaitsenõukogu käsitles tehisintellekti mudeleid ja isikuandmeid üksikasjalikult 2024. aasta detsembri arvamuses. OWASP mainib selgesõnaliselt riskina vektor- ja manustamissüsteemide haavatavusi, näiteks kui otsinguõigused ei kehti. Ja dokumendid võivad sisaldada peidetud juhiseid, mis on mõeldud süsteemiga manipuleerimiseks. Seetõttu on oluline kontrollida iga otsingu õigusi, kontrollida allikaid ja logi vastuseid.

Alustamine

1. Valige teadmiste valdkond: näiteks hooldusjuhendid või sisejuhised.
2. Puhastage dokumendid: Kustutage aegunud versioonid, määrake vastutajad.
3. Koguge testiküsimusi: 30 kuni 50 tõelist küsimust õige vastuse ja asukohaga.
4. Piloot grupiga: Mõõtke tulemusi, lisage tagasisidet ja seejärel laiendage.