In breve
- Addestrare un’AI propria non è né necessario né sensato per la maggior parte delle aziende. La strada abituale si chiama retrieval-augmented generation, in breve RAG.
- Con la RAG il sistema cerca per ogni domanda i passaggi adatti nei vostri documenti e fa rispondere il modello linguistico solo a partire da questi, citando la fonte.
- La qualità dipende soprattutto dai vostri documenti: aggiornati, univoci, senza doppioni e con diritti di accesso chiari.
- I modelli linguistici possono girare in data center nell’UE o su server propri. L’AI locale porta controllo, ma costa hardware e manutenzione.
Addestrare un’AI propria? Di solito non serve
Chi parla di «AI propria» intende spesso una di quattro cose. Differiscono molto per impegno e beneficio:
| Approccio | Cosa succede | Adatto per | Limiti |
|---|---|---|---|
| Allegare documenti in chat | I documenti vengono caricati per una domanda | Compiti singoli, prove rapide | Nessuna conoscenza duratura, nessuna gestione dei permessi |
| RAG | Il sistema cerca nei vostri documenti e risponde dai passaggi trovati | Manuali, policy, conoscenza di prodotto, assistenza clienti | Dipende interamente dalla qualità dei documenti |
| Fine-tuning | Un modello viene riaddestrato con esempi | Stile uniforme, formati fissi, classificazioni particolari | Poco adatto a fatti che cambiano, impegno a ogni modifica |
| Addestrare un modello proprio | Un modello nasce da zero | Ricerca, organizzazioni molto grandi | Per le PMI praticamente mai sensato |
Per le conoscenze che cambiano, come prezzi, processi o dati di prodotto, la RAG è quasi sempre la scelta migliore. Un fine-tuning può integrarla se stile o formato devono essere molto uniformi.
Come funziona la RAG
Il metodo è stato descritto nel 2020 in un lavoro di ricercatori guidati da Patrick Lewis ed è oggi lo standard per le applicazioni di conoscenza. In forma semplificata funziona così:
- Raccogliere i documenti: manuali, policy, schede prodotto, contratti, risposte precedenti, da archivi come SharePoint, unità di rete o wiki.
- Suddividerli: i documenti vengono divisi in sezioni sensate, per esempio per titoli.
- Renderli ricercabili: ogni sezione riceve una descrizione matematica del suo significato e finisce in un database vettoriale, spesso integrato da una classica ricerca per parole chiave.
- Cercare: per ogni domanda vengono trovate le sezioni più adatte, e solo da documenti che la persona può vedere.
- Rispondere: il modello linguistico formula la risposta da queste sezioni e cita le fonti. Se la risposta non è nei documenti, lo dice.
Usi tipici
- Conoscenza interna: i collaboratori chiedono di processi, policy o competenze e ricevono una risposta con link al documento.
- Assistenza tecnica: i tecnici trovano il punto giusto in manuali e istruzioni di manutenzione, anche fuori sede.
- Assistenza clienti: un chatbot AI o un assistente e-mail risponde alle domande dalla vostra documentazione di prodotto.
- Contratti e gare: i passaggi su scadenze, responsabilità o requisiti si trovano in fretta anche in documenti lunghi.
Dove falliscono le knowledge base
- Documenti superati e doppioni: se nell’archivio ci sono tre versioni di una policy, l’AI rischia di trovare quella sbagliata.
- PDF scansionati e tabelle: senza un buon riconoscimento del testo e una preparazione adeguata, si perdono contenuti.
- Permessi mancanti: se l’AI vede tutto, presto tutti vedono tutto, anche le tabelle degli stipendi. I diritti di accesso devono valere nella ricerca.
- Nessuna misurazione: senza domande di prova con risposte note, nessuno sa quanto spesso il sistema ha ragione.
- Nessuna fonte: risposte senza riferimento non si possono verificare e bruciano fiducia.
AI locale o cloud europeo?
Per far girare il modello linguistico ci sono tre strade. I grandi fornitori offrono i loro modelli in data center nell’UE e dichiarano di non usare per impostazione predefinita i dati dei clienti per l’addestramento nelle offerte business e API. Verificatelo nelle condizioni contrattuali. Ci sono poi fornitori europei. E ci sono modelli aperti, per esempio di Mistral AI, Meta o Alibaba, che potete far girare su server propri.
L’AI locale porta il pieno controllo sui dati. In cambio servono hardware adatto con processori grafici, manutenzione e aggiornamenti, e i migliori modelli aperti non raggiungono in ogni compito la qualità dei modelli cloud più grandi. Per molte aziende un modello in un data center nell’UE con un contratto chiaro è la via di mezzo sensata. I modelli locali convengono per dati particolarmente sensibili o volumi molto elevati. Quale strada si adatta ai vostri dati lo chiarisce una consulenza AI.
Protezione dei dati e sicurezza
I dati personali nei documenti restano dati personali. Servono una base giuridica, accordi sul trattamento dei dati e regole di cancellazione. Il Comitato europeo per la protezione dei dati si è occupato in dettaglio di modelli di AI e dati personali in un parere di dicembre 2024. OWASP cita espressamente come rischio le debolezze dei sistemi vettoriali e di embedding, per esempio quando i permessi non valgono nella ricerca. E i documenti possono contenere istruzioni nascoste pensate per manipolare il sistema. La regola è quindi: verificare i permessi a ogni ricerca, controllare le fonti, registrare le risposte.
Primi passi
- Scegliere un ambito di conoscenza: per esempio i manuali di assistenza o le policy interne.
- Mettere ordine nei documenti: eliminare le versioni superate, nominare dei responsabili.
- Raccogliere domande di prova: da 30 a 50 domande reali con la risposta corretta e il riferimento.
- Pilota con un gruppo: misurare i risultati, integrare i riscontri, poi estendere.
Fonti
- Lewis e altri: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
- OWASP: Top 10 for LLM Applications 2025
- Comitato europeo per la protezione dei dati: Parere 28/2024 sui modelli di AI
- OpenAI: Enterprise privacy
- Regolamento (UE) 2016/679 (regolamento generale sulla protezione dei dati): EUR-Lex