Em resumo
- Treinar uma IA própria não é necessário nem faz sentido para a maioria das empresas. A abordagem habitual chama-se Retrieval-Augmented Generation, ou RAG.
- Com RAG, o sistema procura, para cada pergunta, secções adequadas nos seus documentos e faz o modelo de linguagem responder apenas com base nelas, indicando as fontes.
- A qualidade depende sobretudo dos seus documentos: atualizados, inequívocos, sem duplicados e com permissões de acesso claras.
- Os modelos de linguagem podem funcionar em centros de dados na UE ou em servidores próprios. A IA local dá controlo, mas implica custos de equipamento e manutenção.
Treinar uma IA própria? Geralmente não é necessário
Quando se fala em «IA própria», trata-se frequentemente de uma de quatro abordagens. Diferem bastante no esforço necessário e na utilidade:
| Abordagem | O que acontece | Adequado para | Limites |
|---|---|---|---|
| Fornecer documentos no chat | São carregados documentos para responder a uma pergunta | Tarefas pontuais, testes rápidos | Sem conhecimento permanente nem gestão de permissões |
| RAG | O sistema pesquisa nos seus documentos e responde com base nos excertos encontrados | Manuais, políticas, conhecimento de produtos, atendimento ao cliente | Depende inteiramente da qualidade dos documentos |
| Ajuste fino | Um modelo recebe treino adicional com exemplos | Estilo consistente, formatos definidos, classificações específicas | Pouco adequado a factos que mudam; exige trabalho a cada alteração |
| Treinar um modelo próprio | Um modelo é criado de raiz | Investigação, organizações muito grandes | Praticamente nunca faz sentido para pequenas e médias empresas |
Para conhecimento que muda, como preços, processos ou dados de produtos, RAG é quase sempre a melhor opção. O ajuste fino pode complementar esta abordagem quando o estilo ou o formato têm de ser muito uniformes.
Como funciona RAG
O método foi descrito em 2020 num trabalho de investigadores liderados por Patrick Lewis e é hoje uma abordagem padrão para aplicações de conhecimento. De forma simplificada, funciona assim:
- Reunir documentos: manuais, políticas, fichas de produto, contratos e respostas anteriores, a partir de repositórios como SharePoint, unidades de armazenamento ou a wiki.
- Dividir: os documentos são divididos em secções coerentes, por exemplo a partir dos títulos.
- Tornar pesquisável: cada secção recebe uma descrição matemática do seu significado e é guardada numa base de dados vetorial, frequentemente complementada por uma pesquisa tradicional por palavras-chave.
- Pesquisar: para cada pergunta, são encontradas as secções mais adequadas, apenas em documentos que a pessoa que faz a pergunta tem autorização para consultar.
- Responder: o modelo de linguagem formula a resposta a partir dessas secções e indica as fontes. Se a resposta não constar dos documentos, informa disso.
Utilizações típicas
- Conhecimento interno: os colaboradores perguntam sobre processos, políticas ou responsabilidades e recebem uma resposta com ligação para o documento.
- Assistência técnica: os técnicos encontram a passagem certa nos manuais e nas instruções de manutenção, mesmo quando estão em deslocação.
- Atendimento ao cliente: um chatbot com IA ou um assistente de email responde a perguntas com base na documentação dos seus produtos.
- Contratos e concursos: encontram-se rapidamente, em documentos longos, as passagens sobre prazos, responsabilidade ou requisitos.
O que faz falhar as bases de conhecimento
- Documentos desatualizados e duplicados: se existirem três versões de uma política no repositório, a IA pode encontrar a errada.
- PDFs digitalizados e tabelas: sem um bom reconhecimento de texto e preparação dos dados, perdem-se conteúdos.
- Falta de permissões: se a IA tiver acesso a tudo, em breve todos terão acesso a tudo, incluindo listas de salários. As permissões de acesso têm de ser respeitadas na pesquisa.
- Ausência de medição: sem perguntas de teste com respostas conhecidas, ninguém sabe com que frequência o sistema acerta.
- Ausência de fontes: respostas sem indicação da passagem de origem não podem ser verificadas e prejudicam a confiança.
IA local ou nuvem na UE?
Existem três formas de executar o modelo de linguagem. Os grandes prestadores disponibilizam os seus modelos em centros de dados na UE e afirmam que, nas ofertas empresariais e de API, não utilizam os dados dos clientes para treino por predefinição. Verifique isso nas condições contratuais. Existem também prestadores europeus. E há modelos abertos, por exemplo da Mistral AI, Meta ou Alibaba, que pode executar em servidores próprios.
A IA local dá controlo total sobre os dados. Em contrapartida, exige equipamento adequado com processadores gráficos, manutenção e atualizações; além disso, os melhores modelos abertos nem sempre atingem a qualidade dos maiores modelos na nuvem em todas as tarefas. Para muitas empresas, um modelo num centro de dados na UE com um contrato claro é uma solução intermédia sensata. Os modelos locais compensam no caso de dados especialmente sensíveis ou de um volume muito elevado. Uma consultoria em IA ajuda a definir que abordagem se adequa aos seus dados.
Proteção de dados e segurança
Os dados pessoais nos documentos continuam a ser dados pessoais. São necessários um fundamento jurídico, contratos de subcontratação e regras de eliminação. Num parecer de dezembro de 2024, o Comité Europeu para a Proteção de Dados analisou em profundidade os modelos de IA e os dados pessoais. A OWASP identifica expressamente como risco as vulnerabilidades dos sistemas vetoriais e de embeddings, por exemplo quando as permissões não são aplicadas na pesquisa. Além disso, os documentos podem conter instruções ocultas destinadas a manipular o sistema. Por isso, é necessário verificar as permissões em cada pesquisa, controlar as fontes e registar as respostas.
Primeiros passos
- Escolher uma área de conhecimento: por exemplo, manuais de assistência ou políticas internas.
- Organizar os documentos: eliminar versões desatualizadas e definir responsáveis.
- Reunir perguntas de teste: 30 a 50 perguntas reais, com a resposta correta e a passagem de origem.
- Projeto-piloto com um grupo: medir os resultados, incorporar o feedback e depois alargar.
Fontes
- Lewis e outros: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
- OWASP: Top 10 para aplicações de LLM 2025
- Comité Europeu para a Proteção de Dados: Parecer 28/2024 sobre modelos de IA
- OpenAI: Privacidade empresarial
- Regulamento (UE) 2016/679 (Regulamento Geral sobre a Proteção de Dados): EUR-Lex