En resumen
- Entrenar una IA propia no es necesario ni sensato para la mayoría de las empresas. El camino habitual se llama generación aumentada por recuperación, RAG por sus siglas en inglés.
- Con RAG, el sistema busca para cada pregunta los fragmentos adecuados en sus documentos y deja que el modelo de lenguaje responda solo a partir de ellos, citando la fuente.
- La calidad depende sobre todo de sus documentos: actualizados, inequívocos, sin duplicados y con permisos de acceso claros.
- Los modelos de lenguaje pueden funcionar en centros de datos de la UE o en servidores propios. La IA local aporta control, pero cuesta hardware y mantenimiento.
¿Entrenar una IA propia? Casi nunca hace falta
Quien habla de «IA propia» suele referirse a una de cuatro cosas. Se diferencian mucho en esfuerzo y beneficio:
| Enfoque | Qué ocurre | Bueno para | Límites |
|---|---|---|---|
| Adjuntar documentos en el chat | Los documentos se suben para una pregunta | Tareas sueltas, pruebas rápidas | Sin conocimiento duradero, sin gestión de permisos |
| RAG | El sistema busca en sus documentos y responde a partir de los fragmentos encontrados | Manuales, políticas, conocimiento de producto, atención al cliente | Depende por completo de la calidad de los documentos |
| Ajuste fino | Un modelo se reentrena con ejemplos | Estilo homogéneo, formatos fijos, clasificaciones especiales | Malo para datos que cambian, esfuerzo con cada cambio |
| Entrenar un modelo propio | Se crea un modelo desde cero | Investigación, organizaciones muy grandes | Para pymes prácticamente nunca tiene sentido |
Para el conocimiento que cambia, como precios, procesos o datos de producto, RAG es casi siempre la mejor opción. Un ajuste fino puede complementarlo si el estilo o el formato deben ser muy homogéneos.
Cómo funciona RAG
El método se describió en 2020 en un trabajo de investigadores encabezados por Patrick Lewis y hoy es el estándar para aplicaciones de conocimiento. De forma simplificada funciona así:
- Reunir documentos: manuales, políticas, fichas de producto, contratos, respuestas anteriores, de repositorios como SharePoint, unidades de red o la wiki.
- Dividirlos: los documentos se dividen en apartados con sentido, por ejemplo por títulos.
- Hacerlos buscables: cada apartado recibe una descripción matemática de su significado y va a una base de datos vectorial, a menudo complementada con una búsqueda clásica por palabras clave.
- Buscar: para cada pregunta se encuentran los apartados más adecuados, y solo de documentos que la persona que pregunta puede ver.
- Responder: el modelo de lenguaje formula la respuesta a partir de esos apartados y cita las fuentes. Si la respuesta no está en los documentos, lo dice.
Usos típicos
- Conocimiento interno: el personal pregunta por procesos, políticas o responsabilidades y recibe una respuesta con enlace al documento.
- Servicio técnico: los técnicos encuentran el punto exacto en manuales e instrucciones de mantenimiento, también fuera de la oficina.
- Atención al cliente: un chatbot de IA o un asistente de correo responde preguntas a partir de su documentación de producto.
- Contratos y licitaciones: los pasajes sobre plazos, responsabilidad o requisitos se encuentran rápido en documentos largos.
Por qué fracasan las bases de conocimiento
- Documentos obsoletos y duplicados: si hay tres versiones de una política en el repositorio, la IA puede encontrar la equivocada.
- PDF escaneados y tablas: sin un buen reconocimiento de texto y preparación, se pierde contenido.
- Permisos ausentes: si la IA lo ve todo, pronto todos ven todo, también las listas de salarios. Los permisos de acceso deben aplicarse en la búsqueda.
- Sin medición: sin preguntas de prueba con respuestas conocidas, nadie sabe con qué frecuencia acierta el sistema.
- Sin fuentes: las respuestas sin referencia no se pueden comprobar y desperdician confianza.
¿IA local o nube en la UE?
Para ejecutar el modelo de lenguaje hay tres caminos. Los grandes proveedores ofrecen sus modelos en centros de datos de la UE e indican que, en sus ofertas empresariales y de API, no usan por defecto los datos de los clientes para entrenar. Compruébelo en las condiciones del contrato. También hay proveedores europeos. Y hay modelos abiertos, por ejemplo de Mistral AI, Meta o Alibaba, que puede ejecutar en servidores propios.
La IA local aporta control total sobre los datos. A cambio necesita hardware adecuado con procesadores gráficos, mantenimiento y actualizaciones, y los mejores modelos abiertos no alcanzan en todas las tareas la calidad de los mayores modelos en la nube. Para muchas empresas, un modelo en un centro de datos de la UE con un contrato claro es el término medio razonable. Los modelos locales compensan con datos especialmente sensibles o volúmenes muy altos. Qué camino encaja con sus datos se aclara en una consultoría de IA.
Protección de datos y seguridad
Los datos personales que contienen los documentos siguen siendo datos personales. Hacen falta una base jurídica, contratos de encargo del tratamiento y reglas de supresión. El Comité Europeo de Protección de Datos analizó en detalle los modelos de IA y los datos personales en un dictamen de diciembre de 2024. OWASP menciona expresamente como riesgo las debilidades de los sistemas vectoriales y de embeddings, por ejemplo cuando los permisos no se aplican en la búsqueda. Y los documentos pueden contener instrucciones ocultas para manipular el sistema. Por eso: compruebe los permisos en cada búsqueda, controle las fuentes y registre las respuestas.
Primeros pasos
- Elegir un área de conocimiento: por ejemplo manuales de servicio o políticas internas.
- Ordenar los documentos: eliminar versiones obsoletas y nombrar responsables.
- Reunir preguntas de prueba: de 30 a 50 preguntas reales con la respuesta correcta y su referencia.
- Piloto con un grupo: medir resultados, incorporar comentarios y después ampliar.
Fuentes
- Lewis y otros: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
- OWASP: Top 10 for LLM Applications 2025
- Comité Europeo de Protección de Datos: Dictamen 28/2024 sobre modelos de IA
- OpenAI: Enterprise privacy
- Reglamento (UE) 2016/679 (Reglamento General de Protección de Datos): EUR-Lex