¿Qué es el RAG? Definición y retos para la empresa

El RAG funciona en tres etapas invisibles para el usuario final. Primero, sus documentos (PDF, páginas web, base de conocimientos) se trocean y se convierten en vectores numéricos, es decir, coordenadas matemáticas que representan su sentido, y se almacenan en una base vectorial. Segundo, cuando un usuario plantea una pregunta, el sistema busca los pasajes semánticamente más próximos a la consulta. Tercero, esos pasajes se inyectan en el prompt enviado al LLM, que redacta una respuesta apoyándose explícitamente en esas fuentes. La consecuencia práctica es mayor. El modelo ya no se apoya en su memoria de entrenamiento, sino que lee en cada consulta los documentos pertinentes que usted le proporciona. Eso es lo que distingue el RAG del fine-tuning, que modifica los parámetros internos del modelo. El RAG deja el modelo intacto y juega únicamente sobre lo que tiene a la vista en el momento de responder.