Generación aumentada por recuperación: fragmentación, embeddings, almacenamiento, recuperación top-k con filtros de metadatos y cómo agregar los resultados al prompt

Un modelo de lenguaje grande solo sabe lo que estaba en sus datos de entrenamiento, y puede inventar con total seguridad respuestas sobre tus documentos privados. La generación aumentada por recuperación (RAG) resuelve esto al encontrar pasajes relevantes de tus propios datos en el momento de la pregunta y ponerlos en el prompt, para que el modelo responda a partir de los hechos proporcionados. RAG tiene una canalización de ingesta y una de consulta, y los servicios de datos de este dominio están en medio.