RAG para agentes de IA, y cómo lo hacemos en Qopper

Un modelo de lenguaje no sabe nada de tu negocio. Sabe hablar. Si le preguntas cuántos días tiene un cliente para devolver un pedido, va a contestar con una cifra que suena razonable, casi siempre treinta, porque treinta es lo que más veces ha leído por ahí. No te está mintiendo: te está completando la frase.

Esa es toda la distancia entre un agente que contesta bien y uno que contesta cierto. Y lo que la cierra tiene nombre propio: RAG.

Qué es un RAG

RAG son las siglas de retrieval-augmented generation, generación aumentada con recuperación. Traducido a lo que de verdad ocurre: antes de responder, el agente busca entre los documentos de tu negocio los pocos párrafos que vienen al caso, los lee, y escribe la respuesta con ellos delante.

Es lo mismo que hace una persona nueva en tu equipo. No se aprende el manual de memoria el primer día: aprende dónde está el manual, y cuando le preguntan por el plazo de una devolución lo abre por la página de devoluciones. La calidad de lo que contesta no depende de su memoria, depende de que encuentre la página correcta.

Un RAG no hace al agente más listo. Hace que deje de adivinar.

Conviene decir también lo que no es. Pegar tus políticas dentro de las instrucciones del agente se parece, pero no es lo mismo y se rompe pronto: ese texto no se busca, no se puede citar, no dice de qué documento salió, y viaja entero en cada mensaje aunque la pregunta no tenga nada que ver. Con dos folios aguanta. Con el manual de verdad de una aerolínea, no.

Cómo funciona, paso a paso

Por dentro son seis movimientos. Los cuatro primeros pasan una sola vez, cuando cargas un documento; los dos últimos, cada vez que alguien escribe.

1. 1Se trocea. El documento se parte en fragmentos del tamaño de una sección. Entero no sirve: si la respuesta son dos frases, darle al agente cuarenta páginas es enterrarlas.
2. 2Se traduce a números. Cada fragmento se convierte en una lista de números que representa su significado. Dos textos que quieren decir lo mismo con palabras distintas caen cerca. Eso es lo que permite que “me llegó roto” encuentre el apartado de “producto defectuoso”.
3. 3Se indexa también como texto. En paralelo, el mismo fragmento se indexa palabra por palabra. Es la mitad que casi todo el mundo se salta, y es la que encuentra un número de póliza, una referencia o un nombre propio.
4. 4Llega la pregunta. Lo que el cliente escribe se convierte igual que los fragmentos: a la misma clase de números, para poder compararlos.
5. 5Se busca y se elige. Se traen los candidatos de las dos búsquedas y se quedan los mejores. No todos: los pocos que de verdad vienen al caso.
6. 6Se responde con la fuente delante. Esos párrafos entran en la respuesta acompañados del documento y la página de los que salieron. Por eso el agente puede decir de dónde sacó el plazo que acaba de citar.

Dónde se rompe el RAG de manual

Montar esto en una tarde es fácil, y por eso hay tantos. Lo difícil es que aguante una conversación real. Estos son los cuatro sitios por donde se rompe, y los cuatro los hemos visto romperse.

• Sólo busca por parecidoLa búsqueda por significado es buenísima con las frases y malísima con los identificadores. Un cliente que escribe el número de su póliza quiere ese documento, no uno que hable de pólizas en general.
• Busca con el último mensajeLa mitad de lo que se escribe en un hilo no se puede buscar por separado. “¿Y eso cuánto tarda?”, “¿el otro también?”, “¿con impuestos?”. Buscar eso no devuelve nada, el párrafo que tenía la respuesta no llega, y al modelo le toca improvisar.
• Cuando no encuentra nada, devuelve algo igualEs el fallo más caro de todos. Si no hay coincidencia y se entregan “los primeros fragmentos”, el agente los cita como si aplicaran al caso. Darle contexto que no viene a cuento es peor que no darle ninguno.
• Confunde recuperar con saberUn párrafo recuperado dice lo que el negocio escribió. No dice en qué estado está el pedido de esta persona ahora mismo. Son dos preguntas distintas y se contestan en sitios distintos.

Cómo lo hacemos en Qopper

Nuestro agente no sólo responde: consulta tus sistemas, ejecuta cambios dentro de los límites que pones y verifica antes de decir que está hecho. Eso sube el listón de la recuperación, porque aquí una cifra equivocada no es una respuesta regular, es una promesa que tu negocio va a tener que cumplir o desdecir.

• Dos búsquedas, siempreCada pregunta se busca a la vez por significado y palabra por palabra. La primera encuentra lo que el cliente quiso decir; la segunda, el SKU, el número de póliza y el nombre propio exacto.
• Gana el acuerdo, no la notaLas dos listas se fusionan premiando la coincidencia: un párrafo que sale segundo en las dos gana a uno que sale primero en una sola. Dos búsquedas distintas señalando lo mismo es la mejor señal que hay de que es lo que se buscaba.
• La pregunta corta se completa con la anteriorCuando el mensaje es demasiado breve para llevar su propio asunto, se busca junto con lo último que escribió el cliente. Lo decide la longitud y no otra llamada al modelo: preguntarle a una IA si una frase depende de la anterior cuesta un viaje entero por turno para acertar lo que acierta contar caracteres.
• Ocho párrafos por turnoNi tres ni cuarenta. Tres dejan fuera la excepción que estaba escrita justo debajo de la regla; cuarenta diluyen la respuesta en ruido.
• Cada agente busca sólo en lo suyoLos documentos se conectan agente por agente. El de ventas no cita el manual de devoluciones, y un agente sin documentos conectados contesta que no lo sabe en vez de responder con el manual de otro.
• Sin coincidencia no hay contextoSi la búsqueda no encuentra nada que venga al caso, no se rellena con lo que había más cerca. El agente dice que eso no le consta, que es la respuesta correcta y la que nadie programa porque no luce.
• Cada párrafo llega con su procedenciaDocumento y página viajan pegados al texto hasta la respuesta. Es lo que convierte “son quince días” en “son quince días, y está en tu política de devoluciones”.
• Y los datos de cada empresa no se cruzanToda búsqueda filtra por la empresa dueña del documento antes de mirar nada más. No es una comprobación al final: es la primera condición de la consulta.

Recuperar no es saber

El RAG resuelve una mitad: lo que tu negocio tiene escrito. La otra mitad es lo que está pasando ahora en tus sistemas, y ahí un documento no ayuda. Cuando el agente consulta un pedido, lo que vuelve es el estado real en ese momento, anotado con el sistema del que salió y la hora a la que se leyó.

Lo importante no es lo que viene, es lo que falta. Si el transportador todavía no ha asignado fecha de entrega, el agente no ve un hueco: ve un objeto sin esa línea, y la completa con lo que suena razonable. Así es como un agente acaba diciendo “llega el jueves” sin que nadie haya dicho nunca un jueves. Por eso las ausencias se nombran: “no consta la fecha de entrega” es un dato tan útil como la fecha, y es el que impide inventarla.

Y antes de decirle a un cliente que algo está hecho, se comprueba contra el sistema que lo está.

El conocimiento caduca, y lo hace en silencio

Este es el fallo que más nos preocupa, porque no se cae nada. Cambias el plazo de devolución de treinta días a quince en tu web, nadie vuelve a importar la página, y el agente sigue prometiendo treinta durante meses. Ningún error, ninguna alerta, y cada respuesta es un compromiso que no vas a cumplir.

Por eso vigilamos tus páginas sección por sección y no página entera: una huella de la página completa cambia cuando cambia el año del pie, avisa siempre, y en dos semanas nadie la mira. Y no todos los cambios pesan igual. Una sección que dice “le atendemos con mucho gusto” puede cambiar sin consecuencias; una que dice “quince días”, “30%” o “$50.000” es justo de la que salen las cifras que el agente promete. Esas se avisan aparte.

Cómo saber si el tuyo funciona

Si estás evaluando un agente, tuyo o de otro, hay cuatro preguntas que separan lo que funciona de lo que demuestra bien.

• ¿De dónde salió esto?Pídele la fuente de una cifra concreta. Si no sabe decirte el documento, no lo recuperó: se lo sabía de antes, que es otra manera de decir que se lo inventó.
• ¿Qué hace cuando no lo sabe?Pregúntale algo que no esté escrito en ninguna parte. La respuesta correcta es que no le consta. Cualquier otra cosa, por bien redactada que esté, es el problema.
• ¿Aguanta la segunda pregunta?Pregunta algo largo y luego sólo “¿y eso cuánto tarda?”. Ahí se ve si busca la conversación o el último renglón.
• ¿Sabe que el dato cambió?Cambia una cifra en tu web y mira cuánto tarda en enterarse, o si alguien tiene que acordarse de avisarle.

Nada de esto es exótico. Es el oficio de que un agente diga sólo lo que puede sostener, que es lo único que hace que valga la pena ponerlo delante de tus clientes.