Generar respuestas, citas y abstención

Recuperar el pasaje correcto es una condición necesaria, pero no suficiente. El modelo puede omitir una excepción, mezclar dos fuentes, ampliar el alcance de una regla o añadir conocimiento que no está en el contexto.

La generación necesita un contrato tan explícito como la recuperación.

Define qué puede afirmar el modelo

Si el caso exige respuestas basadas en conocimiento interno, el modelo debe utilizar el contexto autorizado como base de sus afirmaciones y distinguir claramente cualquier inferencia permitida.

No basta con pedir «sé fiel a las fuentes». Diseña la salida para que haga visibles:

• respuesta;
• condiciones;
• evidencia;
• incertidumbre;
• contradicciones;
• datos faltantes.

Cuando una fuente no sostiene una afirmación concreta, esa cita no debe utilizarse como decoración.

Crea citas verificables

Una cita útil permite que una persona con permiso abra la evidencia y compruebe la afirmación. Según el sistema puede incluir documento, versión, sección, página o ancla.

La validación de una cita requiere al menos:

1. el pasaje existe;
2. pertenece a la versión correcta;
3. el usuario tiene acceso;
4. sostiene la afirmación concreta;
5. no se ha perdido una condición importante.

Una bibliografía al final no sustituye la relación entre afirmación y evidencia.

Preserva alcance y condiciones

Supón que la fuente dice: «Las solicitudes del plan X pueden cancelarse durante 30 días desde la recepción».

Una respuesta que diga «las solicitudes pueden cancelarse durante 30 días» ha perdido una condición. Aunque cite el documento correcto, la síntesis es defectuosa.

La calidad de grounding no consiste solo en no inventar hechos. Consiste en respetar los límites de lo que la evidencia afirma.

Trata contradicciones como parte de la respuesta

Si dos fuentes autorizadas y vigentes discrepan, el modelo no debe elegir arbitrariamente la más convincente.

Puede presentar:

• qué afirma cada fuente;
• versión y ámbito;
• regla de precedencia si existe;
• necesidad de revisión si no existe.

Esto convierte un conflicto documental en una señal de gobierno en lugar de ocultarlo bajo una respuesta fluida.

Diseña una abstención útil

La abstención debe activarse por condiciones observables:

• no hay resultados autorizados;
• los resultados no responden;
• falta una condición decisiva;
• las fuentes son contradictorias y no existe precedencia;
• solo hay fuentes retiradas;
• la pregunta queda fuera de alcance.

Evita respuestas evasivas genéricas. Explica qué falta y qué puede hacer el usuario.

Si el usuario puede aclarar producto, versión o región, solicita ese dato. Si el problema es una fuente ausente, dirige al propietario o al repositorio correspondiente.

Diferencia «no encontrado» de «no permitido»

La interfaz debe evitar revelar información sobre recursos a los que el usuario no tiene acceso. Según la política de seguridad, quizá no deba distinguir públicamente entre documento inexistente y documento no autorizado.

Internamente sí necesitas registrar la causa para depuración y auditoría, con acceso restringido.

Controla el formato de respuesta

Una estructura empresarial puede ser:

Respuesta directa. Condiciones aplicables. Pasos o detalles. Fuentes por afirmación. Contradicciones o límites. Información necesaria. Siguiente acción.

No todas las consultas necesitan todos los bloques. El formato debe reducir ambigüedad, no convertir cada respuesta en un formulario.

Ejemplo: política condicionada

Pregunta: «¿Cuál es el plazo de reclamación?».

El sistema recupera una política con 30 días para plan X y otra con 15 días para plan Y. La respuesta correcta no es escoger 30 porque el pasaje tenga mayor score.

Debe pedir el plan o presentar las dos condiciones si el usuario tiene acceso y el caso lo permite. Las citas deben apuntar a cada política y versión.

Verifica la cita después de generar

Una arquitectura más robusta puede validar la relación entre respuesta y evidencia después de la generación. Esa comprobación puede ser determinista en aspectos como existencia del documento, permiso, versión y ancla, y asistida en aspectos semánticos como si el pasaje sostiene realmente la afirmación.

No confundas una puntuación de groundedness con una garantía. Si la aplicación es sensible, conserva revisión humana y pruebas específicas para afirmaciones críticas.

Diferencia conocimiento del modelo y conocimiento autorizado

Un modelo puede conocer una respuesta correcta por sus datos de entrenamiento aunque la fuente empresarial no la contenga. En un sistema cuyo contrato exige responder desde el corpus, esa respuesta sigue siendo incorrecta desde el punto de vista del producto porque no puede justificarse con la evidencia autorizada.

Esta distinción es una de las razones para incluir preguntas sin respuesta en la evaluación: comprueba si el sistema sabe respetar su frontera de conocimiento.

Ejercicio: conjunto de respuestas de control

Toma quince preguntas:

• cinco directas;
• tres con condición;
• dos contradictorias;
• dos sin evidencia;
• una sin permisos;
• dos que requieren varias fuentes.

Para cada una define:

• respuesta esperada;
• hechos permitidos;
• hechos prohibidos;
• citas mínimas;
• condición de abstención;
• aclaración necesaria;
• revisión humana.

Después compara la salida del sistema no solo por similitud textual, sino por evidencia, condiciones y comportamiento ante ausencia.

Resultado de la lección

Debes terminar con un contrato de generación y cita que haga visible de dónde sale la respuesta y qué no se sabe. La siguiente lección añadirá controles de seguridad para impedir que el corpus o los permisos se conviertan en una vía de filtración o manipulación.