Evaluar y operar sistemas de IA en producción: calidad, fiabilidad, observabilidad e incidentes · Módulo 4: Cambios e incidentes
Versionar configuración y desplegar gradualmente
Manifest reproducible de código, modelo, prompt, tools, índice y políticas con shadow, canary, flags y criterios de promoción o rollback.
Objetivo de aprendizaje
Versionar todos los componentes que alteran comportamiento y desplegar candidatos de forma gradual limitando su radio de impacto.
En sistemas de IA, una release no es solo código. El comportamiento puede cambiar por el modelo, las instrucciones, el índice, las herramientas, los parámetros, la política o el proveedor.
Si no puedes reconstruir esa combinación, no puedes reproducir una regresión ni hacer rollback con confianza.
Define una unidad de versión
Crea un manifest:
{
"app": "2.8.1",
"prompt": "support-v17",
"model": "provider/model@2026-08",
"tool_catalog": "9",
"index": "kb-20260817",
"policy": "prod-12",
"eval_suite": "31"
}No incluyas secretos.
Guarda:
- author;
- fecha;
- motivo;
- ticket;
- evaluación.
Versiona modelos
No uses un alias cambiante sin saber qué ejecutó.
Cuando el proveedor exponga IDs/versiones, regístralos.
Si no, conserva:
- nombre;
- fecha;
- proveedor;
- response metadata.
Una actualización del proveedor puede alterar comportamiento sin un commit tuyo.
Define compatibilidad
Cambiar un schema o tool puede romper jobs en curso.
Documenta:
- backward compatible;
- migration required;
- incompatible.
Una ejecución larga debe saber qué contrato la inició.
Puerta offline
Antes de desplegar:
- regression;
- safety;
- coste;
- latencia;
- tests.
No pases al canary si hay bloqueantes.
Shadow
La candidata procesa tráfico pero no determina el resultado del usuario.
Sirve para:
- comparar;
- medir latencia;
- detectar errores.
Cuidado:
- duplica coste;
- puede duplicar tools.
Desactiva efectos.
Canary
Google SRE presenta canarying como complemento de testing para exponer una nueva versión a una población limitada y detectar defectos con menor impacto.
Selecciona población:
- interna;
- tenant voluntario;
- 1 % tráfico;
- segmento no crítico.
No uses canary aleatorio si necesitas aislar un riesgo específico.
Criterios de promoción
Antes:
promote if
quality >= threshold
no critical incidents
latency within guardrail
cost within guardrailDespués de una ventana.
No cambies el criterio mientras observas.
Automated rollback
Puedes automatizar rollback para señales deterministas:
- 5xx;
- invalid schema;
- latency;
- unauthorized effect.
Para quality diferida quizá necesites decisión humana.
No automatices un rollback que pueda causar más daño sin entender dependencias.
Feature flags
Permiten desacoplar deploy de activación.
Usa flags para:
- nuevo modelo;
- tool;
- RAG;
- autonomía;
- proveedor.
Debe existir un kill switch.
Evita contaminación
Si una persona recibe A y B alternativamente, el feedback se vuelve confuso.
Asigna cohortes estables cuando sea necesario.
Deprecaciones del proveedor
Las plataformas cambian. En 2026 OpenAI ha deprecado su plataforma Evals con cierre previsto para noviembre.
La lección operativa es general:
- no dependas de una interfaz sin plan de migración;
- monitoriza deprecations;
- inventaría dependencias;
- prueba migración antes del deadline.
Immutable release manifest
Una vez desplegado, no edites el manifest.
Si cambias una flag crítica, registra nueva versión o evento de configuración.
La reproducibilidad requiere historia.
Config drift
Compara:
- expected;
- actual.
Un servidor puede tener una variable antigua.
Automatiza detección cuando sea posible.
Schema migrations
Un cambio de output puede requerir compatibilidad dual:
- productor nuevo;
- consumidores aceptan ambos;
- migración;
- retirar viejo.
No rompas jobs en curso.
Model upgrade playbook
Antes:
- eval;
- cost;
- latency;
- tools;
- safety.
Durante:
- canary.
Después:
- monitor.
Documenta rollback.
Dataset/Index release
RAG también tiene releases.
Versiona:
- source snapshot;
- chunker;
- embedding model;
- index config.
Un cambio de índice puede ser tan importante como código.
Tool release
Para una tool:
- schema;
- implementation;
- permissions.
Versiona las tres.
Dark launch
Puedes desplegar infraestructura sin activarla.
Reduce riesgo de:
- configuración;
- escalado.
Después activa mediante flag.
Cohortes
Selecciona cohortes con cuidado.
Un canary solo con expertos puede no representar usuarios normales.
Incluye diversidad progresivamente.
Blast radius
Pregunta:
«¿Cuál es el máximo daño si esta fase falla?»
Si la respuesta es «todos los clientes», la fase no limita impacto.
Release notes operativas
Incluye:
- cambio;
- riesgo;
- owner;
- metrics;
- rollback.
No solo features.
Ejercicio
Diseña un rollout:
- offline;
- shadow;
- 5 %;
- 25 %;
- 100 %.
Para cada fase define:
- población;
- duración;
- métricas;
- stop;
- rollback;
- owner.
Simula una caída del 8 % en un segmento crítico y ejecuta la decisión.
Resultado de la lección
Debes terminar con releases reproducibles y promoción basada en evidencia. La siguiente lección prepara la respuesta cuando, pese a todo, producción falla.

