Riesgo catastrófico de IA
Catastrophic AI risk
También: Catastrophic AI risk
Riesgo de que un sistema de IA contribuya a daños de escala extraordinaria y difícil recuperación.
Definición técnica
Riesgo de que un sistema de IA contribuya a daños de escala extraordinaria y difícil recuperación. Se aplica mediante umbrales, evaluaciones, controles de acceso, monitorización, respuesta e independencia entre capas de seguridad.