Cargando diccionario…
Bloque temático
Técnicas de transferencia de comportamiento o representaciones desde modelos profesores a estudiantes y métodos relacionados para reducir tamaño, coste o latencia.
Distillation speedup
Aceleración por destilación es mejora de velocidad atribuible al estudiante.
Ver definición completa →Distillation energy saving
Ahorro energético por destilación es reducción de energía al usar el estudiante.
Ver definición completa →Deep mutual learning
Aprendizaje mutuo profundo es entrenamiento conjunto donde varios estudiantes se enseñan entre sí.
Ver definición completa →Teacher assistant
Asistente de profesor es modelo intermedio que reduce una brecha de capacidad grande.
Ver definición completa →Self-distillation
Autodestilación es uso del mismo modelo o una versión previa como profesor.
Ver definición completa →Teacher-student capacity gap
Brecha de capacidad profesor-estudiante es diferencia de capacidad que puede dificultar la transferencia.
Ver definición completa →Student calibration
Calibración del estudiante es correspondencia entre confianza y acierto del estudiante.
Ver definición completa →Student capacity
Capacidad del estudiante es cantidad de representación y cálculo disponible en el modelo estudiante.
Ver definición completa →Distillation collapse
Colapso de destilación es fallo donde el estudiante aprende una salida empobrecida o trivial.
Ver definición completa →Weight sharing
Compartición de pesos es reutilización de un mismo valor entre múltiples conexiones.
Ver definición completa →Model compression
Compresión de modelo es reducción de tamaño o coste preservando utilidad.
Ver definición completa →Model semantic compression
Compresión semántica de modelo es preservación de capacidades esenciales en una representación menor.
Ver definición completa →Dark knowledge
Conocimiento oscuro es información contenida en probabilidades de clases no ganadoras.
Ver definición completa →Low-rank decomposition
Descomposición de bajo rango es aproximación de matrices mediante factores de rango menor.
Ver definición completa →Architecture-agnostic distillation
Destilación agnóstica de arquitectura es transferencia entre arquitecturas diferentes.
Ver definición completa →Synthetic-data distillation
Destilación con datos sintéticos es uso de ejemplos generados para consultar o imitar al profesor.
Ver definición completa →Attention distillation
Destilación de atención es imitación de mapas o relaciones de atención.
Ver definición completa →White-box distillation
Destilación de caja blanca es transferencia con acceso a estados internos del profesor.
Ver definición completa →Black-box distillation
Destilación de caja negra es imitación usando solo entradas y salidas accesibles.
Ver definición completa →Feature distillation
Destilación de características es alineación de representaciones internas profesor-estudiante.
Ver definición completa →Knowledge distillation
Destilación de conocimiento es entrenamiento de un estudiante para imitar señales de un profesor.
Ver definición completa →Gradient distillation
Destilación de gradientes es transferencia de información derivada de gradientes del profesor.
Ver definición completa →Instruction distillation
Destilación de instrucciones es aprendizaje con instrucciones y respuestas producidas por un profesor.
Ver definición completa →Logit distillation
Destilación de logits es imitación de logits o probabilidades finales del profesor.
Ver definición completa →Model distillation
Destilación de modelos es transferencia de capacidad desde un modelo complejo a otro más pequeño.
Ver definición completa →Policy distillation
Destilación de política es compresión de una o varias políticas en otra política.
Ver definición completa →Reasoning distillation
Destilación de razonamiento es transferencia de ejemplos y trayectorias de resolución.
Ver definición completa →Relational distillation
Destilación de relaciones es preservación de relaciones entre ejemplos o características.
Ver definición completa →Representation distillation
Destilación de representaciones es transferencia de estados ocultos o embeddings intermedios.
Ver definición completa →Sequence-level distillation
Destilación de secuencia es uso de secuencias completas generadas por el profesor.
Ver definición completa →Similarity distillation
Destilación de similitud es alineación de matrices de similitud entre elementos.
Ver definición completa →Pretraining distillation
Destilación durante preentrenamiento es destilación aplicada mientras se aprende una representación general.
Ver definición completa →Online distillation
Destilación en línea es entrenamiento simultáneo de profesor y estudiante.
Ver definición completa →Cross-modal distillation
Destilación entre modalidades es uso de una modalidad como supervisión para otra.
Ver definición completa →Task-specific distillation
Destilación específica de tarea es destilación orientada a una tarea de destino concreta.
Ver definición completa →Iterative distillation
Destilación iterativa es repetición del ciclo profesor-estudiante para mejorar el resultado.
Ver definición completa →Multimodal distillation
Destilación multimodal es transferencia entre modelos que procesan varias modalidades.
Ver definición completa →Multi-teacher distillation
Destilación multi-profesor es combinación de señales procedentes de varios profesores.
Ver definición completa →Mutual distillation
Destilación mutua es aprendizaje bidireccional entre modelos pares.
Ver definición completa →Token-level distillation
Destilación por token es imitación de distribuciones para cada posición de salida.
Ver definición completa →Post-training distillation
Destilación posterior al entrenamiento es destilación aplicada a un modelo ya entrenado.
Ver definición completa →Progressive distillation
Destilación progresiva es compresión mediante varias etapas o estudiantes sucesivos.
Ver definición completa →Offline distillation
Destilación sin conexión es destilación desde un profesor previamente entrenado y fijo.
Ver definición completa →Data-free distillation
Destilación sin datos es transferencia sin acceso al dataset original del profesor.
Ver definición completa →Expert router
Enrutador de expertos es componente que asigna tokens o ejemplos a expertos.
Ver definición completa →Teacher-student evaluation
Evaluación profesor-estudiante es comparación conjunta de calidad, coste y comportamiento.
Ver definición completa →Sparse expert
Experto disperso es subred seleccionada condicionalmente en una arquitectura MoE.
Ver definición completa →Teacher fidelity
Fidelidad al profesor es grado en que el estudiante reproduce el comportamiento docente.
Ver definición completa →Diagnóstico de procesos
Software interno a medida
Automatización de tareas repetitivas
Integración de sistemas y APIs
IA aplicada solo cuando aporta valor
© 2026 Camilo Boo. Automatización de procesos y software interno.
