TécnicoTokens, contexto y memoria
Conteo de tokens
Token counting
También: Recuento de tokens, Token counting
Proceso de calcular cuántos tokens ocupará o ha ocupado una entrada, salida o solicitud completa.
Definición técnica
Aplicación del tokenizador y de la plantilla efectiva del modelo para obtener la cardinalidad de identificadores, incluidos mensajes, instrucciones, herramientas, archivos y otros elementos serializados.