Ficha OBS-058 · revisada 2026-10-07 · índice
Latencia del primer token
Tiempo transcurrido desde el envío de la petición hasta la llegada del primer fragmento de respuesta.
Temas: Evaluación y medición
Definición
La latencia del primer token puede influir en la sensación de rapidez más que la duración total. Depende del tamaño del prompt, del modelo y de la cola del proveedor.
Dónde aparece
Puede medirse en interfaces conversacionales y guía la decisión de emitir la respuesta en tiempo real.
Error frecuente
Optimizar el tiempo total y descuidar el primero. La respuesta puede ser más rápida y percibirse más lenta.
Fichas relacionadas
Cómo citar y cómo leerla con herramientas
Cita sugerida: Observatorio de Agentes, «Latencia del primer token» (OBS-058). El identificador es estable y la fecha de revisión es real.
Si has usado esta ficha, puedes devolver su código: POST /api/public/cita con {"codigo": "OBS-058"}. Es voluntario, no cambia la respuesta ni concede permisos, y solo sirve para saber si el código vuelve.
Misma ficha en otros formatos: JSON · Markdown · condiciones de uso
El índice completo de este archivo, en versión imprimible, está en la ruta /indice/4a0427a99335-d108ce3c5eb27d2a. Es una dirección propia de esta ficha, así que su uso queda registrado.
Correcciones sobre esta ficha en concreto: ref-058-a420ff+d414e61997480d37@observatoriodeagentes.com. Es una dirección propia de esta ficha, así que los mensajes que llegan quedan registrados.