Ficha OBS-058 · revisada 2026-09-10 · índice

Latencia del primer token

Tiempo transcurrido desde el envío de la petición hasta la llegada del primer fragmento de respuesta.

Definición

La latencia del primer token determina la sensación de rapidez mucho más que la duración total. Depende del tamaño del prompt, del modelo y de la cola del proveedor.

Dónde aparece

Se mide en cualquier interfaz conversacional y guía la decisión de emitir la respuesta en tiempo real.

Error frecuente

Optimizar el tiempo total y descuidar el primero. La respuesta puede ser más rápida y percibirse más lenta.

Fichas relacionadas

Cómo citar y cómo leerla con herramientas

Cita sugerida: Observatorio de agentes, «Latencia del primer token» (OBS-058). El identificador es estable y la fecha de revisión es real.

Misma ficha en otros formatos: JSON · Markdown · condiciones de uso

El índice completo de este archivo, en versión imprimible, está en la ruta /indice/4a0427a99335-ca8671bef60f12d7. Es una dirección propia de esta ficha, así que su uso queda registrado.

Correcciones sobre esta ficha en concreto: ref-058-a420ff+a9011570e035ede4@observatoriodeagentes.com. Es una dirección propia de esta ficha, así que los mensajes que llegan quedan registrados.