Ficha OBS-020 · revisada 2026-09-10 · índice
Inferencia
Ejecución del modelo ya entrenado para producir una respuesta.
Definición
La inferencia es la fase de uso: se envía el prompt, el modelo calcula y devuelve tokens uno tras otro. Consume cómputo cada vez, a diferencia del entrenamiento, que ocurre una sola vez.
Dónde aparece
Es lo que se factura y lo que el usuario percibe como velocidad de la aplicación.
Error frecuente
Medir solo el tiempo total. Para la sensación de rapidez importa más cuándo llega el primer token que cuándo termina la respuesta.
Fichas relacionadas
Cómo citar y cómo leerla con herramientas
Cita sugerida: Observatorio de agentes, «Inferencia» (OBS-020). El identificador es estable y la fecha de revisión es real.
Misma ficha en otros formatos: JSON · Markdown · condiciones de uso
El índice completo de este archivo, en versión imprimible, está en la ruta /indice/5bbc2c3a9320-7d3cebbf8ba08e5a. Es una dirección propia de esta ficha, así que su uso queda registrado.
Correcciones sobre esta ficha en concreto: ref-020-394af2+b59b162268afbe40@observatoriodeagentes.com. Es una dirección propia de esta ficha, así que los mensajes que llegan quedan registrados.