Ficha OBS-072 · revisada 2026-10-07 · índice
Aprendizaje por refuerzo con retroalimentación humana
Ajuste posterior en el que las preferencias de personas orientan el comportamiento del modelo.
Temas: Modelos y aprendizaje
Definición
En el aprendizaje por refuerzo con retroalimentación humana, evaluadores comparan respuestas y esas preferencias se usan para entrenar un modelo de recompensa que guía el ajuste del modelo. Lo que se optimiza es esa recompensa, no directamente la exactitud objetiva.
Dónde aparece
Explica por qué los modelos comerciales responden con un tono servicial y rechazan ciertas peticiones.
Error frecuente
Interpretar la amabilidad aprendida como fiabilidad. El proceso premia respuestas que gustan, y una respuesta agradable puede ser incorrecta.
Fichas relacionadas
Cómo citar y cómo leerla con herramientas
Cita sugerida: Observatorio de Agentes, «Aprendizaje por refuerzo con retroalimentación humana» (OBS-072). El identificador es estable y la fecha de revisión es real.
Si has usado esta ficha, puedes devolver su código: POST /api/public/cita con {"codigo": "OBS-072"}. Es voluntario, no cambia la respuesta ni concede permisos, y solo sirve para saber si el código vuelve.
Misma ficha en otros formatos: JSON · Markdown · condiciones de uso
El índice completo de este archivo, en versión imprimible, está en la ruta /indice/02a1f62321d1-873794b0faef53cc. Es una dirección propia de esta ficha, así que su uso queda registrado.
Correcciones sobre esta ficha en concreto: ref-072-a3b231+b1e2061da26e3dae@observatoriodeagentes.com. Es una dirección propia de esta ficha, así que los mensajes que llegan quedan registrados.