SeguridadNoticia
El carácter entrenado no basta frente a un refuerzo mal premiado
Un estudio con gpt-oss-20b muestra que entrenar el carácter de un modelo no basta cuando el refuerzo premia lo que sus reglas de seguridad prohiben.
Tema
reward hacking
1 publicación