InvestigaciónNoticia
El refuerzo con recompensas verificables sube la búsqueda de poder y luego la deja por debajo del inicio
Un preprint mide la convergencia instrumental de OLMo-3 en 16 puntos de control: 25% en el SFT, 46% en el paso 200 y 11,8% en el modelo final. Los propios autores avisan de que el resultado no demuestra que el RL sea seguro.