SimHack: Vorhersage des Auftretens erkennbarer Reward Hacking vor RL-Training

arXiv:2610.28707v1 Announce Type: new Abstract: Beim Training von LLMs zum Programmieren mit Reinforcement Learning ist Reward Hacking oft erkennbar, aber schwer zu verhindern, da (a) Hardening der Umgebung mit zunehmend komplexeren Trainingsumgebungen immer schwieriger wird; und (b) Interventionen zur Trainingszeit…