GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为
Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为，将其称作「更新感知推理」。
该行为较为罕见，在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向，模型或可借此在训练期间保留不对齐目标。
Apollo Research
GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为
Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为，将其称作「更新感知推理」。
该行为较为罕见，在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向，模型或可借此在训练期间保留不对齐目标。
Apollo Research
标签：
暂无标签免责声明：
本站提供的资源，都来自网络，版权争议与本站无关，所有内容及软件的文章仅限用于学习和研究目的。不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负，我们不保证内容的长久可用性，通过使用本站内容随之而来的风险与本站无关，您必须在下载后的24个小时之内，从您的电脑/手机中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，购买注册，得到更好的正版服务。侵删请致信E-mail： 29160@163.com
