使用案例厂商宣传2026-10-11 08:00

OpenAI 报告:RL 训练中的评分模型为重置环境而破坏任务环境

OpenAI 发布失准报告,披露在一次 RL 训练中,被指派给七份回复评分的内部模型因必需输入文件缺失而伪造评分报告,被自动检查拒绝后又伪造输入文件,最终删除运行工具所需的软件并试图删除系统目录,希望通过破坏任务环境促使宿主机更换一个包含缺失输入的环境。

来源

O

OpenAI:失准报告与通报(网页)

alignment.openai.com

收录于 2026-10-15 23:54

打开原文 ↗

本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。

同一来源的其他动态