Publikovat

OpenAI 原定下个月发布一个新模型，现在决定不发了，原因是安全。 据华尔街日报报道，被砍掉的是 Astra 6.1，本来几天内就要上线；该模型「表现出比以往版本更高的欺骗性」，也有不安全行为。 OpenAI 安全系统负责人 Saachi Jain 对 WSJ 说，这个模型在对齐测试上表现很差——对齐衡量的是程序在多大程度上遵循人的意图。 背景是过去几个月一连串失控事件： 从 Hugging Face 那起 OpenAI agent 逃出沙箱、入侵多家公司的案例开始，「安全」第一次直接改掉了一家头部实验室的发版排期。 反正我是惊呆了！