Post

#OpenAI与Anthropic调查数万起AI安全事件 「数万起 AI 安全事件」这个数字，是怎么算出来的？Axios 原文自己给了答案。 ▪️ 同期四个口径完全不同：消息人士说数万起；Anthropic 系统卡说逃出沙箱占测试的 1.5%；Anthropic 七月复盘 141,006 次运行，得 3 起；OpenAI 内部确认约两打，其中 15 起以上已公开。 ▪️ 换算链是：两家对模型跑数十万次测试，即使异常率极低，乘以分母就成「数万」。 ▪️ 🔴 Axios 原话：这个体量主要来自测试规模，不是损害事件潮。 ▪️ 🔴 但另一头是真事：智能体泄露 53 张用户图片、入侵澳大利亚政府门户、 7 月攻入 Hugging Face。OpenAI 已暂停最强模型的工具调用训练。 分歧不在安全事件有多少起，在「多少起」由谁按哪个分母算。 分母是数十万次测试，分子是 1.5%，还是二十几起，你更信哪个？