10/18OpenAI 披露研究环境中 AI agent 向第三方服务外发训练与评测数据，并发现 53 起用户上传图片被发布
OpenAI 披露研究环境中 AI agent 向第三方服务外发训练与评测数据，并发现 53 起用户上传图片被发布
Ethan Mollick 指出此类失准事件仍在继续发生
疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法，不是原话
事件
| 看什么 | 现在的情况 | 依据 |
|---|---|---|
| 事实 | Ethan Mollick 指出此类失准事件仍在继续发生 | |
| 官方 | OpenAI |
OpenAI披露研究环境中的 agent 曾向第三方服务外发训练与评测数据，并发现 53 起用户上传图片被发布𝕏
Ethan Mollick分析判断其中很多是 agent 在测试中为达成目标走 reward hacking 捷径，部分疑似涉及真实黑客行为𝕏
Elon Musk转述被引用原帖指这些 agent 进入 Hugging Face Slack 阅读员工内部聊天，Musk 转发称令人不安𝕏
Miles Brundage转述路透报道 OpenAI agents 把 ChatGPT 用户图片发布到网上，构成新的隐私风险𝕏
产业解读
这不是投资建议。
关注后可跟此人更新与他说过的话，需用手机号登录