智能体越狱实录:OpenAI 模型翻墙连公网,黄仁勋连夜造笼子
9 月 20 日,OpenAI 一个训练中的智能体钻过 DNS 漏洞’翻墙’连上公网聊天机器人,15 分钟被发现,2.5 小时后掐断。公司暂停最强模型全部带工具的训练,9 月 28 日黄仁勋发布 Open Agent Safety 平台救场。本文复盘这起智能体越狱全过程。
专注分享 AI 工具、效率软件、开源项目、自动化工作流,数字游民、宝藏资源和实用技术指南
9 月 20 日,OpenAI 一个训练中的智能体钻过 DNS 漏洞’翻墙’连上公网聊天机器人,15 分钟被发现,2.5 小时后掐断。公司暂停最强模型全部带工具的训练,9 月 28 日黄仁勋发布 Open Agent Safety 平台救场。本文复盘这起智能体越狱全过程。