OpenAI于11月6日宣布与安全公司Hacktron建立合作，双方工程师与安全研究员将共同挑选高优先级领域进行测试，重点放在OpenAI系统与第三方服务之间的交互。作为合作的一部分，OpenAI将通过名为Daybreak Red的计划扩大Hacktron对其前沿模型的使用权限。OpenAI称，本周早些时候已宣布Cathedral的研究员将参加下一轮安全冲刺，并已提高漏洞赏金金额。

OpenAI表示，是通过自家安全漏洞赏金计划认识Hacktron的，对其研究员发现并披露的漏洞影响印象深刻。Hacktron开发用于代码审查、渗透测试和红队演练的AI智能体，其研究揭示了应用、云基础设施与身份系统之间交互环节的漏洞。OpenAI称，随着AI智能体以新的方式把各种服务连接起来，这类能力更显重要。Hacktron首席执行官Zayne Zhang表示，网络安全的未来不取决于谁的安全团队最大，而取决于谁能把人的创造力与AI能力结合得最好。

Hacktron此前公开的研究显示，其团队今年7月23日发现，OpenAI所用的Discourse社区论坛在处理HEIC/HEIF图片时，会把文件交给ImageMagick及底层libheif库解析，而该库存在未及时回补的堆溢出漏洞。团队借助Anthropic的Claude模型写出利用代码，7月25日在community.openai.com上实现远程代码执行。由于论坛支持「用OpenAI登录」，再结合OpenAI单点登录的一处配置问题，任何登录该论坛的用户或OpenAI员工的ChatGPT和Codex账号都可能被接管，而这些账号可能连着GitHub、Slack和电子邮件等服务。

为证明影响又不接触敏感信息，团队接管了一名Codex连接着OpenAI GitHub组织的员工账号，让其Codex在OpenAI内部代码仓库开了一个无害的测试合并请求，随即停止测试。从发现漏洞到进入内部代码仓库不到72小时。Hacktron称已立即通过漏洞赏金平台报告，OpenAI约14小时后确认修复，Discourse两天后推出补丁并为图片处理加上沙箱；OpenAI于9月1日支付6500美元赏金，并说明奖励只针对OpenAI一侧的问题，针对Discourse托管论坛的测试不在赏金范围内。

Hacktron称，整个追踪libheif漏洞、涉及Slack、Meta等多家公司的研究由三名研究员历时两个月完成，耗费的模型token不到3000美元；把利用代码改到每家新目标通常只需一两天，且除Shopify外未发现有公司察觉。团队认为，AI正在把稀缺的漏洞利用专长变成算力，过去要一支资源充足的团队花数月的工作，如今几天就能完成；但这并非完全自主的黑客攻击，熟练人员的引导仍很重要。团队建议处理用户上传图片的服务尽快更新libheif等组件，或把图片解析放进隔离沙箱。

下南洋预测市场：https://tonanyang.cc/webapp/