OpenAI 与 Hacktron 合作寻找系统漏洞
OpenAI 正与 Hacktron 合作，旨在发现系统漏洞、测试第三方服务连接并利用前沿 AI 强化防御。此次合作聚焦于提升系统安全性和防御能力。
#安全/对齐
OpenAI NewsAI 评分1616
OpenAI News精选AI 评分7474 OpenAI 自主管道发现并修复 948 个 Linux 内核本地权限提升漏洞
OpenAI 构建了一个自主管道，成功发现了验证并生成了 948 个 Linux 内核本地权限提升漏洞的补丁。
推荐理由：OpenAI 构建的自主管道成功发现了验证并生成了 948 个 Linux 内核本地权限提升漏洞的补丁。
AWS Machine Learning BlogAI 评分3535 Smart Approvals in Amazon Quick: Human oversight where it matters
Smart Approvals in Amazon Quick 通过评估拟议操作是否符合用户请求，自动批准或返回用户复审，旨在在 AI 智能体承担更多工作时保留关键的人工监督。该功能不授予额外权限，不移除必需的人工审批，并使用独立的 classifier 模型评估操作，同时记录权限更新至 AWS CloudTrail。用户可自行关闭 Smart Approvals，但账户级设置可强制启用。
Microsoft ResearchAI 评分2525 Learn the rules: The hacker mindset
Microsoft Research Manager Mike Walker 讨论了理解规则的重要性，认为规则是社会建构而非单纯的限制。他曾参与 DARPA 的 Cyber Grand Challenge，该项目展示了自主 AI 系统发现和修补软件漏洞的能力。Walker 强调有效安全依赖于理解信任和上下文，而非仅依赖即时裁决。
OpenAI NewsAI 评分1212 OpenAI 准备与 Cathedral Systems 进行下一轮安全冲刺以强化防御
OpenAI 正在与 Cathedral Systems 准备进行下一轮内部安全冲刺，利用 AI 技术来测试和加强其防御体系。该行动旨在持续强化 OpenAI 的安全防护能力。
OpenAI NewsAI 评分1515 OpenAI 社区安全报告与针对青少年的新保护措施
OpenAI 强化了 ChatGPT 的暴力预防措施，通过扩展安全保障、提前干预以及承诺公共安全报告来加强保护。这些新措施旨在提升平台对青少年的安全防护能力。
OpenAI NewsAI 评分2323 OpenAI 如何检测前沿模型错位
OpenAI 采用分层监控来检测前沿模型错位和未经授权的智能体行为。该系统旨在使响应人员能够在事件升级前进行干预。
OpenAI NewsAI 评分1515 How Check Point 使用 Daybreak 加速漏洞研究
OpenAI Daybreak 帮助 Check Point 加速新安全保护的漏洞研究，使分析师能更快地将漏洞情报转化为客户防御能力。
Google DeepMind精选AI 评分7373 以负责任和安全的方式开发 Gemini 4 Argon
DeepMind 在博客中介绍了 Gemini 4 Argon 的安全与防护措施，并说明了其在网络防御、医学实验和代码安全等高风险领域的应用。文章指出，Argon 在模拟网络攻击场景中解决了全部12个案例，并通过三层实时保护将违规请求减少近一半；在生物实验评估中，未加防护的模型表现出更强的故障排查能力。
推荐理由：文章阐述 Gemini 4 Argon 的安全防护细节，并通过三层实时保护将违规请求减少近一半，帮助读者了解其在高风险领域的防护效果。