
图片:OpenAI(视频截图)
摘要
- OpenAI于10月14日公布Block与SentinelOne的Daybreak应用案例,SentinelOne表示,顶尖研究人员需要4至6周的恶意软件逆向分析现在约8小时即可完成。
- Block可在1小时内将拟议的检测规则变更回放到7个月的遥测数据上,并报告分诊吞吐量提升50%、每季度从误报分诊中收回约600个分析师工时。
- 两家公司都表示,架构变更和补丁部署等决定仍由人负责;SentinelOne自9月起将GPT-5.6-Cyber引入其威胁暴露评估服务。
OpenAI于10月14日同时公布了金融科技公司Block和安全公司SentinelOne的Daybreak应用案例。Daybreak是OpenAI向防御者提供网络安全工作所用模型的项目。两个案例的共同点是时间。SentinelOne将顶尖研究人员需要4至6周的恶意软件逆向分析缩短至约8小时;Block表示,在最近的红队演练中,从提交高层级漏洞到自动生成补丁建议只用了18分钟。
Block是Square、Cash App和Afterpay的运营公司。据OpenAI介绍,Block安全团队采用OpenAI Defense Factory方式,由AI负责漏洞发现、检测和响应,过去需要数周的工作如今几个小时即可完成。Block首席信息安全官(CISO)James Nettesheim表示:"AI正在压缩从人的意图到行动之间的时间。""借助Daybreak这样的工具,防御者也能以火攻火,跟上AI普及的速度。"
Block公布的数据集中在检测工作上。由于每次调查都会保存原始查询证据,团队可以在不到1小时内把拟议的检测规则变更回放到7个月的生产遥测数据上。过去这需要手动重新查询数百个旧案例,因此实际上很少进行。引入自动分诊后,分诊吞吐量提升50%,情报收集和调查也增加了50%。该系统每季度完成约1100个分析师工时的调查,每季度从误报分诊中收回约600个分析师工时。Nettesheim表示:"我们的系统把每一条警报都当作当天唯一的警报来处理。"
模型的使用方式也发生了变化。Block安全团队不再一味使用最新模型,而是为不同任务选择不同模型。基于Daybreak构建的安全框架会把任务分派给合适的模型,并设置让人接手任务或让智能体互相验证结果的接入点。团队持续用内部基准和实际表现评估这套体系,在人工审核才是负责任做法时把工作转交给人。
两起事件说明了效果。一台笔记本电脑上的警报起初看似只是轻微的策略违规。在同行评审阶段,模型追踪了证据中偶然出现的一个指标,并与Block的身份日志进行关联,结果发现了规模大得多的一组问题。Nettesheim说:"一条普通的终端警报最终变成了对一场攻击活动的清除。""这个信号只存在于两款产品的日志交叉之处。"在最近的一次红队演练中,模型在获得关于某内部系统的几条提示后,约用2小时串联出包括SQL注入、权限提升、建立据点、凭据枚举和横向移动在内的完整攻击路径。人类红队通常需要数天。
SentinelOne的数据来自逆向工程。SentinelOne首席AI官(CAIO)Gregor Stewart表示:"顶尖研究人员需要四到六周才能完成的工作,AI现在大约8小时就能以人类水平的产出完成。"过去SentinelOne研究团队只能对最有意思或最重要的威胁进行深入调查,能够逆向分析的软件数量也非常少。可比较的样本少,发现威胁之间关联的机会也就少。分析提速后,研究人员可以在两个看似无关的样本中找到相同组件,并把它作为客户调查的线索。Stewart称之为"一种我们过去根本负担不起的情报"。
这项合作在9月转化为产品。据METAL查阅的SentinelOne 9月3日新闻稿,SentinelOne通过Daybreak Defense Network获取OpenAI模型,扩展了威胁暴露评估服务Wayfinder Frontier AI Services,首个模型是GPT-5.6-Cyber。SentinelOne旗下研究部门SentinelLABS在近期基准测试中认为,GPT-5.6-Cyber在逆向分析fast16等军用级恶意软件方面表现最佳。新服务分为两部分:扫描代码库中的缺陷、代码植入、暴露的密钥和供应链风险的AI代码风险分析,以及将遥测数据与检测规则比对的AI入侵评估。两项功能均以非公开预览形式推出。SentinelOne首席客户官(CCO)Steve Stone表示:"攻击者正越来越多地利用AI,以更快的速度和更大的规模寻找并利用弱点。"
从AI工程师的角度看,两个案例着力之处不在模型性能,而在于把人放在流程中的哪个位置。Stewart说:"唯一无法自动化的是责任。"他指出,改变系统架构的决定仍需要人来把关,而局部修复更适合自动化。Block同样由人主导每个发现的处理顺序:定位代码及其负责人、提出补丁、确认可利用性、验证修复并部署代码变更。Block的判断是,智能体并不掌握组织的背景以及以往决策背后的理由。Nettesheim表示,随着AI的判断在实践中得到验证,"我们会逐步提高风险等级,把它用于更敏感的系统"。
METAL曾报道OpenAI公布Sophos的Daybreak应用案例,也介绍过OpenAI投入250人排查内部漏洞的Defense Factory方式。通过这两个新案例,Daybreak的应用从托管检测与响应扩展到支付企业的内部安全团队和恶意软件研究机构。下一步是让漏洞从一开始就更少出现。Nettesheim表示希望安全团队少花时间打补丁,多做预防性和战略性工作;Stewart则表示,希望把OpenAI的网络能力引入代码编写阶段,让开发人员在构建过程中就解决安全问题。





评论