编辑:KingHZ
【新智元导读】bug颤抖吧!OpenAIAardvark横空出世,已内测数月,发现多CVE,安全从此自动化。
刚刚,OpenAI推出了使用GPT-5寻找和修复安全漏洞的智能体Aardvark。
目前,Aardvark还处于beta测试阶段。
OpenAI称,Aardvark开创了「防御者优先」的新范式:作为自主安全研究智能体,随代码不断演化,为团队提供持续保护(continuous protection)。
OpenAI表示新智能体实战效果出色:
在标准代码库的基准测试中,Aardvark对已知漏洞与人工植入漏洞的识别率达到92%。
通过早期漏洞捕捉、实战化利用验证及清晰修复方案,在不拖慢创新节奏的前提下,Aardvark能强化安全体系。
OpenAI坚信安全能力应该普惠共享,将在持续完善后逐步扩大服务范围。
有意思的是,Aardvark是夜行性的非洲食蚁熊,一种几乎完全以蚂蚁和白蚁为食的独居生物!
它夜间独自吃蚂蚁和白蚁,就像这个GPT-5智能体独自异步解决bug一样。(bug原义是指「小虫」,但在计算机领域,它特指程序或系统中的错误、缺陷或漏洞。)
食蚁熊,(学名:Orycteropus afer),又称土豚、土猪,是管齿目土豚科现存的唯一物种,属土豚属,是活化石动物。
这个名字一语双关,一改OpenAI过去命名风格,让人怀疑:不会是GPT-5命名的吧?
Aardvark的工作原理
Aardvark可不间断地分析源代码仓库,识别漏洞、评估可利用性、划分严重等级,并提出针对性修复方案。
工作原理是监控代码库的提交与变更,在识别漏洞的同时分析其潜在利用方式,并自动提供修复建议。
与传统依赖模糊测试或软件成分分析等程序分析技术不同,Aardvark运用大语言模型的推理能力与工具调用功能,从而理解代码行为并定位漏洞。
它如同人类安全研究员般进行漏洞挖掘:通过阅读代码、分析逻辑、编写运行测试、使用工具链等综合手段完成安全检测。
Aardvark采用多阶段流程实现漏洞的识别、解析与修复——
分析阶段:首先对完整代码库进行全面分析,生成反映项目安全目标与设计架构的威胁模型。
提交commit扫描:比对提交的代码变更与完整代码库及威胁模型,实时检测新增漏洞。在首次接入仓库时,Aardvark会扫描历史记录以识别现存问题,并以逐步解析方式说明发现的漏洞,为人工审核提供带标注的代码。
验证阶段:发现潜在漏洞后,系统会在隔离的沙箱环境中尝试触发漏洞以确认其可利用性。Aardvark会详细描述验证步骤,确保向用户反馈精准可靠、低误报率的分析结果。
修复阶段:Aardvark与OpenAI Codex协同工作,为每个已识别的漏洞生成经Aardvark扫描验证的修复补丁。这些补丁附在检测报告中供人工审核,支持一键高效修复。
不过,某AI安全测试智能体初创公司首席执行官Daniel Knight有个问题:
既然OpenAI在开发编程智能体Codex,为什么他们写的代码会不安全呢?
AI再次解放生产力
AI工程师saen表示这个用例真是完美——
寻找漏洞需要系统性的推理和上下文理解,这恰好是推理模型的强项:AI能思考100多倍的情景,绝对能发现人类遗漏的边缘情况。
此外,Aardvark无缝集成GitHub、Codex及现有工作流程,和开发者协作,既能保障开发效率,又能提供清晰可行的安全洞察。
在整个工作流程,中间就有一个人工审核的步骤,之后还有一个。
人类并没有被排除在外,而是被定位为质量把关的角色。
安全工程师可以松一口气:
与大多数人的看法不同,Aardvark实际上要求在修复程序运行之前,必须由人工进行验证。
这是一种生产力放大器,而不是替代品。
所以,安全工程师不用担心Aardvark,而应该担心的是是否能够跟上这些智能体的工作速度。这才是真正的限制。
在两个月前,安全研究人员Efi Weiss也进行了相关研究。
他们搭建的系统采用多阶段流水线:
(1) 分析CVE通告与代码补丁;
(2) 生成既包含漏洞的测试应用又包含利用代码;
(3) 通过对比漏洞版与已补丁版进行测试来验证利用代码,剔除误报。
将这一流程规模化后,AI可以每天处理130+条CVE信息流,而且比人类研究员更快且更具成本效益。
安全智能体崛起
软件正在吃掉世界,但AI吃掉软件。
大概8年前,黄仁勋如此预测。
软件漏洞已成为企业、基础设施乃至社会面临的系统性风险。
仅2024年,公共漏洞和暴露(CVE, Common Vulnerabilities and Exposures)数量就超过4万例, 年增长率高达38%。
测试表明,只要提交约1.2%的代码就会引入缺陷——这些微小变更可能引发巨大后果。
而威胁更大、对策更少的「零日漏洞」,其价格已从「豪车」飙升至「豪宅」的水平:
2015-2022年各类漏洞利用程序平均价格对比分析
由此可见,利用/发现危险软件漏洞远非易事。
而AI作为一种软件,也存在安全问题,比如,AI浏览器普遍面临「提示词注入」攻击,ChatGPT Atlas已「惨遭毒手」:
AI时代,信息安全日益重要。
众所周知,软件漏洞历来是开发者最头疼的问题,即便借助传统自动化手段(如模糊测试),发现和修复漏洞依旧费时费力。
随着AI在漏洞发现领域不断取得突破,单靠人类开发者将难以跟上节奏。
为什么安全智能体Aardvark 重要?
- 普通企业很难雇到足够的安全专家;
- 每年都有数万漏洞被公开;
- Aardvark能24小时不停地「巡逻」代码库,提前发现问题;
- 它不仅找安全漏洞,还能发现逻辑错误或隐私风险并自动修复。
Aardvark已持续运行数月,同时服务于OpenAI内部代码库及外部alpha合作伙伴。
在OpenAI内部,它成功发现了多个具有实际意义的安全漏洞,有效增强了公司的安全防御能力。合作伙伴特别肯定了其分析深度——Aardvark能精准识别仅在某些复杂条件下才会触发的隐蔽问题。
本月初,基于Gemini Deep Think,谷歌DeepMind打造出一个能自主调试并修复复杂漏洞的AI智能体CodeMender。
为了实现这一目标,CodeMender智能体配备了一套强大的工具,使其在修改代码前能够进行深入推理,并在修改后自动进行验证,确保修复是正确的,且不会引入新的问题或导致功能回退。
AI,或将彻底改变网络安全竞争格局。
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com
本文链接:https://www.jinnalai.com/jiaodian/786285.html


