微软周二宣布推出一款能够自主分析并分类软件的人工智能(AI)代理系统,旨在提升恶意软件检测能力。这款基于大语言模型(LLM)的自主恶意软件分类系统目前仍处于原型阶段,被微软内部代号命名为"愤怒计划"(Project Ire)。
系统工作原理
微软表示:"该系统自动化实现了恶意软件分类的黄金标准——在没有任何来源或目的线索的情况下,对软件文件进行完整的逆向工程。它使用反编译器等工具分析输出结果,并判断软件是恶意还是良性的。"
该系统采用专用工具对软件进行逆向工程,执行从低级二进制分析到控制流重建、再到代码行为高级解释的多层次分析。微软指出:"其工具使用API使系统能够通过多种逆向工程工具更新对文件的理解,包括基于'弗雷塔计划'(Project Freta)的微软内存分析沙箱、定制和开源工具、文档搜索以及多种反编译器。"
"弗雷塔计划"是微软研究院的一项倡议,可在内存审计期间对实时Linux系统的内存快照进行"未检测恶意软件的发现扫描",如rootkit和高级恶意软件。
多步骤评估流程
评估过程分为多个步骤:
- 自动逆向工程工具识别文件类型、结构及潜在关注区域
- 系统使用angr和Ghidra等框架重建软件控制流图
- 大语言模型通过API调用专用工具识别并总结关键功能
- 系统调用验证工具对照证据核实发现结果,对文件进行分类
系统会生成详细的"证据链"日志,记录得出结论的过程,使安全团队能够在出现错误分类时审查和改进流程。
测试表现优异
在"愤怒计划"团队对公开可获取的Windows驱动程序数据集进行的测试中,分类器正确标记了90%的文件,仅将2%的良性文件误判为威胁。对近4000个"高难度目标"文件的二次评估显示,系统正确分类了近90%的恶意文件,误报率仅为4%。
微软表示:"基于这些早期成功,'愤怒计划'原型将在微软Defender组织内部作为二进制分析器用于威胁检测和软件分类。我们的目标是扩展系统的速度和准确性,使其能够正确分类来自任何来源的文件,即使是首次遇到的样本。最终愿景是实现大规模内存中的新型恶意软件直接检测。"
微软漏洞赏金计划创纪录
微软同时宣布,2024年通过漏洞报告计划向来自59个国家的344名安全研究人员发放了创纪录的700万美元赏金。2024年7月至2025年6月期间共提交了1469份符合条件的漏洞报告,最高个人赏金达20万美元。去年,该公司向来自55个国家的343名安全研究人员支付了660万美元赏金。