AI-Infra-Guard
腾讯朱雀实验室在GitHub上开源发布的安全检测工具,用于排查AI模型、智能体、MCP服务器中的安全漏洞。
简单来说
AI-Infra-Guard(英文缩写A.I.G)是腾讯安全部门旗下朱雀实验室开发、并在GitHub上免费公开的安全检测工具。它会逐一检查驱动AI运转的各个组成部分,把发现的隐藏漏洞列成清单。
就像建造一栋楼时要分别检查地基、门窗、管道一样,这款工具把AI拆分成五个方面来排查:负责对话的核心程序本身、包裹这个程序并指挥它执行任务的程序、被调用的各种配套工具、配套工具之间相互传递信息的通道,以及实际正在运行的线上服务。可以把它理解为企业在上线新AI服务前,用来确认门窗是否都锁好的一份检查清单。
随着AI越来越多地生成文件、安排日程、调用外部工具,可能遭受攻击的范围也从单一的核心程序扩大到了整个周边组件。这款工具的思路不是等出问题后再补救,而是平时就进行常态化排查。
在报道中是这样出现的
文章介绍称,'AI-Infra-Guard(A.I.G)'是腾讯朱雀实验室在GitHub上以Apache 2.0许可证开源发布的工具。虽然名字听起来像是数据中心用的硬件安全设备,但实际上是一款需要安装使用的软件检测程序。开发方为腾讯旗下的朱雀实验室,发布渠道是GitHub。
亲手试一试
用安装脚本启动A.I.G后,在浏览器中打开提示的地址,即可进入检测界面。如果要检测的服务正在实际运行,输入该服务的网络地址即可开始扫描;若要检查工具连接通道(MCP服务器),可以输入远程地址,也可以将源代码打包上传。不过据资料显示,目前该工具还没有访问验证机制,因此不应将其部署在直接暴露于外部的环境中。