微软公司开放 AI 系统工具 Counterfit 源代码

近日，微软公司开源系统了 AI 安全性风险评价专用工具 Counterfit，该专用工具致力于协助开发者检测 AI 和深度学习系统的安全系数。该企业表明，Counterfit 能够使组织开展评定，以确保其业务流程中应用的优化算法是靠谱和值得信赖的。

当今，人工智能技术技术性正愈来愈多地运用在诊疗，金融业和国防安全等受管控的领域中。可是，组织在选用风险性减轻对策层面处在落伍情况。一个微软公司的调研发觉，一部分公司客户表明，她们沒有适合的資源，以确保她们的 AI 系统的可靠性和安全系数。

微软公司表明，Counterfit 问世于该企业评定 AI 系统是不是存有漏洞的要求，目地是积极维护 AI 服务项目。该专用工具最初是专业为总体目标 AI 模型撰写的攻击脚本制作集，随后演化为自动化设备以对好几个系统开展规模性标准检测。

在最底层，Counterfit 是一个cmd应用工具，为竞技性架构出示了一层，并事先载入了可用以躲避和盗取模型的优化算法。Counterfit 寻找使安全社区能够浏览已公布的攻击，另外出示一个页面，根据该页面能够搭建，管理方法和进行模型攻击。

当应用 Counterfit 在 AI 系统上开展网站渗透测试时，安全性精英团队能够挑选默认，设定任意主要参数或自定每一个主要参数以遮盖普遍的漏洞。具备好几个模型的组织能够应用 Counterfit 的内嵌自动化技术作用开展扫描仪，并能够挑选数次扫描仪，以建立实际操作标准。

Counterfit 还出示日志纪录以纪录对于总体目标模型的攻击。如同微软公司强调的那般，遥测技术很有可能会促进工程项目精英团队提升对系统常见故障方式的掌握。

在內部，微软公司将 Counterfit 作为其 AI 鲜红色精英团队经营的一部分，并在 AI 设计阶段中应用，以在漏洞资金投入生产制造以前发觉漏洞。该企业还表明，它早已与好几家顾客开展了 Counterfit 的检测，在其中包含航天航空大佬空客公司（Airbus），该企业已经开发设计根据 Azure AI 服务项目的 AI 服务平台。

“人工智能技术在工业生产中的应用愈来愈多”。空客公司高級网络信息安全研究者 Matilda Rhode 在一份申明上说：“确保这类技术性的安全性尤为重要，尤其是要掌握在难题室内空间中能够在哪里完成特点室内空间攻击。”

大部分，公司期待大家坚信 AI 不是受控制，是安全性的。1 月公布的 Gartner 的“管理方法 AI 风险性的 5 大优先选择事宜”架构中的一项提议是，组织“ 对于攻击性攻击采用特殊的 AI 安全防范措施，以确保抵御和复原力。”这个科学研究企业可能，到 2024 年，执行专业的 AI 风险管控操纵的组织将防止负面信息的 AI 結果的产生頻率是未清除负面信息結果的二倍。”

依据 Gartner 的 一份汇报，到 2022 年，全部 AI 互联网攻击中有 30％将运用训炼数据信息中毒了，模型偷盗或竞技性样版攻击以深度学习为驱动力的系统