在发布旨在避免潜在的AI起义的新保护措施后，任何担心机器如天网般崛起的威胁的人都可以稍稍放松一下。

非营利组织MITER Corporation与12家顶尖技术公司（包括Microsoft，IBM和Nvidia等）合作推出了Adversarial ML Threat Matrix。

该组织表示，该系统是一个开放框架，旨在帮助安全分析人员发现，警告，响应和应对针对机器学习（ML）系统的威胁。

ML矩阵

微软表示，发布该版本的动机是，全球范围内针对商业ML系统的攻击数量持续增长。该公司对28家主要企业进行了调查，发现几乎所有企业仍未意识到对抗性机器学习可能构成的威胁，其中28家企业中有25家表示他们没有合适的工具来确保自己的安全ML系统。

为了帮助确保此类组织的安全并提供建议，“对抗性ML威胁矩阵”旨在帮助安全团队增强防御ML系统的攻击的能力。

Matrix包含了Microsoft和MITER多年来发现的许多过去的漏洞和对手行为，以及Microsoft在安全领域的大量专业知识。

微软在博客中说：“我们还发现，在攻击机器学习系统时，攻击者将网络钓鱼和横向移动等“传统技术”与对抗性机器学习技术结合使用。”

Adversarial ML威胁矩阵GitHub存储库现已开放，供有兴趣了解更多信息的企业使用。

“在机器学习安全方面，公共和私人努力与责任之间的障碍正在模糊；诸如国家安全之类的公共部门挑战将需要私人行为者以及公共投资之间的合作。” MITRE机器学习研究总监Mikel Rodriguez指出。

“因此，为了帮助应对这些挑战，MITRE致力于与Microsoft等组织和更广泛的社区合作，确定整个机器学习供应链中的关键漏洞。此框架是帮助将社区团结在一起的第一步使组织能够从整体上考虑在保护机器学习系统方面出现的挑战。”