近期, 网络安全领域迎来了一次前所未有的挑战, 开源代码组件库就成了黑客攻击的新焦点了, 他们不仅会去通过伪造软件包来发动供应链攻击, 更把目标锁定了人工智能, 还有机器学习模型上, 手段之狡猾真是让人咋舌不已。在最近开展的一项研究当中,有安全领域的专家揭露了一件事情, 这件事是关于有人针对阿里云AI实验室去开发那种工具包进行恶意攻击的。那个搞攻击的人花了不少心思, 专门做了三个看起来完全没有任何破绽、伪装得非常像真的那种东西, 这些东西其实是带有恶意的软件包。然后他们就把这些软件包成功地上传到了那个叫做Index或者叫PyPI的平台上面去了。表面上看过去, 这些软件包好像是阿里云AI实验室官方发布的那些SDK软件开发工具包, 但是实际上这里面隐藏了很多看不见的危险机关, 里面的那一点内容, 根本就没有一点合法的、正经的功能存在在里面。这些恶意软件包利用格式保存的机器学习模型作为掩护, 悄无声息地从用户的环境里窃取信息, 然后把窃取到的数据悄悄地发送到由攻击者控制的服务器上去。作为官方的序列化模块, 它常用于存储与库相关的机器学习模型, 而随着技术在AI开发者群体中的普及, 这种格式也成为了黑客眼里的热门目标。此次针对攻击事件的核查显示, 涉及到的三个恶意软件程序名称依次为 ai-labs--sdk、ai-labs--sdk 以及 -ai-labs-sdk。不过需要指出的是, 尽管这些软件包在发布上线之后的不到一天时间里就被查明情况并且被实施了下架操作, 但是统计结果表明, 上述软件组合计的下载行为仍然达到了1600次之多。这些恶意SDK会使用.py脚本来加载包含恶意代码的模型, 而这些模型所执行的编码代码的目的是窃取用户的敏感信息, 例如登录凭证、网络地址以及组织名称等。大家需要注意的是, 这种恶意的程序代码好像对中国的那个搞开发的人特别有兴趣, 为啥子? 因为阿里云那个SDK工具在咱中国玩开发的那一帮人里面, 用的人特别多, 基数很大。但是, 保护系统安全的专家都在提醒大家说, 这种搞攻击的老办法其实一样可以对全世界各地做开发的人动手, 只要换个别的忽悠人的东西作为幌子就行。这就说明了一件更吓人的事, 就是只要那些搞编程写代码的人用了别人弄出来的开源的东西包, 那么他们就都有可能变成黑客下一波要抓来搞事的下一个对象。这次攻击事件, 不只能看出的机器学习模型文件格式存在安全风险的问题。并且还揭示了目前安全工具方面没能有效检测出恶意ML模型的情况。AI技术发展得不断前进。黑客利用ML模型发起攻击的办法也会越来越多变的。还会更加具有隐蔽性的特点。所以开发人员还有安全专家必须保持高度的警惕性。需要把安全防护措施加强的力度提上去。这样才能应对接下来可能发生的各种类型的网络攻击事件。