伪造阿里云AI SDK中的投毒模型凸显AI供应链安全挑战
内容提要
近年来，攻击者通过伪造开源软件包，尤其是恶意AI框架和机器学习模型，针对开发者发起攻击。最近，黑客在PyPI上传伪装成阿里云AI SDK的恶意包，利用Pickle格式窃取代码。尽管Hugging Face等平台尝试检测此类威胁，但安全工具仍不够成熟，开发者的计算机面临安全风险。
关键要点
-
攻击者通过伪造开源软件包，尤其是恶意AI框架和机器学习模型，针对开发者发起攻击。
-
黑客在PyPI上传伪装成阿里云AI SDK的恶意包，利用Pickle格式窃取代码。
-
ReversingLabs发现的恶意包没有合法功能，隐藏在Pickle格式的恶意ML模型文件中。
-
Pickle格式被滥用，攻击者利用其在Hugging Face上托管包含恶意代码的投毒模型。
-
Hugging Face采用Picklescan工具检测和阻止恶意代码，但仍有绕过检测的方法。
-
PyPI托管的软件包使得检测隐藏在软件包内的投毒模型更加困难。
-
恶意SDK通过__init__.py脚本加载恶意PyTorch模型，窃取用户信息和其他敏感数据。
-
安全工具在恶意ML模型检测方面尚处于初级阶段，缺乏必要的功能。
延伸解读
AI供应链安全的紧迫性
随着AI技术的快速发展，供应链安全问题愈发突出。攻击者利用伪造的开源软件包，尤其是恶意AI框架，针对开发者发起攻击，可能导致敏感信息泄露。因此，开发者需提高警惕，定期审查所使用的库和工具，确保其来源的可信性。
Pickle格式的安全隐患
Pickle格式在Python中广泛使用，但其被滥用的风险也在增加。攻击者通过将恶意代码隐藏在Pickle文件中，利用开发者对该格式的信任进行攻击。开发者应关注使用的模型和库，避免盲目依赖，尤其是在处理敏感数据时。
检测工具的局限性
尽管Hugging Face等平台尝试使用工具检测恶意代码，但现有的安全工具仍处于初级阶段，难以全面识别潜在威胁。开发者在使用开源模型时，应结合多种安全措施，定期更新检测工具，以降低被攻击的风险。
延伸问答
黑客是如何伪造阿里云AI SDK的恶意包的？
黑客在PyPI上传伪装成阿里云AI SDK的恶意包，利用Pickle格式隐藏恶意代码，窃取用户信息。
Pickle格式在这次攻击中有什么作用？
Pickle格式被滥用来隐藏恶意代码，使得安全工具难以检测，攻击者利用其在ML模型中执行恶意行为。
Hugging Face是如何应对恶意代码的？
Hugging Face采用了开源工具Picklescan来检测和阻止Pickle文件中的恶意代码，但仍有绕过的方法。
开发者面临哪些安全风险？
开发者的计算机可能包含云服务凭证和API令牌，容易被攻击者入侵并横向移动。
恶意包在被发现前下载了多少次？
这些恶意包在被发现并下架前不到一天的时间内就被下载了1600次。
当前安全工具在检测恶意ML模型方面的能力如何？
安全工具在恶意ML模型检测方面尚处于初级阶段，缺乏必要的检测功能。
