AI大语言模型再陷入危机———新型网络攻击LLMjacking深度剖析
内容提要
本文介绍了LLMjacking，一种针对云端大语言模型服务的新型威胁。攻击者利用窃取的云服务凭证对托管在云端的大语言模型执行恶意操作，可能导致高额费用。文章提供了检测和防御此类威胁的关键策略。
延伸解读
LLMjacking攻击的独特之处
与传统的云凭证窃取不同，LLMjacking专门针对云端大语言模型服务。攻击者利用从存在CVE-2021-3129漏洞的Laravel系统窃取的凭证，访问云环境中的LLM模型，如Anthropic Claude。他们不仅自己滥用，还可能将访问权转售给其他犯罪团伙，而费用由账户所有者承担。这种攻击结合了凭证泄露和AI服务滥用，凸显了云安全的新挑战。
攻击者的隐蔽手法
攻击者通过合法的API请求测试访问边界，例如故意设置无效参数max_tokens_to_sample为-1，触发ValidationException而非AccessDenied，从而确认凭证有效且服务已启用。他们还调用GetModelInvocationLoggingConfiguration了解日志配置，以规避安全审查。这些手法表明攻击者精心设计，旨在避免触发警报，增加了检测难度。
潜在的财务影响与业务中断
LLMjacking可能导致目标账户每天产生超过46,000美元的费用。攻击者通过最大化配额限制，在多个区域滥用Anthropic Claude 2.x模型，消耗大量token。除了直接的经济损失，攻击者还可能耗尽配额，阻止目标组织合法使用模型，从而中断业务运营。这种双重威胁使得及时检测和响应至关重要。
检测与防御的关键策略
为了应对LLMjacking，组织应实施云日志检测和详细数据记录。例如，使用Falco、Sysdig Secure或CloudWatch Alerts监控运行时活动，并分析云日志中的侦察策略。启用详细日志记录可以捕获模型调用和token使用情况，帮助识别异常。文中提供的Falco规则可检测Bedrock模型侦察活动，基于ValidationException错误码，及时发出警告。
Q&A
什么是LLMjacking？
LLMjacking是一种新型网络攻击，攻击者利用窃取的云服务凭证对云端大语言模型（LLM）执行恶意操作。
LLMjacking攻击的主要目标是什么？
LLMjacking攻击主要针对基于LLM的人工智能系统，特别是Prompt提示滥用和训练数据篡改。
LLMjacking攻击可能导致什么后果？
LLMjacking攻击可能导致目标账户每天产生超过$46,000的费用，并可能中断业务运营。
如何检测LLMjacking攻击？
检测LLMjacking攻击的关键策略包括云日志检测和详细数据记录，使用工具如Falco和CloudWatch Alerts。
攻击者如何获取云服务凭证？
攻击者通过利用存在安全漏洞的Laravel版本窃取云服务凭证，进而访问云端大语言模型。
云服务提供商的请求机制对LLMjacking攻击有效吗？
云服务提供商的请求机制对威胁行为者而言只是减速带，并非有效的防御措施。
