最近，网络安全研究人员发现了一种新型的攻击方式，被称为LLMjacking。据称，攻击者利用窃取的云凭证对云托管的大型语言模型（LLM）服务进行攻击，目的是向其他威胁行为者出售访问权限。研究人员指出，一旦攻击者获得初始访问权限，他们会窃取云凭证并进入云环境，试图访问云提供商托管的本地LLM模型。具体来说，攻击者的目标是Anthropic的本地Claude（v2/v3）LLM模型。攻击路径涉及入运行易受攻击版本的Laravel框架的系统，然后获取亚马逊云服务（AWS）凭证以访问LLM服务。
为了实施这种攻击，攻击者使用了一个开源的Python脚本，用于检查和验证Anthropic、AWS Bedrock、Google Cloud Vertex AI、Mistral和OpenAI等产品的密钥。研究人员解释说，在验证阶段并没有真正运行任何合法的LLM查询，而是仅仅做了足够的工作来弄清楚凭证的功能和任何配额。此外，攻击者还被发现查询日志设置，很可能是为了在使用被攻陷的凭证运行其提示时规避检测。这种攻击方式与注重提示注入和模型污染的攻击不同，而是允许攻击者在云账户的所有者不知情或未经同意的情况下利用他们对LLMs的访问权限进行货币化。
据Sysdig表示，这种攻击可能导致受害者每天超过46,000美元的LLM消耗成本。研究人员指出，使用LLM服务可能很昂贵，这取决于模型和被输入的令牌。通过最大化配额限制，攻击者还可以阻止受损组织合法使用模型，从而干扰业务运营。因此，建议组织启用详细日志记录，并监视云日志以发现可疑或未经授权的活动，同时建立有效的漏洞管理流程以防止初始访问。
