最近，安全公司 Lasso Security 揭示了一项引起关注的网络安全问题：AI 模型平台 Hugging Face 存在 API 令牌漏洞。这一漏洞让黑客能够轻松获取微软、谷歌、Meta 等巨头公司的令牌，进而访问模型库，威胁到训练数据的完整性，甚至可能导致 AI 模型的窃取和篡改。
发现与漏洞详情
安全人员从安全公司的报告中了解到，Hugging Face 平台上的令牌信息由于写死在 API 中，黑客可以直接从 Hugging Face 及 GitHub 的存储库中获取平台上各模型分发者的 API 令牌。经过调查，他们共发现了 1681 个有效的令牌。
企业组织受影响
通过进一步的资料分析，安全人员成功获得了 723 家企业组织的帐号，其中包括 Meta、微软、谷歌、VMware 及 Hugging Face 官方等知名机构。值得关注的是，其中有 655 个令牌具有写入权限，而 77 个令牌更具备写入多个组织的能力。这让研究人员能够全权控制多家知名公司的模型库，包括 Pythia 的 EleutherAI、Meta Llama 2、Bloom 的 BigScience Workshop 等。
潜在威胁与攻击可能性
安全公司强调，一旦黑客成功控制这些模型库，将会引发多种潜在攻击。这不仅仅限于最基本的窃取模型和数据集，还可能涉及到污染模型本身。这种操控让现有模型"夹带私货"，从而对依赖这些基础模型的应用及公共设施构成威胁。
其他漏洞发现
除了已经公开的令牌漏洞，安全公司还发现了一个有趣的情况：Hugging Face 此前宣布已停用的 org_api tokens 也存在漏洞。稍微修改了代码后，安全人员成功"复活"了这款 API，并下载了平台上多款不公开的模型，包括微软的私有模型。
应对措施与报告情况
目前，安全公司已向相关平台上报了这些漏洞。微软、Meta、谷歌、VMware 等公司也纷纷采取行动，撤销了此前的 API 令牌及暴露的 token。然而，这一事件引起了对全球企业数据安全的广泛关注，提醒我们在追求技术创新的同时，更需要保障网络安全。
