NDSS 2025|Prompt泄露风险:抖音集团安全研究团队揭露多租户KV缓存共享漏洞
抖音集团安全研究团队和南方科技大学可信系统安全实验室合作的研究论文揭示了大语言模型安全领域服务框架的侧信道漏洞,利用多租户场景下的KV缓存共享机制精确恢复了用户提示词。本工作成果《I Know What You Asked: Prompt Leakage via KV-Cache Sharing in Multi-Tenant LLM Serving》已被安全领域顶级会议NDSS 2025接收。
LLM安全 | 大语言模型应用安全入门
一、背景 2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些高度专业化的工作,比如法律服务和医疗诊断咨询。然而,正如任何新技术一样,LLM 也带来了新的挑战和问题。我们如何确保它们的安全性,如何防止它们被用于不良目的?这些都是亟待面临的问题。 在本文
守护多元产品 保障各方用户
我们已为抖音、今日头条、西瓜视频等各产品线,持续输出安全与风控技术与能力
今日头条
抖音
西瓜视频
懂车帝
GogoKid
皮皮虾
飞书
番茄小说
激萌
轻颜相机
日均保护被攻击帐号安全
450
日均拦截黑产私信或评论骚扰
1,620
日均拦截数据爬取
38.64亿
全方位保障
为字节跳动的用户提供全方位的安全保障
隐私安全
我们致力于保护所有用户的隐私安全
字节跳动深知个人信息对您的重要性,我们从产品设计入手,在产品功能、隐私政策、安全技术等多方面着力提升个人信息保护力度。在您使用我们的产品或服务时,我们将按照法律法规的规定,保护您的个人信息及隐私安全。
了解详情
无恒实验室
攻防无恒 因势改变
无恒实验室是由字节跳动资深安全研究人员组成的专业攻防研究实验室,实验室成员具备极强实战攻防能力,研究领域覆盖渗透测试、APP安全、隐私保护、IoT安全、无线安全、漏洞挖掘等多个方向,致力保障全体字节跳动的用户安全。
了解详情