多款主流GPU被发现漏洞 或泄露AI大模型数据_3DM单机

日前据报道，安全研究人员Trail of Bits发现了一个漏洞，有可能从GPU内存中窃取“关键数据”，英伟达、苹果、AMD和高通等多个型号的消费性GPU受到影响。

该漏洞被命名为“LeftoverLocals”，这个漏洞不只是针对消费者应用程序，而是通过侵入大语言模型（LLM）和机器学习（ML）模型中使用的GPU来完成任务。由于模型训练涉及敏感数据使用，因此提取数据更危险。

卡内基梅隆大学（Carnegie Mellon University）的专家正在对LeftoverLocals进行跟踪，据称该信息已经被受其影响的主要GPU供应商共享，其中包括英伟达、苹果、AMD、Arm、英特尔、高通和Imagination等。

在AMD Radeon RX 7900 XT上运行70亿参数量模型时，LeftoverLocals漏洞在GPU每一次调用数据时可能会泄漏约5.5MB数据，在llama.cpp上运行7B模型时，每次LLM查询总共会泄漏约181MB数据。这些信息足以高精度地重建大语言模型响应。

LeftoverLocals相当依赖GPU如何隔离其内存，而这与CPU框架不同，因此通过可编程接口获得对GPU共享访问权限的攻击者可以窃取GPU内的内存数据，这将带来多种安全后果。

对于普通消费者来说，LeftoverLocals可能不值得担心，但对于云端运算或推理等产业的相关人员来说，会使LLM和ML框架的安全性存在疑虑。