据报道 AMD 苹果和高通 GPU 面临新的监听 LLM 响应的漏洞
AMD、Apple 和 Qualcomm 的消费类 GPU 似乎无法避免漏洞，因为据报道专家发现了一种名为“ LeftoverLocals ”的威胁，该威胁可以从 GPU 内存中提取数据。
新出现的 GPU 漏洞“LeftoverLocals”已影响主要供应商，影响苹果、AMD、高通 GPU，并可能造成毁灭性影响
任何硬件中出现漏洞都是科技行业经常目睹的事情，而且当涉及到受其影响的人数时，其规模通常相当高。一个典型的例子是最近披露的英特尔崩溃漏洞，该漏洞使该公司数千名 CPU 用户面临风险。然而，这一次，跨所有平台(例如移动和桌面)的 GPU 消费者应该谨慎行事，因为安全研究人员 Trail of Bits 发现了一个漏洞，有可能从板载内存中窃取“关键数据”。
据报道， 随着 AI 芯片占据生产优先地位，NVIDIA 游戏 GPU 面临全球短缺
该漏洞被命名为“LeftoverLocals”，它不是针对消费者应用程序，而是通过渗透 LLM 和 ML 模型中使用的 GPU 来完成工作，这是一个提取数据具有更大意义的领域，因为模型训练涉及使用敏感数据数据。卡内基梅隆大学的专家正在对 LeftoverLocals 进行跟踪，据说受其影响的主要 GPU 供应商已经共享了这些信息，其中包括苹果、AMD、英特尔、高通和 Imagination 等。
人们发现，在 AMD 的 Radeon RX 7900 XT 上运行 70 亿个参数模型时，LeftoverLocals 每次 GPU 调用数据可能会泄漏大约 5.5 MB。Trail of Bits 表示，数据泄露的速度足以重新创建完整的模型，这就是为什么该漏洞在人工智能领域构成高风险，因为它可能对个别公司造成毁灭性的打击，尤其是那些围绕培训法学硕士。剥削者有可能利用人工智能的巨大发展，从而产生更大的影响。
LeftoverLocals 依赖于一件事，那就是 GPU 如何隔离其内存，这与 CPU 框架完全不同。因此，通过可编程接口获得对 GPU 的共享访问权限的攻击者可以窃取 GPU 内的内存数据，这会带来多种安全后果。LeftoverLocals 分为两个不同的进程，一个 Listener 和一个 Writer，以下是它们的工作原理：
总体而言，可以使用两个简单的程序来说明此漏洞：侦听器和写入器，其中写入器将金丝雀值存储在本地内存中，而侦听器读取未初始化的本地内存以检查金丝雀值。侦听器重复启动从未初始化的本地内存读取数据的 GPU 内核。Writer 重复启动 GPU 内核，将金丝雀值写入本地内存。
对于普通消费者来说，LeftoverLocals 可能不需要担心，但对于那些与云计算或推理等行业相关的人来说，该漏洞可能是致命的，特别是在法学硕士和机器学习框架的安全性方面。