2025年5月

vLLM 是一个高吞吐量、低内存占用的开源 Python 库，专为大型语言模型的推理和服务设计。它通过优化的内核和高效的资源管理，支持 AI 开发者在各种硬件平台上部署和运行大型语言模型，目前达到了46.4K的star数量。vLLM 的广泛应用使其成为 AI 社区的重要工具，但也因此成为攻击者的潜在目标。