✍️ Gate 广场「创作者认证激励计划」进行中!
我们欢迎优质创作者积极创作,申请认证
赢取豪华代币奖池、Gate 精美周边、流量曝光等超 $10,000+ 丰厚奖励!
立即报名 👉 https://www.gate.com/questionnaire/7159
📕 认证申请步骤:
1️⃣ App 首页底部进入【广场】 → 点击右上角头像进入个人主页
2️⃣ 点击头像右下角【申请认证】进入认证页面,等待审核
让优质内容被更多人看到,一起共建创作者社区!
活动详情:https://www.gate.com/announcements/article/47889
vLLM Recipes 网站完成重大重新设计,提供模型与硬件优化部署方案
ME News 消息,4 月 22 日(UTC+8),vLLM 项目宣布其社区维护的配置方案库 vLLM Recipes 网站已完成重大重新设计。新版网站旨在帮助用户快速部署和运行大型语言模型,核心新增功能是为"如何在特定硬件上运行特定模型以完成特定任务"这类问题提供可点击的答案。网站采用了类似 HuggingFace 的 URL 风格,用户可通过替换模型 URL 中的域名部分直接跳转到对应的优化方案页面。该平台提供了针对 Qwen3.6-35B-A3B、Kimi-K2.6 等多种模型,以及 NVIDIA H100/H200/B200/B300、AMD MI300X/MI325X/MI355X 等多种 GPU 硬件优化后的 \vllm serve\ 命令行指令。用户可按 Arcee AI、百度、字节跳动、DeepSeek、Google、Meta、微软等提供商浏览方案。该平台与 vLLM 完全兼容,并提供了到官方文档、GitHub 仓库和完整模型硬件兼容性列表的链接。(来源:InFoQ)