影音娱乐
4000 块搞定 64G 显存 AI 集群!四卡 V100 + 液冷,这性价比绝了
来源:哔哩哔哩公开内容导航,点击可跳转 B 站官方页面观看。分类:影音娱乐。分区:日常。富士通 CX400M4 四卡底板 + 液冷 + 电源 ≈ 6000 元 4×V100 16GB = 64GB 显存,X86 生态,NVLink 互联 📊 实测跑 Qwen3.6-35B ・llama.cpp:~90 tokens/s,显存占用低,70B 都能装 ・VLLM:~108 tokens/s,略快但资源占用高,35B 极限 💡 为什么我更推荐 llamacpp? 资源占用极低,70B 4bit 随便装 配置比 VLLM 简单太多 生态兼容性好,X86 无脑部署 🔧 避坑指南(视频里提到的) ・透明本站不提供在线播放与视频下载,仅作信息导航。