Tags
2 个页面
大模型
NVIDIA 发布 Qwen3.6-35B-A3B-NVFP4:面向 vLLM 部署的 FP4 量化版本
大模型量化详解:FP16、Q8、Q5、Q4 到 Q2 怎么选?