Tags

5 ページ目

GGUF

Qwen3.6-35B-A3B をローカル展開：GGUF、llama.cpp、VRAM、API 検証

RTX 3060 12GB向けローカルLLM：量子化・コンテキスト・実測で選ぶ

Qwen3.6ローカル導入のVRAM：27Bと35B-A3Bの量子化を実測する

Gemma 4 ローカル導入時のVRAM：E2B・E4B・12B・26B・31Bの選び方

Hugging Face から GGUF モデルをダウンロードし、Ollama にインポートします。