さて、ここで推論にどのように意味があるのかというと、私たちはH200で量子化されたQ8 Qwen Coder 3およびKimi K2インスタンスをほとんど収容できませんでした。Kimi K2 @ Q8はコンテキストのkvキャッシュの余地を残しませんでした。これらのモデルは単一の8xB200インスタンスに収まるでしょうか？おそらく、今週試してみます。