24GB級GPUを持っているなら、30B前後のローカルAIは「動くかどうか」より「何をさせるか」で選ぶ段階に入ります。

‍

Muse Glimmer 30BとQwen3.8-27Bは、どちらもDense型で画像を理解し、ローカル運用とエージェント用途を意識したモデルです。

しかし、必要ファイル、長文設計、動画対応、推論基盤の成熟度は同じではありません。

‍

Muse GlimmerはMetaが2026年8月に公開した約29.6Bモデルで、消費者向けハードウェア上の常駐エージェントを明確な用途に掲げています。

‍

公式GGUFは24GBを意識し、テキスト本体、視覚エンコーダー、投機的デコード用drafterを別ファイルで組み合わせます。

‍

Qwen3.8-27Bは27Bのネイティブ視覚言語モデルで、画像と動画、長い文脈、コーディングや業務タスクを広く扱います。

‍

本稿では公開値と編集上の推奨を分け、24GB GPUと32GB以上のユニファイドメモリで何が現実的かを整理します。

公開直後で完全に揃った比較実測は少ないため、他人のtok/sを並べるのではなく、自分の端末で再現できる評価方法まで示します。

Muse Glimmerは約29.6BのDense Causal Transformerに、約1.8BパラメータのViT-G/14視覚エンコーダーを組み合わせています。

‍

入力はテキストと画像、出力はテキスト。

公式のコンテキストは131,072以上で、ツール呼び出し、複数段階の推論、失敗からの回復、100以上の言語を訓練対象として挙げています。

‍

Metaが強調するのは、単発のチャット性能より常駐エージェントです。

ローカルでスケジュール、ファイル、コード、画面や文書を扱い、ツールが失敗した時に再試行する用途を想定します。

ネットワークがなくても動かせることは魅力ですが、外部サービスへ接続するツールを使えば、その通信と権限は別に管理しなければなりません。

‍

Qwen3.8-27BもDense型ですが、画像だけでなく動画理解を公式に掲げます。

ネイティブコンテキストは262,144で、最大100万へ拡張可能。

思考モードを切り替え、reasoning_effortを調整できる設計です。

公式モデルカードはコーディング、専門業務、調査、長時間のエージェント実行を主な改善領域として示しています。

Qwenのモデルカードには両モデルを含むベンチマーク表がありますが、すべての項目がMuseで測定されているわけではありません。

‍

公式表でQwenが高い項目があっても、量子化版の日本語OCRや自分のコードベースで同じ差になる保証はないでしょう。

‍

ベンチマークは候補を絞る資料にとどめ、採用判断は実データに近い評価へ移します。

Muse Glimmerの公式GGUFは構成が明快です。

‍

Q4_K_Mのテキスト本体は16.8GB、画像入力に必要なperception encoderは1.4GB、任意のDFlash drafterは1.6GB。

公式リポジトリは作業コンテキストを含む目安として、テキストのみ約17GB、視覚付き約19GB、視覚とdrafter付き約20GBを示します。

‍

品質寄りのDynamic Q4_K_XLは19.7GBです。

視覚とdrafterを足すと公式目安は約23GBなので、24GB VRAMでは数字上収まっても長いコンテキストや他アプリの余白が小さくなります。

最初から最大構成を選ぶより、16.8GB版＋視覚、16Kまたは32Kコンテキストで安定性を測る方が安全です。

Qwen3.8-27Bの公式ベースウェイトはBF16で、4bit GGUFはggml-org、LM Studio Community、Unslothなどの配布があります。

‍

Q4_K_Mはおおむね17〜18GBですが、変換方法、埋め込み、メタデータで容量が違います。

公式Qwenのモデルカードがすべての量子化品質を保証しているわけではないので、配布元とコミット、チャットテンプレートを記録してください。

‍

24GB NVIDIA GPUでは、どちらもQ4が候補になります。

Museは公式の一式が示されているため見積もりやすく、Qwenは選ぶ量子化と視覚対応ファイル、KVキャッシュ設定を個別に確認します。

重みが18GBなら残り6GBを自由に使えるとは限りません。ドライバ、計算用バッファ、KVキャッシュ、画面表示が消費します。

‍

32GB以上のApple Siliconでは、ユニファイドメモリをCPUとGPU、OSで共有します。

32GB Macは32GB VRAM相当ではありません。

メモリプレッシャーとスワップを監視し、他アプリを閉じ、短い文脈から始めます。

MLX対応があっても、GGUFと同じ量子化名、速度、視覚入力になるとは限らないため、フレームワークごとに評価します。

画像付き文書では、モデル本体の能力だけでなく入力経路が成否を分けます。

‍

Museの公式GGUFは画像用mmprojを分離し、llama.cppでは対応するマルチモーダル実行方法が必要です。

Qwenもモデルカード上は画像・動画対応ですが、利用するローカルアプリが視覚エンコーダーと動画入力を実装していなければ、テキスト機能しか使えません。

‍

画像評価は、単純な写真説明だけでは不十分です。

日本語の領収書、表を含むPDF、スクリーンショット、図表、縦書き、細い注釈を用意します。

‍

① 文字の転記

② 表の行列対応

③ 画像内の位置関係

④ 質問への根拠

⑤ 読めない箇所を推測せず示せるか

‍

上記を別々に採点します。

‍

長文ではQwenのネイティブ262Kが仕様上優位ですが、24GBで常用できる長さとは限りません。

‍

Museの131K以上も同様です。8K、32K、64Kへ伸ばし、ピークメモリ、入力処理時間、最初の回答までの時間、中央部情報の再現率を測ります。

‍

最大値へ設定して短い会話を使うだけなら、余分なキャッシュが速度と余白を損なう場合があります。

‍

日本語評価は、一般会話より業務で誤りやすい条件を使います。

社名と製品名を含む要約、敬語の書き換え、曖昧な主語、JSON抽出、数字と単位、英日混在の文書が有効です。

Museは100以上の言語での訓練を掲げ、Qwenも多言語用途を想定していますが、日本語の優劣を公式説明だけで断定できません。

‍

コーディングは、小さなアルゴリズム問題より既存リポジトリの修正で測ります。

テスト失敗の原因分析、複数ファイル変更、型エラー修正、ツールの再試行を同じ時間制限で実行します。

Qwenの公式ベンチマークはコード領域を強く訴求しますが、Museはローカルエージェントと失敗回復を設計の中心に置きます。

実装成功率と人の修正時間で選ぶべきです。

Muse Glimmerの公式GGUFリポジトリは、llama.cpp build b10353以降を必要とします。

‍

古いビルドはモデル構造を認識せず、読み込み自体に失敗します。

画像入力にはテキスト本体だけでなくmmprojが必要で、DFlashは任意です。

モデルが読み込めない時は設定を触る前にバージョンを確認してください。

‍

Ollamaはモデル取得とローカルAPI化を簡単にし、LM StudioはGUIでメモリ見積もりとチャットを試しやすい選択肢です。

ただし「モデル一覧に表示される」と「画像入力、推論強度、ツール呼び出しが公式想定どおり動く」は別です。

アプリのリリースノート、対応チャットテンプレート、マルチモーダル設定を確認します。

‍

Qwen3.8-27BはTransformers、vLLM、SGLangなどを公式に案内し、GGUF経由でllama.cpp、Ollama、LM Studioを選べます。

サーバー用途では同時実行、KVキャッシュ、バッチ処理が重要になり、個人PCの単一チャットとは最適設定が変わります。

24GB GPUで複数ユーザーを受ける場合は、量子化を下げるか文脈上限を制限します。

‍

導入手順は共通です。

① 公式モデルカードとライセンスを保存

② 配布元とハッシュを記録

③ Q4と短い文脈で起動

④ テキスト、画像、ツール呼び出しを別々にテスト

⑤ 連続運転で温度・速度・メモリを確認

⑥ 必要な機能だけ有効化します。起動、品質、速度、安定性を一度に改善しようとすると原因が見えません。

Muse Glimmerは24GB内で視覚とdrafterまで組み合わせる公式構成があり、ローカル常駐エージェントを早く組みたい人に向きます。

‍

ファイル操作、画面理解、ツール呼び出し、失敗時の再試行を一つの評価シナリオにまとめると、設計思想との相性を確認できます。

‍

Qwen3.8-27Bは、動画を含む視覚理解、より長いネイティブ文脈、コーディングや専門業務を重視する場合の候補です。

ただし長文上限を使うほど24GBの余白は厳しくなります。必要な文脈を検索で絞り、32K程度で仕事が完了するなら、最大値を追う必要はありません。

比較テストは10〜20件でも構いませんが、条件をそろえます。

同じQ4帯、同じアプリ、同じ文脈長、同じ温度、同じ入力を使い、正答率、初回応答、生成速度、ピークメモリ、人の修正時間を記録します。

画像評価では同じ解像度、コード評価では同じリポジトリ状態へ戻します。

‍

GPU購入前なら、モデルが動くことより、目的のタスクで合格することを先に確認してください。

24GBで不足した時、32GB以上へ上げるか、量子化・文脈を下げるか、クラウドへ難問だけ送るかを比較します。

大型GPUは余白を増やしますが、入力設計や評価基準の不足は解決しません。

Muse Glimmer 30BとQwen3.8-27Bは、24GB級で現実的なQ4候補ですが、強みが違います。

‍

Museは16.8GBの公式Q4_K_Mと、視覚1.4GB、DFlash 1.6GBを組み合わせる構成が明示され、常駐エージェントを24GBへ収める設計が分かりやすいモデルです。

‍

Qwen3.8-27Bは画像・動画理解、262Kネイティブ文脈、コーディングや長時間タスクの幅が魅力です。

一方、Q4の容量とKVキャッシュ、視覚入力を含めた余白は配布形式とランタイムで測る必要があります。

24GBで最大文脈を前提にしないことが安定運用の条件です。

‍

常駐エージェントならMuse、長文・動画・コードならQwenから検証を始め、画像付き日本語文書は両方を同じ条件で比べる。

これが現時点で最も再現しやすい選び方です。

ベンチマークの順位より、自分の入力で失敗が少なく、修正時間を減らせる方を採用してください。