PR

Mac Studio 192GBとNVIDIA CUDAは両立できない?XServer VPS分離構成を実測

【PR】この記事にはA8.netのアフィリエイト広告を含みます。

先に結論:Mac Studio M2 Ultraの192GBユニファイドメモリとNVIDIA CUDAを、XServer VPSが1台へ統合してくれるわけではありません。しかし、VPSを24時間動く司令塔、自宅PCを必要時だけ動くAIワーカーへ分ける構成は実機で成立しました。自宅ワーカーを止めたまま5秒待ってもジョブはqueuedで残り、起動後は合計9.969秒でsucceededになりました。判定は一部解決です。

2026年9月1日、XServer VPS 4GBと手元のWindows PCへ同じOllama 0.33.2、同じqwen3:0.6b、同じ日本語プロンプトを用意しました。VPS単体、自宅PC単体、VPSから自宅PCへ渡す分離構成で、時間、メモリ、常時稼働性、できないことを比較します。

Mac Studio 192GBNVIDIA CUDAは1台で両立できる?

Mac Studio M2 Ultraの192GBは大容量ユニファイドメモリですが、NVIDIA CUDA環境ではありません。Apple公式のMac Studio(2023)技術仕様には、M2 Ultraのカスタマイズとして192GBユニファイドメモリが記載されています。

一方、NVIDIACUDA Installation Guide for Mac OS Xは、CUDA 10.2macOSをサポートする最後のリリースだと明記しています。Apple Silicon Macの大容量メモリを選ぶことと、現在のCUDAソフトウェア群を使うことは別問題です。

欲しいもの Mac Studio M2 Ultra 192GB NVIDIA PC
大容量の共有メモリ 192GB構成あり 構成によりCPU RAMVRAMが分かれる
現在のNVIDIA CUDA 対象外 対応GPU・OSなら利用候補
1台ですべてのAIツールへ対応 ツールごとのMetalMLX対応確認が必要 VRAM容量、電源、冷却も確認が必要

ZennではMac Studioを選ぶ理由と弱点をどう説明している?

Zennの「ローカルLLMのための最適なGPU選定:Mac Studio購入の決め手」は、RTX 3060 12GBでは物足りなくなった体験から、Mac Studioなら128GBまたは192GBのユニファイドメモリを1台に載せられる点を評価しています。

同記事は同時に、グラフだけならNVIDIA GPUを選ぶ、LLM以外の最新AIツールにはMac非対応が多く汎用性で劣るとも整理しています。つまり悩みは「メモリ容量かCUDA互換性か」の二択になりやすいことです。投稿時点の機種や価格を、今回の実測値としては扱いません。

RedditではMac StudioNVIDIAの何に迷っている?

Redditr/LocalLLaMAAdvice on GPU/CPU Upgrade for LLM with High Context Windows」では、RTX 4090 24GB128GB RAMの既存機から、192GB Mac Studioへ移るとCUDAが使えない影響を心配しています。

また「The Mac Studio vs NVIDIA Dilemma – Best of Both Worlds?」では、Mac Studioの192GB容量とNVIDIA側の画像・動画生成などの互換性をどう両立するかが相談されています。これらは個別投稿者の条件です。今回の4GB VPS8GB PCの性能へ、その数値を転用しません。

XServer VPSでこの悩みは解決する?

ハードウェアの両立は解決しませんが、役割の両立はできます。GPUなしVPSCUDA機にはならず、4GB RAMで192GB級モデルを動かせません。代わりに、常時稼働が必要な軽い役割をVPSへ移し、高価な計算機は必要時だけ働かせます。

役割 置き場所 理由
ジョブ受付・待機 XServer VPS 自宅PC停止中も依頼を保持する
監査ログ・結果メタデータ XServer VPS 処理機と独立して時系列を残す
小型モデルのCPU推論 VPSまたは既存PC 今回の0.6Bは両方で動作した
大容量モデル 将来の大容量メモリ機 VPS 4GBでは代替不能
CUDA依存処理 将来のNVIDIAワーカー ジョブ要件で振り分ける
Android実機操作 USB接続した自宅PC VPSから物理USB端末は直接触れない

[PR]
VPSでいろいろ試すなら『XServer VPS』

今回の実験環境は?

項目 XServer VPS 自宅PC
OS Ubuntu 26.04 Windows
CPU 4 vCPU中2 CPUを実験上限 Core i5-8365U、4コア/8スレッド
RAM 4GB、実験コンテナ上限1,800MiB 8,248,610,816 bytes、約7.68GiB
GPU なし Intel UHD Graphics 620
CUDA なし なし
Ollama 0.33.2、Docker 0.33.2、Windows版
モデル qwen3:0.6b qwen3:0.6bを今回追加

自宅PCNVIDIA GPUはなく、Ollamaの表示は100% CPUでした。この記事はMacRTXのベンチマークではなく、「手元の異なる計算機をVPSでつなぐ設計」の実験です。

同一ジョブの条件は?

両方へ「AIスマホ調査の証跡として必要な項目を、スクリーンショット、操作履歴、所要時間の3点に分け、各1文で説明してください。」という同じプロンプトを送りました。

設定
model qwen3:0.6b
temperature / seed 0 / 42
context 1,024
最大生成 96トークン
think false
単体試験 コールド1回、ウォーム2回

runprompt 59トークン、eval 96トークンでした。本文は96トークン上限で途中終了したため、速度測定には使いますが「良い回答が完成した」とは判定しません。

VPS単体のQwen3 0.6Bは何秒だった?

run wall load 生成速度
1 cold 4.769秒 1.154秒 29.963 tok/s
2 warm 3.226秒 0.0007秒 30.555 tok/s
3 warm 3.373秒 0.051秒 29.203 tok/s

ウォームwall平均は3.299秒、生成速度平均は29.879 tok/sでした。一時コンテナのメモリは736.2MiB / 1.758GiB、推論直後もVPS全体で2,597MiB availableでした。

自宅PC単体は何秒だった?

run wall load 生成速度
1 cold 7.840秒 4.252秒 32.924 tok/s
2 warm 3.326秒 0.0045秒 29.685 tok/s
3 warm 3.468秒 0.0032秒 28.188 tok/s

ウォームwall平均は3.397秒、生成速度平均は28.937 tok/sでした。推論プロセスのWorking Setは590.4MiB、Private Memoryは766.8MiB、Ollama上のモデル表示は663MBでした。

VPSと自宅PCのどちらが速かった?

今回の小型CPU推論はほぼ同程度で、VPSのウォームwall平均が約0.098秒短い結果でした。コールドはVPS 4.769秒、自宅PC 7.840秒で、主な差はモデルload時間です。

指標 VPS 自宅PC
cold wall 4.769秒 7.840秒 VPSが3.070秒短い
warm wall平均 3.299秒 3.397秒 VPSが0.098秒短い
warm eval平均 29.879 tok/s 28.937 tok/s VPSが0.942 tok/s高い

差はこの3run、この小型モデル、この時点の負荷だけの結果です。VPSMac StudioNVIDIA GPUより速いという意味ではありません。

分離構成では何をした?

XServer VPS上にはすでにFastAPIPostgreSQLのジョブキューがあります。今回だけ有効なadmin tokenworker tokenをランダム生成し、平文ではなくSHA-256だけをDBへ登録しました。

  1. VPSllm.same-promptジョブを投入。
  2. 自宅workerを動かさず5秒待つ。
  3. VPS上でstatequeuedのままか確認。
  4. 自宅PCが外向きHTTPSでclaim
  5. 自宅Ollamaqwen3:0.6bを実行。
  6. 経過時間とresponse SHA-256eventへ保存。
  7. 結果をVPSへ返し、succeededを再確認。
  8. 一時tokenを削除。

自宅ルーターのポート開放や、VPSから自宅PCへの直接接続は使っていません。自宅側からVPSへHTTPSで取りに行く方式です。

PCを5秒止めたらジョブは消えた?

消えませんでした。投入5秒後もstatequeuedでした。その後、自宅PCclaimして推論し、最終statesucceededになりました。

区間 実測
submitclaim 6,522.0ms
claim HTTP 152.5ms
自宅推論wall 3,225.1ms
モデルtotal 3,209.8ms
submitcomplete 9,969.3ms
最終state succeeded

submitclaimには意図的な5秒待機を含みます。5秒を単純に引くとsubmitcompleteは約4.97秒です。実運用ではpoll間隔、再試行、画像容量、回線品質で変わります。

常時稼働性はどう変わる?

構成 自宅PC停止中 推論 記録
VPS単体 影響なし 小型CPUモデルのみ今回確認 継続可能
自宅PC単体 受付も処理も停止 PC起動中だけ PC停止中は追加不可
分離構成 VPSqueuedで保持 PC起動後に開始 VPSstateeventを保存

高価なMacNVIDIA PCを24時間つける必要があるかは、即時応答が必要かで決まります。夜間に依頼だけ貯め、PC起動時に処理してよい調査なら分離の効果があります。

どのモデルまで対応できる?

実際に確認した範囲だけなら、VPSと自宅PCの両方でqwen3:0.6bです。自宅PCには既存のqwen3-vl:2bもありますが、今回の同一ジョブには使っていません。

環境 今回確認 未確認・制約
XServer VPS 4GB qwen3:0.6b CPU推論 192GB級、大型CUDAモデル、GPU処理
自宅PC 8GB qwen3:0.6b CPU推論 CUDA、70B級、大容量context
Mac Studio 192GB 未所有、未測定 Metal/MLX速度、対応ツール、消費電力
NVIDIA PC 未所有、未測定 CUDA速度、VRAM、電力、騒音

VPSで動いたから大型モデルも動く」「Macは遅い」「CUDAなら必ず速い」という結論は、この実験からは出せません。

AIスマホ調査システムではどう使える?

将来はジョブへrequirementsを持たせ、ワーカーが自分に合う仕事だけ取得します。今回のジョブにもhome_worker=truecuda_required=falseを保存しました。

requirements 取得するワーカー 成果物
android_usb=true スマホをUSB接続した自宅PC スクリーンショット、UI tree、操作履歴
cuda=true NVIDIA GPUワーカー OCR、画像解析、生成時間、VRAM情報
large_memory=true 大容量メモリワーカー 長文・大規模モデル結果
cpu_small=true XServer VPS 軽い分類、整形、監査

すべての結果を同じjob IDへ結べば、処理機が違っても、料金表示、エラー、所要時間、画面、発見事項を1回の調査として追跡できます。

途中で発生した問題と解決方法は?

分離試験の初回は、SSH先のPython -cへ渡したadminという文字列の引用符がremote shellで外れ、NameError: admin is not definedで停止しました。

ジョブ作成前に止まったため、APIのジョブやtoken行は作られていません。Pythonコード全体をsingle quote、内部のrole文字列をdouble quoteへ分離して修正し、2回目はqueued確認からsucceededまで完走しました。

もう一つの注意点は、temperature 0seed 42でも生成文字数が145〜153文字に分かれたことです。環境をまたぐbit単位の再現性を前提にせず、prompt 59eval 96、処理時間、stateresponse SHA-256を記録しました。

XServer VPSで便利だった点は?

観点 実体験
待機 自宅workerが止まっていてもジョブをqueuedで保持できた
分離 自宅PCから外向きHTTPSだけでclaimcompleteができた
証跡 job stateeventelapsedresponse SHA-256DBへ残せた
Docker 実験だけ2 CPU・1,800MiBに制限し、終了後コンテナだけ削除できた
独立性 推論中も公開APIのdatabaseartifact storageokだった

分かりにくかった点・初心者が迷いそうな点は?

迷いどころ 確認方法
192GB=CUDA対応と思いやすい メモリ容量と計算APIを別々に確認する
VPSならGPUもあると思いやすい 契約プラン、GPU列挙、backendを実機で確認する
同じseedなら完全一致と思いやすい 本文hashと計測条件を残し、同一性を仮定しない
PC停止中にVPSが推論してくれると思いやすい requirementsと担当workerを明示する
tokenをスクリプトへ直書きしやすい 一時tokenhash保存、試験後削除を使う

実験後のCPURAM・ストレージは?

一時Ollamaコンテナを削除した後、VPSRAM 616MiB used、3,287MiB availableswap 121MiB used、ストレージ使用率11%でした。CaddyFastAPIPostgreSQLはすべて稼働中で、公開readydatabase=okartifact_storage=okです。

自宅PCではqwen3:0.6bをアンロードし、ollama psから消えたことを確認しました。アンロード後のfree physical memoryは1,203.6MiBでした。522,653,767 bytesのモデルファイルは、次の実験でも再利用できるよう保存しています。

セキュリティ上の注意は?

今回の一時admin/worker tokenは平文をファイルへ保存せず、VPS DBにはSHA-256だけを登録しました。終了後、名前がexp12-で始まる一時tokenが0件であることをDBから確認しています。

本番ではtokenの期限、失効、端末ごとの権限、artifact容量制限、監査ログ、TLS検証が必要です。Android操作は購入、契約、削除、ログイン、権限変更などを無人実行させず、所有テスト端末から段階的に検証します。

今後どう拡張できる?

  1. 所有Androidを自宅PCUSB接続し、観察だけのworkerジョブを実行する。
  2. スクリーンショット、UI XML、操作event、所要時間を同じjob IDへ保存する。
  3. worker capabilitycudametalmemory_gibを追加する。
  4. 大容量MacNVIDIA PCを導入する場合も、同じキューへ別workerとして登録する。
  5. worker停止、lease切れ、回線切断、artifact再送を故障注入で確認する。

この方式なら、最初からMac StudioNVIDIA機の両方を買う必要はありません。まずVPSの司令塔と既存PCで仕事の流れを作り、本当に詰まった処理だけに適した計算機を追加できます。

よくある質問

XServer VPSCUDAをインストールすればGPU推論できる?

今回のVPSにはNVIDIA GPUがないため、CUDA toolkitを入れるだけではGPU推論できません。GPUデバイスと対応driverが必要です。

Mac Studio 192GBなら192GBすべてをLLMへ使える?

OS、アプリ、frameworkcontextcacheなどもメモリを使います。192GBという搭載量と、モデルが自由に使える量は同じではありません。

分離構成なら自宅PCを完全に止められる?

ジョブ受付と記録はVPSで継続できますが、自宅PC担当の推論やAndroid操作はPC起動まで進みません。今回、5秒後もqueuedで保持されることを確認しました。

同じモデルならVPSPCの結果は完全一致する?

今回も生成文字数が一致しませんでした。モデル名、量子化、backendOllama版、promptseedtoken数、response hashを保存して比較します。

Mac StudioNVIDIA PCのどちらを買うべき?

大容量モデルを優先するか、CUDA依存toolを優先するかで変わります。今回の結果は購入判断用の性能比較ではなく、購入前にVPSと既存PCで分離設計を試せることを示したものです。

[PR]
VPSでいろいろ試すなら『XServer VPS』

XServer VPSMac Studio 192GBCUDAの悩みはどこまで解決した?

判定は一部解決です。XServer VPS 4GBMac Studioの192GB容量にも、NVIDIA CUDAの速度にもなりません。一方、VPS単体と自宅PC単体の同一小型ジョブはウォーム平均3.299秒対3.397秒で動き、分離ジョブは自宅PC停止中もqueuedで残り、再開後succeededになりました。

解決できたのは「1台に全部詰め込む」ことではなく、常時稼働の司令塔と、必要時だけ動く専門ワーカーを分けることです。AIスマホ一次情報収集では、VPSが依頼と証跡を守り、自宅PCAndroid、将来のMacが大容量モデル、NVIDIA機がCUDA処理を担当する構成へ拡張できます。

コメント

タイトルとURLをコピーしました