誰かが自分の携帯電話を外部 GPU として機能させた

PC に外部グラフィックスを追加するために高価なビデオ カード エンクロージャを購入する必要はありません。ポケットにある携帯電話で十分です。 Reddit ユーザーの StayLameBro は、iPhone 17 Pro Max を MacBook Pro M4 を補助する外部 GPU として使用する方法を見つけました。

新しいプロジェクトは、AI モデルのタスク (この場合は Qwen 3.8 27B) を Mac と iPhone の間で分割します。通常、ラップトップは各 AI トークン バッチの最初の 40 層を処理し、iPhone の GPU が残りを処理します。 64,000 を超えるトークンが関係している場合、Mac はすべてのレイヤーを実行し、iPhone は古いキー値ページ (ラベルとその一致データの識別) に焦点を当てます。

また、Mac は iPhone の空き RAM に基づいて 8 ビット コンテキスト (背景情報、データ、メモリの完全なセット) を割り当て、コンピュータのメモリ使用量を抑制します。これに加えて、ハンドセットは 512 トークンを超えるプレフィル (トークン プロンプト内のすべての入力の処理) に貢献します。

はい、速度の向上は顕著です。 2,000 トークンのファイルを既存のエージェント セッションに事前入力する場合、MacBook と iPhone の組み合わせは、Mac 単体よりも 29% ～ 44% 高速です。新しい 27,000 トークンのエージェント セッションでは、プロジェクトのフォークされた llama.cpp コードに対して 36%、ストック ソフトウェアに対して 46% の利益が得られます。

コード、セットアップ プロセス、ベンチマーク スクリプトは、現在 GitHub リポジトリで入手できます。 Mac にテザリングするには標準の 10Gbps USB-C ケーブル以上は必要ありませんが、少なくとも iPhone 15 Pro が必要です。 iPhone 18 Proには「もっと多くの」ヘッドルームがあるはずだと作者は言います。

携帯電話を外部 GPU として使用するとどのような問題が発生しますか?

AI モデルと書き込み速度の両方が懸念事項

外部 GPU としての iPhone がすべての問題を解決するわけではありません。 StayLameBro 氏は、64,000 トークン未満では携帯電話の書き込みパフォーマンスは向上せず、そのタスクはコンピューターに任せていると指摘しています。

同氏は、Qwen 3.8-Flash-Next や DeepSeek V4.1-Flash などの新しい機能を備えた AI モデルのベンチマークは行っていないと付け加えました。 iPhone がこれほど便利になるという保証はありません。 Android や Windows についても言及されておらず、既存のバージョンはすべて Apple のソリューションとなっています。

それでも、この取り組みは、コンピューティング補助としての電話の可能性を示しています。この改善は、優れたビデオ カードの改善と比較することはできませんが、AI プロセスを迅速に完了する必要がある場合には、貴重な時間を節約できる可能性があります。