RTX Spark がついに Copilot+ PC に約束されていた AI 機能を提供

2024 年、Microsoft は「これまでに構築された中で最も高速で最もインテリジェントな Windows PC」である Copilot+ PC を発表しました。 Copilot+ PC は、大いに嘲笑された Recall、AI を活用した画像編集など、いくつかの新機能を備えて発表されました。

最近、Nvidia は、AI アプリケーション向けのラップトップとデスクトップで構成されるラインナップである RTX Spark のリリースを発表しました。これらの RTX Spark デバイスは単なるギミックではなく、Copilot+ PC 上で機能します。 すべき あった。

Copilot+ PC は売れすぎて納品不足だった

問題を探すブランディング

クレジット: Patrick Campanale / How-To Geek

Microsoft が最初に Copilot+ PC を発表したとき、資格を得るには、すべての PC に 1 秒あたり 40 兆回の演算 (TOPS) 以上を維持できるニューラル プロセッシング ユニット (NPU) が搭載されている必要がありました。

Copilot+ デバイスの本当の問題は、「AI PC」の観点を大きく売り込みすぎていたことです。当時、そのような小さな処理能力を備えた NPU 上で有用な作業を実行できる AI モデルは比較的少数であり、そのどれもユーザーを魅了してアップグレードさせるほどの目玉機能になる準備ができていませんでした。

より優れた AI 機能はクラウドを利用した Copilot に限定されており、これにより、あなたの「AI PC」は、Claude または ChatGPT に接続されている他の PC とほぼ同じ AI PC になりました。

重要なのは、Copilot+ 認定では、すでにラップトップの標準部品となっていた既存のグラフィックス カード (iGPU を含む) が見落とされていたことです。一例として、モバイル RTX 4050 は 200 TOPS に少し届かず、AI PC としての資格を得る最低値をほぼ 400% 上回っています。 AMD と Intel の GPU はソフトウェア サポートに関してもう少し問題がありましたが、同じ時代の GPU の多くも Copilot+ PC の最小要件を上回っていました。

また、デバイスの専用 GPU を使用するように Recall や組み込みの AI 画像編集機能を簡単に設定することもできません。これらを機能させるには、アップデート後に壊れる可能性がある、玉石混交のソリューションが必要でした。

数百万台、おそらくは数千万台の PC が、GPU が要求されるパフォーマンスをすでに提供していたにもかかわらず、恣意的な NPU 要件により Microsoft の主力 AI 機能から除外されました。

AI モデルの準備が整っていませんでした

Recall は発表時とリリース時に広報面でいくつかの重大な問題に見舞われ、Windows に組み込まれた AI 画像編集機能は、より高性能なクラウドベースのツールやより専門化されたツールによってほとんど影が薄くなってしまいました。

これは、当時のローカル AI へのアプローチに関するより広範な問題を示していました。フロンティアのクラウドベースのモデルはまともでしたが、 地元 AI モデルを正当化するのは困難でした。

彼らは記憶力に飢えており、あまり能力がなく、滑稽なほど幻覚に悩まされがちでした。現在はそうではありません。ミッドレンジのゲーム用 GPU であっても、有益な作業を実行できる AI を実行できます。ただし、一度に実行できるのは比較的小規模なモデルに限られています。

しかし、おそらく最初に成功しようとして、Microsoft は AI PC をあまりにも強力に、あまりにも時期尚早に推し進めたため、それに参加しているほぼ全員がうんざりしてしまいました。

RTX Spark は AI が実際に必要とするハードウェアを提供します

豊富なメモリを備えた強力な GPU

RTX Spark デバイスは、Copilot+ ハードウェアに欠点があったすべての領域で地位を占めています。

RTX Spark デバイスには、内部的に 2 つの SoC のいずれかが搭載されています。最上位モデルは、20 コア CPU と、6,144 CUDA コアおよび最大 128 GB のユニファイド メモリを備えた Blackwell GPU を組み合わせています。トリミングされたモデルには、5,120 CUDA コアと最大 32 GB のメモリを備えた Blackwell GPU を備えた 18 コア CPU が搭載されています。

最上位モデルの「スーパーチップ」は、NVIDIA のパーソナル AI コンピューターである DGX Sparks と同じ設計に基づいて構築されていますが、RTX Sparks に搭載されているメモリは DGX Sparks よりも約 10% 高速であることがよくあります。

これらの技術仕様から言えることは 1 つあります。これらの PC はローカル AI の実行に非常に優れているということです。

RTX Spark (64 GB、20 コアのバージョン) をテストしたとき、メモリに収まるすべての AI モデルで素晴らしいパフォーマンスを発揮しました。 LLM 出力 (1 秒あたりのトークンで測定) でテストした DGX Spark を約 10% 上回り、16 GB 5070 Ti で実行できると期待できるよりもはるかに大きなモデルを実行できました。

AI タスクを低電力 NPU に委譲した Copilot+ PC とは異なり、RTX Spark デバイスは実際に、有用な AI モデルをローカルで実行するためのハードウェアとメモリを備えています。

モデルのアンサンブルを一度に実行できます

私のローカル AI ワークフローには、1 つのスマート AI モデルと、同時に実行されるさらにいくつかの特殊な AI モデルが含まれており、まさにその機能こそが RTX Spark デバイスを非常に魅力的なものにしています。

私がテストしてきた 64GB RTX Spark ラップトップでは、30B パラメータ モデル (4 ビット量子化時) を簡単に実行でき、30GB 未満のメモリに収まりました。 と コンテクスト。同時に、より特化したモデルが音声からテキストへの変換、画像の説明、編集、OCR を処理し、Qwen Coder 上に構築された実験的な平文から PowerShell へのトランスレーターがバックグラウンドで実行されます。

セットアップ全体で消費するメモリは 40 GB 未満で、残りの 24 GB は Windows、通常のアプリケーション、追加モデル用にすべてクラウドに触れることなく残ります。

ライター、編集者、グラフィック アーティスト、データ アナリスト、コンピューター サイエンティストなど、希望する仕事に合わせてローカル モデルをカスタマイズできます。能力の低い NPU を使用することになることも、Windows に組み込まれているいくつかの AI 機能を使用することになることもありません。

RTX Spark がついに AI PC を意味あるものに

Microsoft は 2024 年に AI PC について多くの時間を費やしましたが、実現には至りませんでした。現在市場に出回っている RTX Spark は同じものではありません。これらは強力で柔軟性があり、重要なことに、実際に有用な AI モデルをホストすることができます。 64GB と 128GB のバリアントは、非常にインテリジェントな 30B パラメータ モデルを実行して、他のいくつかの小規模モデルを調整したり、場合によってはクラウドベースのフロンティア モデルに匹敵する 100B パラメータ モデルの量子化バージョンにアクセスしたりできるため、特に魅力的です。

これらのバリアントには、特定のニーズに合わせて小さな AI モデルを微調整するのに十分なメモリも備えていますが、これは以前は実際には不可能でした。

AI アプリのエコシステムはまだ非常に未熟です。最良のツールは、動作させるのがかなり不格好な愛好家向けのツールです。しかし、真の AI PC を実現するハードウェアは現在入手可能です。

残念ながら、RTX Spark デバイス 始める 価格は約 2,600 ドルで、多くのデバイスは 4,000 ドルを超えます。 AI PC はついに現実になるかもしれませんが、誰もがそれを買えるでしょうか?