Perplexity と NVIDIA が提携してローカル AI エージェントをリリース

Perplexity はもともと AI 検索エンジンとして名を馳せましたが、Computer という製品もあります。

今年初めに発売された Computer は、ユーザーに代わってタスクを完了できるエージェント AI です。これは、ユーザーと同じインターフェイスとアプリケーションを使用する汎用の作業コンパニオンです。通常の言語を使用してジョブを説明すると、コンピューターは必要に応じてサブエージェントを実行して、調査を実行し、ツールに接続します。

現在、Perplexity はポータブル コンピューターを立ち上げています。ポータブル コンピュータの目的はコンピュータと似ていますが、根本的な違いが 1 つあります。それは、まずローカルであるということです。発売時には、ポータブル コンピュータは、追加のトレーニングを受けた Qwen モデルである Qwen 3.8 27B または Qwen PPLX 27B を使用できるようになります。 NVIDIA の Nemotron 3.5 Lightning (30B) のサポートは間もなく利用可能になります。

ポータブル コンピュータは、できる限り多くのことを実行できるように設計されています 地元では、 自分のハードウェア上で。ドキュメントの要約、情報の抽出と分析の実行、アプリへのファイルの送信、またはその他の任意の数のジョブを実行できます。ただし、ポータブル コンピューターがローカル モデルには複雑すぎるタスクに遭遇すると、停止し、代わりに大規模なクラウドベースのモデルにオフロードするかどうかを尋ねます。

ローカルファーストの設計により、AI を使用して、クラウド上に置きたくないデータを処理できます。また、ローカルで何を行う場合でもクレジットやトークンを消費せず、ハードウェアをすでに所有していればローカル AI の実行コストは少額であるという実用的な特典もあります。

Perplexity のポータブル コンピューターを使用する理由?

ポータブル コンピュータで大量の作業を節約できます

クレジット: Lucas Gouveia/ハウツー ギーク

では、Ollama で Qwen 3.8 27B を実行するだけではなく、ポータブル コンピューターの魅力は何でしょうか?その周りのすべて。

Perplexity によると、Portable Computer は「エージェント ハーネス、ローカル モデル、推論、ツール、アプリ コネクタ、およびサンドボックス実行によるステップレベルのルーティングを 1 つの維持されたシステムにパッケージ化しています」。適切なツールとコネクタを組み合わせた優れたハーネスが、扱いにくくイライラする AI モデルと、実際に役立つ AI モデルの違いとなります。スタック その周り LLM は、フロンティア モデルを魅力的なものにする大きな部分を占めています。

このセットアップはポータブル コンピューターに限定されたものではありません。その気になれば、同様のものを自分で構築することもできます。最大の利点は利便性です。スキルやコネクタを含む完全自律型ローカル AI のスタックは大規模なプロジェクトです。

ポータブル コンピューターを使用すると、適切なハードウェアを備えた任意の Linux PC にプログラムを展開できますが、現在のリリースは特に DGX Spark をターゲットとしています。 Windows のサポートは今年後半に開始される予定です。

ポータブル コンピュータを実行するには何が必要ですか?

メモリが限界です

クレジット: Nick Lewis / How-To Geek

ポータブル コンピューターは、270 億のパラメーターを持つモデルを使用して実行するように設計されており、公式要件は、少なくとも 32 GB の VRAM を備えた NVIDIA ハードウェアです。量子化モデルでコンテキストまたはスワップを制限すると、より少ない量で済みます。コンシューマー向けカードのラインナップでは、RTX 3090 が基本的に使用できる「最も弱い」GPU であることを意味します。より多くの VRAM を備えた RTX GPU であれば問題なく動作します。 GPU と CPU 間で共有される 128GB という驚異的な RAM を備えた NVIDIA の DGX Spark も、その役割を果たします。

2 つの 16GB RTX 5060Ti など、合計で 24GB になるマルチ GPU セットアップを使用できるかどうかは、あまり明確ではありません。 Perplexity によれば、ローカル スタックを微調整して独自の推論サーバーとモデルを使用できるということは、おそらく可能であることを意味しますが、機能させるには多少の工夫が必要になる可能性があります。

今すぐポータブル コンピューターをダウンロードしてインストールできます。