Claude と ChatGPT への支払いをやめる — NVIDIA は同等の優れた無料モデルを提供している

in tech

Claude と ChatGPT は、私たちのほとんどが AI を始めた場所であり、それらに何ができるかを発見したら、チャット ウィンドウを超えてそれらを機能させるのは自然なことです。つまり、API を介して他のツールやハーネスに接続することになります。しかし、一度実行すると、Claude と ChatGPT は単純な 20 ドルのサブスクリプションではなくなり、自動化の動作に応じて月額数百ドルを静かに実行できる従量制ユーティリティのように動作し始めます。

幸いなことに、これらのプレミアム モデルをプレミアム価格で使用することに限定されているわけではありません。ほとんどのワークロードに同様に対応できる、無料のオープンソース AI モデルが多数存在します。そして、それらを適切に調達すれば、費用はまったくかからず、ゼロになります。

AI に関する最もお得な情報は宣伝されていません – 調査済みです

事前に少しリサーチしておくことで、将来的にはかなりの費用を節約できる可能性があります

ほとんどの人の AI のメンタル マップは、OpenAI の GPT モデル、Anthropic の Claude、Google の Gemini、イーロン マスクの xAI の Grok という 4 つの主要なモデルを中心に展開しています。これらが巨額のマーケティング予算に裏付けられたモデルであることを考えると、それは当然です。しかし、オープンソース空間は、静かに真の強者を生み出してきました。現在、Moonshot AI の Kim K3、Z.ai の GLM-5.3、MiniMaxAI の M3 は、FOSS AI 分野の大手であり、フロンティアレベルのパフォーマンスを提供します。

ただし、私は単に優れたオープンソース モデルがあることを伝えるためにここにいるのではありません。大幅な割引価格、場合によっては無料でアクセスできることをお伝えしたいのです。

作成者の Web サイトからこれらのモデルにアクセスする代わりに、サードパーティのプロバイダーを使用するだけです。人気のあるオプションには、OpenRouter、Togetter AI、Groq (Elon の Grok と混同しないでください) などがあります。 LM Studio は最近、米国でホストされているこれらのモデルへのデータ保持なしのアクセスを、非常に魅力的な価格で提供し始めました。

ただし、この記事の執筆時点で最も有利な取引は NVIDIA から提供されます。彼らは、build.nvidia.com の独自のインフラストラクチャ上でオープン モデルの膨大なカタログをホストしており、定期的にいくつかの真に強力なモデルを完全に無料で利用できるようにしています。これらの無料エンドポイントは循環します。モデルは限られた期間だけ無料で、その後リストから削除される場合があります。しかし、山の中には常に使用する価値のあるものが存在します。

たとえば、現在、NVIDIA は Kim K3 用の無料エンドポイントを提供しています。これ以前は、MiniMax M3 用の無料エンドポイントを提供していました。

これらの無料モデルは本当に Claude や ChatGPT と同じくらい優れていますか?

価格の低下による品質の低下は必ずしも良い取引とは限りません

これらのオープン モデルの多くは、Claude Opus 4.8 または GPT 5.6 Sol と完全に一致すると主張しています。中には、Anthropic の最上位モデルである Claude Fable 5 と互角に渡り合っている人もいます。さて、私はそれらを Fable に対して個人的にテストしていません。その比較を実行すると、私が費やしたいと思う以上のコストがかかります。ただし、Claude Opus 5 を使用して n8n オートメーションを多数実行しています。Anthropic API をこれらの無料モデルの 1 つに置き換えたところ、実際にパフォーマンスが非常に優れていることがわかり、永久に切り替えるほど十分でした。

とはいえ、これが事例に基づく主張であり、実際のメリットはユースケースによって異なる可能性があることは承知しています。したがって、これらのモデルを自分でテストして、特定のニーズに対してどのように機能するかを確認することが最善です。 Claude または GPT API エンドポイントを NVIDIA のものに交換し、通常とまったく同じようにツールを実行し、結果を判断するだけです。モデルは無料で使用できるため、テストにかかる費用はほんの少しの時間だけです。

それでも、どこから始めるべきかについての基本的なアイデアを探している場合は、いつでも Hugging Face にアクセスしてモデルのベンチマークを確認できます。あるいは、Matthew Berman や 1littlecoder のような YouTuber は、これらの新しくリリースされたモデルを常にテストしています。彼らのビデオを見て、これらのモデルの機能を理解することができます。

これらの無料のオープンソース モデルの使用方法

セットアップにはわずか 2 分しかかかりません

プロファイル ドロップダウンが開いた NVIDIA API キー ダッシュボードに、40 rpm レート制限と API キー エントリが表示されます。

これらは無料のオープンソース モデルなので、すべてオンラインで簡単に入手でき、ダウンロードして自分のハードウェアで実行できます。ただし、これは技術的には可能ですが、最も現実的なオプションではありません。私たちは何兆ものパラメータを持つモデルについて話しています。最高精度で実行するには、少なくとも 1,000 GB の VRAM を備えた GPU が必要です。それを持っているなら、それは素晴らしいことです(そして私たちは友達になれるでしょうか?)—しかし、私はあなたが持っていないものと仮定しています。

そのため、私たちはこれらのモデルをホストするためにその種のハードウェアを実際に持っている企業に依存しています。先ほども述べたように、この分野には実際に多くの企業があり、NVIDIA もその 1 つです。また、NVIDIA はこれらのモデルを無料で入手できます。

とはいえ、これらのモデルを操作するための洗練されたチャット インターフェイスを提供する推論プラットフォームはありません。これらは、Claude と ChatGPT の API と同じように、他の AI ソフトウェア (一般にハーネスと呼ばれる) に接続するエンドポイントとして配信されます。これらすべては少し専門的すぎるように聞こえるかもしれませんが、セットアップにはほとんどの場合数分かかります。

まず、API を入手するには、build.nvidia.com/models にアクセスしてください。次に、プロフィール アイコンをクリックし、[API キー]を選択して、[API キーの生成]をクリックします。キーに名前を付けて (どこでどのように使用するかを覚えておくことができるように)、有効期限を設定します。新しいダイアログ ボックスが表示され、「nvapi」で始まる API キーが表示されます。すぐにコピーして安全な場所に保管してください。NVIDIA はこのキーを再度表示しません。

API キーを紛失した場合、または侵害されたと思われる場合は、同じダッシュボードからキーを削除します。誰かがキーにアクセスできる場合、その人は推論クォータを使用できます。

API を使用すると、NVIDIA が提供するすべてのモデルにアクセスできるようになります。トークンを購入したり、クレジット カード情報を入力したりする必要はありません。キーを入手したら、使用したいアプリにキーを貼り付けるだけです。

たとえば、これらの無料モデルを利用した基本的なチャットボットが必要な場合は、Open WebUI を使用できます。使用したいモデルを選択してチャットを開始するか、モデルにコーディング タスクを与えてモデルの機能を把握するだけです。しかし、本当の価値は、それらを適切なハーネスとともに使用するときに現れます。それが、無料の API アクセスが真に報われるところです。一般的なオプションには次のようなものがあります。

  • Open Cowork: Claude Cowork または ChatGPT Work に代わる無料のオープンソース。

  • カーソル: AI を活用したコーディング エージェント。

  • ヘルメスエージェント: 自己改善型エージェント AI。

  • OpenClaw: オープンソースの AI エージェント。

  • n8n: 自動化プラットフォーム。

これらの無料エンドポイントは、個人使用、テスト、開発を目的としています。これらは、他のユーザーのために何かをホストする運用アプリケーションを対象としていません。

メリットについては以上です。デメリットについてはどうでしょうか?

常にいくつかの注意事項があります

Pico のドット env ファイルと OpenAI API キー プレースホルダーを iPad で厳密にトリミングしました。 クレジット: Patrick Campanale / How-To Geek

NVIDIA API には主に 2 つの摩擦点がありますが、少なくとも私にとってはどちらも問題ではありません。

1つ目はレート制限です。 Claude や ChatGPT の無料枠のように、5 時間ごとに一定のメッセージ数に制限されるわけではありませんが、1 分あたり約 40 リクエストに制限されます。ほとんどの個人的な使用例では、これは問題ではありません。私が個人的に 1 分間に 40 件のリクエストを発行するシナリオは思いつきません。ただし、大量のリクエストを並行して処理する高度に自動化されたワークフローを実行している場合、これがボトルネックになる可能性があります。

2 つ目はより重要であり、速度です。モデルは実際には NVIDIA 独自の GPU でホストされており、必要なコンピューティングは限られています。人気のあるモデルを使用している場合 (強力なモデルは常に人気のあるモデルです)、またはピーク時に API にアクセスしている場合、応答は著しく遅くなる傾向があります。また、モデルが大きくなるとリクエストごとに多くのコンピューティングを消費するため、速度の低下がさらに悪化するという事実もあります。

しかし、私の本では、これは依然として優れたトレードオフです。チャットボットとして使用している場合、応答が遅いのは迷惑なだけです。バックグラウンドの自動化を強化するためにこれを使用している場合 (私もそうしています)、完了までにかかった秒数よりも、出力の生のインテリジェンスの方がはるかに重要です。

このテーマについてさらに詳しく知りたい方は以下をご覧ください

完全ガイドはこちら

関連記事

前の投稿
「マイ・ブリリアント・キャリア」のような次に見るべき番組 10 選
次の投稿
Foldable Duo に欠けている iPhone 18 Pro の最高の機能 12 個

関連記事