朝の RSS ダイジェストはローカル AI で実行されるようになり、NotebookLM には戻れなくなります

まれな例外を除き、私は自分の興味や仕事に特化したいくつかの RSS フィードをざっと読むことから一日を始めます。次に、それらのいずれかが仕事プロジェクトに関連する場合は、後で参照できるように文書に貼り付けます。

Gemini Notebook (旧 NotebookLM) は、RSS フィードを貼り付けるとより効率的に流し読みできる興味深い機能を紹介してくれました。しかし、代替手段が存在する場合、私は通常、クラウドベースの AI を使用することに熱心ではありません。

そこで、手動で何もコピーして貼り付ける必要がなく、すべてがローカルで実行できるように、AI を RSS リーダーに直接統合することにしました。 NotebookLM の機能スイートをすべて再現しているわけではありませんが、私のお気に入りの機能は再現しています。

NotebookLM は素晴らしいですが、ローカルなものの方が好きです

制限なし、手動介入なし、プライバシーのトレードオフなし

私の唯一の最大の懸念は、 どれでも NotebookLmをはじめとするクラウドベースのAIサービスは、すべてがGoogleのサーバーを経由するという特徴があります。 Google は、オプトインしない限り、NotebookLM にアップロードしたものについて AI をトレーニングしないと明示していますが、ファイルは引き続き処理され、サーバーに保存されます。

私の場合、実際のリスクは最小限です。私は主に、機密性のない、機密性のない研究にこれを使用しますが、これは避けたい習慣です。もし私が、たとえほんの少しでも機密性の高いことをしていたとしたら、おそらくすぐにそれを排除するだろう。一方、PC に保存されているデータを保護するために必要なあらゆる措置を講じることができます。

RSS フィードの場合、自動化されていないことも少し面倒でした。 NotebookLM は手動であり、スケジュールに従って RSS フィードを取得するオプションがありません。

最後に、無料利用枠には制約があります。レポート スタイルの生成とチャットでの質問の 1 日あたりの制限には上限があり、ノートブックごとに 50 ソースの上限があります。あるトピック分野について集中的にリサーチを行っている場合には問題ありませんが、朝一番にダイジェストを流し読みし、1 日を通じて自然発生的に作成されたブリーフが必要な場合は機能しません。 RSS フィードには、複数の異なるカテゴリに分類された 50 を超える異なるソースを簡単に含めることができます。

これらの制限を念頭に置いて、私は実際に使用する目的をよりターゲットにしたものを構築することに着手しました。

どのように機能するのでしょうか?

これを構築するために、私は 3 つの基本的な要件から始めました。

• すべてをローカルに置き、オープンウェイト モデルを使用して実行する必要がある

• 朝の要約ダイジェストを生成し、その日が進むにつれてダイジェストを実行できる必要がありました。

• 適用したいのと同じだけ多くのソースを処理できる必要がありました。

既存の FOSS RSS リーダーを AI に接続するのではなく (機能しましたが、無駄でした)、RSS フィードをネイティブに処理するアプリケーションをすぐにバイブコーディングしました。実際には、通常の RSS リーダーと同じように、新しい RSS フィードを追加できます。

内部では、プロジェクト全体で Ollama で実行される Gemma 4 12B が使用されており、品質とメモリ使用量のバランスが取れています。結局のところ、プロセスの要求が高くなりすぎて、実行中に PC が使用できなくなることは望ましくありません。他のことを同時に実行できる必要があるからです。

プロジェクトを正しく動作させるには多少のトラブルシューティングが必要になると予想していましたが、実際には最初からうまく動作しました。 RSS フィードを追加し、Gemma を実行するのに数分かかり、概要が得られました。出力のトーンを自分の好みに合うようにプロンプ​​トをいじってみたところ、満足しました。

ローカルウェイトとオープンウェイトには実際のトレードオフがあります

120 億パラメータのモデルは決してフロンティア モデルにはなりません

唯一の本当の欠点はモデルのインテリジェンスです。平均的な消費者向けハードウェアで実行できるモデルは、自由に使える数テラバイトの VRAM を備えたフロンティア モデルほど多くのことを理解し、「推論」できるものはありません。

実際的な観点から言えば、まともな結果を生み出すことが私が発見した最小のモデルは 7B パラメータであり、これは 8GB のメモリで量子化されて実行されます。私の古いラップトップを AI ノードに変えたように、CPU のみのセットアップで実行することもできますが、非常に遅くなります。

---

私のDiscordボットと音声アシスタントに統合される予定です

最近は、AI Discord ボットと会話できる AI ホームアシスタントを実行しています。少し調整するだけで、プロジェクトを RSS Digester と組み合わせて、より興味深いものを構築できるようになります。これをオンにすると、私のために作成された朝のブリーフィングを読み上げることができます。また、Discord ボットと音声アシスタントには、調査中のファイルについて話し合う機能がすでに備わっているため、具体的な質問をすることもできます。

さらに微調整すると、「突破」を許可して、私がそうすることを知っていることを自発的に伝えることさえできるかもしれません。 絶対に 聞きたいです。