この Raspberry Pi AI プロジェクトは、私のメモを検索可能な第二の脳に変えました

私はすでにすべての執筆を Obsidian 内で行っているので、AI が私が使用するどのデバイスからでも検索できるようにしてはどうでしょうか?これが、Pi、小さなローカル モデル、およびそれに同期する Obsidian Vault だけを必要とするこの単純な Raspberry Pi プロジェクトで行ったことです。

Obsidian LiveSync は、Raspberry Pi を含むあらゆるもので実行できます

すべてのメモを保管して簡単に検索できます

私はすべての執筆を Obsidian で行っており、かなり長い間そうしています。私は過去数年間、Mac 上の Ulysses、Google Docs、Notion、Asana、そして今では Obsidian を使用するなど、さまざまなアプリを使用して執筆してきました。

私が Obsidian を気に入っているのは、ファイルがコンピューター上にローカルに保存され、プレーン テキストで保存されるため、私でも AI システムでも、誰でも読み取れるからです。また、同期サービスに料金を支払ったり、Google ドライブなどのメモを同期するためにサードパーティのプラットフォームを使用したりする必要がないことも気に入っています。

Obsidian を使用すると、オープンソースの LiveSync プラグインを使用して、メモを選択したクラウド (私自身のシステム) に同期させることができます。これは少し難しいですが、間違いなく可能です。

まず、LiveSync サーバーのソースである Pi 上の Docker で CouchDB を実行します。ただし、これによりメモは暗号化された BLOB に保存されるため、すぐには読み取ることができなくなります。

次に、Raspberry Pi で Obsidian LiveSync のヘッドレス バージョンを実行し、メモを人間が判読できる Markdown ファイルに同期します。これにより、ローカル AI モデルにメモを参照させることができます。

もちろん、書き込みの安全性を確保するために、Duplicati を介して Google ドライブへの暗号化された BLOB としてオフサイト バックアップを構成していますが、すべてが自分のコンピュータと携帯電話上にローカルに存在し、自分のハードウェアを介して同期されることが気に入っています。

Pi 5 は実際にデバイス上でいくつかの AI モデルを実行できます

Claude や ChatGPT とは競合しませんが、自由に実行できます

Raspberry Pi 上でローカル AI モデルを実行することは、実際には Pi 5 だけができることです。あなた 技術的に ローカル モデルは任意の Pi 上で実行できますが、それほど高速ではなく、使用している Pi に適切な量の RAM が搭載されていない限り、かなり制限されます。

ただし、Pi 5 をお持ちの場合 (特に AI HAT+ 2 モジュールを追加した場合)、Qwen3 4B Instruct 2507 のようなものをローカルでまともな速度で実行することが実際に可能です。フロンティアグレードではないし、まったく素晴らしいモデルでもないが、 は テキストを処理し、知る必要がある情報を表面化するのが得意です。

Qwen3 4B Instruct 2507 を Ollama や llama.cpp (または HAT をお持ちの場合は hailo-ollama など) で起動し、Open WebUI を通じて実行して、保存されているファイルを検索するための完全なチャット インターフェイスを得るのは非常に簡単です。私はこれを何度か使用して、見つからなかったメモを見つけたり、保管庫内のテキストの一部を解析したりしました。

AI に何かがどこにあるかを尋ねるだけで、AI が見つけてくれます。

完璧な記憶力を持つパーソナルアシスタントのようなものです

Raspberry Pi 上でローカル AI モデルを実行でき、それが実際に役立つと考えるのは、実際には非常識です。 Qwen3 4B Instruct 2507 やその他の小型モデルには、家の周りの大量のタスクやコーディング プロジェクトの処理には役立たないでしょうが、単純なテキストやドキュメントの検索には、実際には非常に有能です。

ファイルを見つける必要があるときは、ローカルの Qwen3 4B Instruct 2507 モデルを利用した Open WebUI を使用するだけで、Raspberry Pi 上にあるすべてのメモを検索できます。素晴らしい点は、メモはすべてプレーン テキストで保存され、ローカル マシンでアクセスできるため、必要に応じてデスクトップまたはラップトップでより強力なモデルを実行し、Obsidian を検索することもできることです。

ただし、検索に自己完結型の Pi を使用できるのは便利です。すべてがそこに残り、他のデバイスを使用するのは書き込みだけです。これにより、iPad、Chromebook、ラップトップ、デスクトップ、または電話から書き込みを行うことができ、相互の同期が追い付いているかどうかを心配する必要がなくなります。私が書いている内容が LiveSync を実行している Pi に戻ってくる限り、Qwen3 4B Instruct 2507 を使用して検索できます。

これを機能させるには少しハッキングが必要でしたが、私の痛みはあなたの利益です

実際のところ、Open WebUI で Obsidian Vault を検索できるようにするのは、最も簡単なことではありません。実際、適切に動作させるまでに数時間かかりました。これには、使用する最適なモデルを見つけ出したり、パラメータの低いモデルが最もスマートではないため、実際にツール呼び出しに従うようにする方法を考えたりする必要がありました。

そこで、これを自分で行うために必要なすべてのコードを私の GitHub に置き、これをすべて機能させるために私が経験した苦労を省きました。リポジトリを取得したら、ほぼ 1 回で完了するはずですが、必ず数回テストして、希望どおりに動作することを確認します。これらの小さなモデルは、提出を求められるまで幻覚を見ることを好みます。