AI へのプライベート ドキュメントのアップロードをやめました。この無料アプリが PC 上でプライベート ドキュメントを処理します

あなたはどうか知りませんが、私には請求書、請求書、銀行取引明細書、医療関連書類などがあり、どうすればよいのかわかりません。特定の詳細を見つけたり、複雑な用語を理解したり、今月の料金と先月の料金を比較したりするには、イライラすることは言うまでもなく、思ったよりも時間がかかることがあります。 ChatGPT や Claude などのツールを使用すると、これがはるかに簡単になりますが、いくつかの質問に答えてもらうためだけに、財務情報、医療情報、その他の機密情報を大手テクノロジー企業に渡すという考えには、私はあまり抵抗がありません。これらの企業が自発的にさらに多くのデータを提供せずに収集するデータの量については、私は十分な懸念を持っています。

AIの利便性は否定できませんが、個人情報の管理は手放さずに活用していきたいですね。そのため、私はローカル AI を使用してドキュメントを分析し、自分のミニ PC 上で質問に答えています。 Ollama とローカルにダウンロードした Qwen モデル (Qwen2.5:7B) を使用すると、コンテンツをクラウド AI プロバイダーに送信せずに、ドキュメントを添付したり、質問したり、役立つ概要を取得したりできます。そして、それを行うために高価な AI ワークステーションは必要ありません。 AMD Ryzen 5 プロセッサーと 32 GB の RAM を搭載したミニ PC ですべてが実行されます。

Ollama はプライベート ファイルの分析を驚くほど簡単にします

ファイルを添付するだけでドキュメントを分析できます

Ollama について私が感謝している点の 1 つは、良い結果を得るために特に技術的である必要がないことです。 Windows アプリケーションはグラフィカル インターフェイスを提供するため、ターミナルで時間を費やす必要はありません。 Ollama の Web サイトにアクセスし、ソフトウェアをダウンロードしてインストールするだけです。それが完了すると、アプリケーションを通じて AI モデルを直接参照してダウンロードできるようになります。選択肢はたくさんありますが、私のミニ PC には強力なグラフィック カードが搭載されていないため、すべてを停止させることなくローカルで実行できるものが必要でした。私は、私のミニ PC で十分に動作する比較的小型のモデル (4.7GB) である Qwen2.5:7B に落ち着きました。

モデルをダウンロードして実行すると、Ollama の使用感は驚くほど ChatGPT や Claude に似ていました。 PDF を会話にドラッグしたり、添付オプションを使用してドキュメントを選択したりできます。そこから、文書の要約、特定の情報の検索、複雑な言語の説明、文書の内容に関する質問への回答を依頼できます。これを行うのに複雑なプロンプトは必要ありません。他の人と同じように質問することができます。また、クラウド AI と同様に、同じ会話を続けている限り、再度アップロードすることなく、同じドキュメントについてフォローアップの質問をすることができます。

請求書、契約書、長い PDF で Ollama をテストしました

クウェンの理解力の高さに驚きました

Ollama を単に別の AI チャットボットとして使用するのではなく、私が定期的に扱う種類のドキュメントで Ollama がどれほど役立つかを知りたかったのです。請求書、銀行取引明細書、サービス契約書、製品マニュアルなど、8 つのサンプル文書を作成しました。各ドキュメントを個別に添付し、より複雑な質問に進む前に、簡単な質問から始めて、その内容について Qwen に質問することをお勧めします。たとえば、保守サービス契約に除外事項があるかどうかを Qwen に尋ねました。ハードウェアの交換、ランサムウェアの回復、時間外のオンサイト作業など、いくつかの作業を正確に識別しました。これに続いて、土曜日にネットワーク障害が発生したという仮定の状況を考えてみました。 Qwen は、契約内のいくつかの条項を結び付けて、土曜日のオンサイト サポートが含まれておらず、別途承認と追加料金が必要になる理由を説明することができました。

また、Qwen を使用してサンプルの銀行取引明細書を分析し、繰り返し発生する可能性のある支出を特定し、その合計を計算するように依頼しました。当初は1件の容疑を見落としていたものの、情報を抽出して結果を分かりやすく整理した。それについては後で説明します。請求書も自然な使用例です。品目や支払い条件を分類するのではなく、Ollama に請求日を調べたり、個々の料金を説明したり、何をいつ支払うべきかをまとめてもらうことができます。これは、医療請求書やその他の医療文書を解読するときに特に役立ちます。本当のメリットは概要を取得できることだけではありません。通常の言葉でフォローアップの質問をしたり、文書全体をもう一度読まなくても必要な情報を見つけたりできるようになりました。

オラマが作業を担当しましたが、いくつかの制限がありました

ローカル AI は完璧ではありませんが、クラウド AI も完璧ではありません

全体として、特にすべてが私のミニ PC 上でローカルに実行されていることを考慮すると、Qwen が私のドキュメントをいかにうまく処理できるかに感銘を受けました。とはいえ、いくつかの制限に遭遇しました。たとえば、銀行取引明細書で定期的な料金を特定するよう Qwen に依頼したところ、ストリーミングのサブスクリプションと携帯電話のプランはすぐに特定されましたが、ジムの会員権は見落とされました。ステートメントを再度確認するように依頼すると、3 つすべてが見つかり、合計が正しく計算されました。 ChatGPT、Claude、またはローカル LLM を使用しているかどうかに関係なく、AI が生成した回答を常に再確認する必要があることを思い出させる良い内容だと思います。

2 番目の問題には、Ollama が受け入れられない大きな PDF が関係していました。 24MB のドキュメントを添付しようとしましたが、最初は何も起こりませんでした。アプリケーションがフリーズしたのかと思いました。 2 回目の試行で、「ファイルが大きすぎます」というエラー メッセージが表示されました。理由を理解するのに時間を費やすのではなく、Microsoft Edge で PDF を開き、印刷機能を使用して小さなファイルに分割しました。これにより、ドキュメントをセクションに分けて添付し、作業を続けることができました。どちらの問題も取引の決定要因ではありませんでしたが、重要な文書の分析をローカル AI に依存する前に、両方とも理解しておく価値があります。

ローカル AI が私のワークフローに定着しました

私は ChatGPT や Claude を手放すつもりはありませんし、ローカル AI ができることすべてをすぐに置き換えるとは思いません。しかし、個人的な文書を扱う場合には、Ollama 以外のものを使用する理由はほとんどありません。無料で使いやすく、すでに所有しているハードウェアでも十分に動作します。まだ答えを再確認する必要がありますが、それはどの AI ツールにも当てはまります。私が最も驚いたのは、AI をローカルで実行することで放棄しなければならなかったことがいかに少ないかということでした。私が行っている種類の文書分析では、Ollama が私の第一の選択肢になりました。