ローカル LLM を使用して、銀行取引明細書が ChatGPT に到達する前にスクラブします。
in tech
Claude、Gemini、ChatGPT などの人気の AI チャットボットは、スプレッドシートやその他のアップロードされたファイルからのデータを分析できます。スプレッドシートをアップロードして、概要の作成やパターンの検索などを依頼できます。 ChatGPT を使用して支出を分析し、お金を節約する方法が見つかるかどうかを確認したいと考えていましたが、個人情報をクラウドにアップロードしたくありませんでした。 PII 検出ツールとローカル LLM を使用すると、ファイルをアップロードする前に個人情報を取り除くことができました。
銀行取引明細書からはあなたが思っている以上に多くのことがわかります
明らかな識別子はリスクの一部にすぎません
銀行やクレジット カードの明細書には、クラウドにアップロードしたくない明らかな詳細がいくつかあります。私の銀行口座番号、名前と住所、さらにはカード番号の一部さえも、不必要に共有したくない情報です。私の支出を分析するのにこの情報は必要ありません。
ただし、財務諸表には、これらの明白な識別子以外にも、お客様に関する情報を明らかにする可能性のある他の多くの詳細が含まれています。たとえば、通常の取引の詳細により、私がどこで買い物をするか、どこに住んでいるか、どの医師に診てもらっているか、子供がどこの学校に通っているか、いつ家を離れているか、どこに行くか、送金先または支払いを受け取る個人の名前などが明らかになる可能性があります。
明らかな詳細を隠した銀行取引明細書をアップロードするだけでは十分ではない場合があります。プライバシーを維持したいのであれば、もっと多くのものを取り除く必要があります。良いニュースは、プライバシー ツールと、控えめなミニ PC 上で実行されるローカル LLM を使用して、まさにそれができることです。
Presidio は見つけやすい詳細を取り除くことができます
最初のパスでは、名前、連絡先の詳細、財務識別子を処理します。
Presidio は、個人を特定できる情報 (PII) を識別および匿名化するためのオープンソース フレームワークです。抽出されたテキストを分析して、名前、電話番号、電子メール アドレス、場所、クレジット カード番号などを分析できます。検出されたテキストは、Presidio のアノニマイザーを使用して (PERSON) や (PHONE_NUMBER) などのプレースホルダーに置き換えることができます。
リクエストの一部としてカスタム認識機能を直接追加できるため、Presidio は、そのまま残される可能性のある情報を編集することもできます。たとえば、特定のアカウント参照形式を追加して、一致する参照も置換できるようにすることができます。
ミニ PC 上のコンテナーに Presidio をセットアップしました。 Presidio の処理はそのマシン上でローカルに行われるため、データをサードパーティのサービスに送信する必要はありません。
トランザクションの説明から多くの情報が得られる
最も明らかな詳細が必ずしも PII のように見えるとは限りません
Presidio を単独で使用する場合の問題は、すべてを捕捉できない可能性があることです。 Presidio の認識機能は、識別するように設定またはトレーニングされていないものを見逃す可能性がありますが、それでも個人情報や機密情報が漏洩する可能性があります。
たとえば、修学旅行の支払い参照により、私の子供の学校の名前が誤って公開される可能性がありますが、地元のクラブの名前は私の所在地を明らかにするのに十分なほどユニークである可能性があります。
Presidio は、LLM と同じように文書を理解できません。パターン マッチングやコンテキスト ルールなどの設定された認識機能に依存して、PII を含む可能性のあるテキストを識別します。何かがこれらのパターンから外れている場合、それが個人情報を含んでいることが明らかであっても、それに触れることはありません。
地元の LLM は Presidio が残したものをキャッチできる
あなたの身元への手がかりを便利なラベルに置き換えることができます
ここで、ローカル LLM が役立ちます。 LLM はコンテキストを使用して、Presidio が見逃してしまう可能性のある暴露テキストを特定できます。私のユースケースでは、機密テキストを有用なプレースホルダーに置き換えるようモデルに指示することもできます。
たとえば、取引の説明に私の歯科医院の名前が含まれている場合、私の所在地が暴露される可能性があります。ただし、受取人を単純に「PAYEE」に置き換えると、支出を分析するときに役に立ちません。世界で最も強力な AI も、お金が実際に何に使われているかを知ることができなければ、私に有益な支出アドバイスを与えるのに苦労するでしょう。
LLM を使用すると、自分の歯科医院の名前を「歯科医」に置き換えたり、子供の学校の名前を「学校」に置き換えたりできます。これにより、特定可能なものを公開することなく、ChatGPT が使用できる十分な情報が得られます。
ミニ PC 上の Ollama で実行されている小さなローカル モデルと注意深く書かれたプロンプトを使用すると、データを ChatGPT にアップロードする前に、個人を特定できる可能性のある追加情報を特定して置換できます。ここがローカル LLM の真価を発揮するところです。機密データがどこに送信されるかを心配することなくアップロードできます。私のハードウェアで実行するには時間がかかりますが、すぐに動作する必要があるものではありません。
2 つのプライバシー フィルターではまだ十分ではない可能性があります
結果は必ず自分で確認します
ローカル LLM は、プレシディオをすり抜けた詳細をキャッチするために存在しますが、何かを見逃してしまう可能性もあります。両方のパスを実行した後でも、すべての PII がデータから削除されたという保証はありません。
そのため、データが Presidio とローカル LLM の両方を通過したら、私は自分でデータを調べて、欠落しているものがないか探します。データを個人的に確認して初めて、PII が見落とされるリスクが十分に低いため、文書を ChatGPT にアップロードできると確信しました。
一度に何百ものドキュメントをアップロードするわけではないので、手動での確認にはそれほど時間はかかりません。私が支出を分析するときは、通常、1 か月分の明細だけをアップロードします。 PII のほとんどはすでに捕捉されているため、追加の個人情報を削除するには、通常、あちこちで 1 つまたは 2 つの内容を編集するだけで済みます。
ChatGPT は私がどこで買い物をするかを知る必要はありません
AI チャットボットは非常に便利ですが、何も考えずにあらゆるものをチャットボットにアップロードするのは簡単です。機密の財務データがサードパーティのサーバーに保存されることは望ましくありません。OpenAI はすでに私の名前や連絡先の詳細を含むアカウント情報と支払い情報を保持していますが、私がどこで買い物をするかを知る必要はありません。
関連情報は以下のリンクからご確認いただけます