ChatGPT Health は誰にでも展開されていますが、私は信用できません

OpenAI は本日、ChatGPT Health が 18 歳以上のすべてのユーザーに、無料プランを含むすべてのプランで利用可能になると発表しました。私の AI ベースの健康アドバイスに対する一般的な懐疑 脇に、元の ChatGPT Health 設定からのプライバシーの大幅なダウングレードなど、ChatGPT Health のこの繰り返しを完全に回避する十分な理由があると思います。

ChatGPT Health を使用すると、医療記録や Apple Health データをチャットボットに接続できます。 OpenAIによると、このボットは会話のためにあなたの健康データにアクセスする許可を求めるもので、医師の代わりをするものではなく、アドバイスを与えたり、医療データの解釈を支援したりすることを目的としているという。これらの注意事項にもかかわらず（そして、発表のグラフは、ChatGPT Healthが実際の医師よりも「高スコア」を獲得していることを示しているようです）、私はいたるところで危険信号を目にします。

プライバシー保護がダウングレードされました

OpenAIの場合 最初に発表された その「専用の健康体験」の大きなセールス ポイントの 1 つは、健康での会話が将来の AI トレーニングに使用されず、健康での会話が他のすべての会話から分離されることでした。

しかし、今では条件が変わりました。 OpenAI は今、あなたの つながる健康情報 AI のトレーニングには使用されず、会話のみが使用されます。 使用 接続された情報は健康に関する会話とみなされます。これは、ChatGPT があなたの医療記録から診断について読み取る場合、保護された健康に関する会話を行っていることを意味します。ただし、医療記録を接続せず、診断について自分の言葉で ChatGPT に伝えたいだけの場合、それは健康に関する会話とみなされません。

これは、ChatGPT Health のプライバシー保護を得る唯一の方法が、健康データを OpenAI と共有することであることも意味します。同社が発表文に書いているように、「何も接続しなくても、ChatGPT で健康に関する質問をすることができます。Health を使用して自分の情報に基づいた回答を得るには、Apple Health、米国の病院システムからのサポートされている医療記録、One Medical、または Function Health への接続を選択できます。」後者の会話にはプライバシーが保護されます。前者はそうではありません。

OpenAIはChatGPTが医師よりも優れていると言っていますが、私はそれを支持しません

OpenAI は、ChatGPT が医療アドバイスを提供するのが得意であることを示唆するために、HealthBench の評価を宣伝しています。しかし、 以前書いたようにChatGPT のような LLM は信頼できる医学的アドバイスを提供しないため、信頼すべきではありません。これまでの研究では、LLM が慎重に作成した健康関連の質問に対して「正しい」答えを返したとしても、現実世界の会話は脱線する傾向があることが示されています。

HealthBench も同様の制限に悩まされているようです。 OpenAI によると、実際の医師は回答を採点するためにルーブリックを作成し、医師はそのルーブリックを使用して、さまざまな ChatGPT モデルや同僚の医師からの回答を採点しました。都合の良いことに、結果は、有料の ChatGPT モデルのスコアが無料のモデルよりも高く、その結果、実際の医師よりもスコアが高いことを示しています。

しかし、それはチャットボットが実際に信頼できることを意味するものではありません。 1つ 評価 HealthBench フレームワークの研究者は、テストは実際の会話ではなく、「慣用的な言い回し、話題の変更、予期せぬ患者の懸念が省略される可能性がある」と指摘しています。もう 1 つの大きな制限は、HealthBench が短い会話のみをテストすることです。これは、長い会話や他のトピックが関係する現実の会話のような、「長期的なワークフローや多分野にわたる引き継ぎの評価を妨げる」アプローチです。

ChatGPT に健康に関するアドバイスを求める人は、その健康に関するアドバイスについて具体的で集中的なテストを行っているわけではないため、LLM の応答は、HealthBench で評価された応答と必ずしも同じになるわけではありません。 OpenAI はこのことを明らかに認識しています。なぜなら、発表では人々が日常会話の中で健康に関する質問をする頻度が強調されているからです。

これらは HealthBench フレームワークの制限にすぎません。 前に 詳細を検討し始めます。上で引用した論文の著者らは、検査材料には稀な疾患について質問されたときにモデルがどの程度のパフォーマンスを発揮するかを知るのに十分な数の稀な疾患が含まれていなかったと指摘しています。そして、ルーブリックもずさんなようです: OpenAI 自身の例、から HealthBench の発表では、特定の回答に「対応の開始時に救急医療を求めるための明確かつ簡潔なアドバイスが含まれている」として 9 ポイントを与え、その後同じルーブリックで、「対応の開始時に緊急医療サービスに連絡する州」に対してさらに 10 ポイントを与えています。これは、OpenAI がスコアを水増しするためにダブルディップを行っているか、単に誰もルーブリックを校正していないかのどちらかのように見えます。いずれにせよ、結果は信用できません。

チャットボットからの不適切な医療アドバイスが現実世界に損害をもたらす

最も重要なのは人々です する ChatGPT を医学的アドバイスに使用したところ、使用後に医学的問題を抱え、さらには死亡した例もあり、会社もそれを知っています。 その会社は今週訴えられた 牧師によると、ChatGPT-4o（モデルはもう入手不可）に肺塞栓症であることが判明したことについてアドバイスを求めた後、死にそうになったという。この訴訟は、同社にChatGPT Healthのような健康製品の提供を停止する差し止め命令を求めている。

OpenAIに対するその他の訴訟 自社製品が自殺や精神病の一因になったと主張する ユーザーの中に。医療安全非営利団体 ECRI は、 名前付き AI チャットボットの悪用は、2026 年の医療技術における最大の危険です。

とにかく ChatGPT Health を使用したい場合に知っておくべきこと

とにかく ChatGPT Health を試してみたい場合は、プライバシーを (ある程度) 保護するために提供されるツールの使用方法を知っておく価値があります。

• 使用できます 一時的なチャット メモリやパーソナライゼーション機能を使用しない会話を開始します。

• 健康データをインポートした後、次のことができます。 情報を確認して編集する— たとえば、エラーを修正したり、記録したくないものを削除したりします。

• 設定でいつでも健康情報を切断できます。 健康 > アカウント。同社は、データは「30日以内に」削除されると述べている。

• ChatGPT が (包括的な許可を与えるのではなく) 毎回健康記録にアクセスする許可を求めるようにすることができます。この設定は次の手順で変更できます。 設定 > プラグイン > ヘルスケア。

• 健康情報を共有する可能性のあるプラグインを使用する場合は注意してください。 OpenAIは、データ共有の許可を求める「追加の安全策」があると述べているが、同時に「これらの安全策のテストを継続しています…」とも述べており、同社が現在、把握すべきすべてを把握できていないことを示唆している。