メンタルヘルスに関する質問や懸念についてチャットボットに頼ることに対する専門家のアドバイスにもかかわらず、人々は助けを求めて ChatGPT のような AI プログラムに目を向けています。同社は、ユーザーがChatGPTとの会話後に自殺で死亡したエピソードなど、特定の精神的健康問題への製品の対処方法について批判に直面している。これらの問題に対処するキャンペーンの一環として、OpenAI は現在、自分の考えに懸念を抱いている可能性のあるユーザーのために自主的な安全チェック システムを展開しています。
Mashable が報じたように、OpenAI は、ChatGPT アカウントに接続するためにあなたの人生において信頼できる人を選択できる新機能である「Trusted Contact」を開始しました。目的は、ChatGPT 内で会話を共有したり、プロジェクトで共同作業したりすることではありません。むしろ、あなたの個人的なチャットが自傷行為に関して懸念すべき方向に傾いているとチャットボットが判断した場合、ChatGPT は信頼できる連絡先に連絡し、あなたの様子を確認するように通知します。
クレジット: OpenAI
この機能を設定するには、あなたの人生の中で 18 歳以上の人を選択してください。 (連絡先は韓国で 19 歳以上である必要があります。) ChatGPT は、その人に信頼できる連絡先になるための招待状を送信します。招待状の有効期限が切れるまで、1 週間以内に返信する必要があります。もちろん、参加したくない場合は招待を断ることもできます。
連絡先が同意すると、この機能が開始されます。将来、OpenAI の自動システムが「深刻な安全上の懸念を示す方法で」自傷行為について話し合っていると判断した場合、ChatGPT は信頼できる連絡先に連絡する可能性があることを通知するだけでなく、アイスブレイクのための「会話のきっかけ」を提供して、その連絡先に自分自身で連絡することも奨励します。
それが起こっている間、OpenAIには状況を分析するための「特別な訓練を受けた人々」のチームがいます。 (すべてが自動化されているわけではないようです。) このチームが状況が深刻であると結論付けた場合、ChatGPT は、信頼できる連絡先がアカウントを持っている場合は電子メール、テキスト、または ChatGPT のアプリ内通知を通じてその連絡先に警告します。 OpenAIによると、通知自体は非常に限定的で、自傷行為の懸念に関する一般的な情報のみを共有し、連絡先に連絡するようアドバイスしている。チャットのトランスクリプトや概要も送信されないため、あらゆる点を考慮すると、一般的なプライバシーは保護されるはずです。
これまでのところどう思いますか？
OpenAIは、安全に関する通知を1時間以内にレビューすることに取り組んでおり、臨床医、研究者、メンタルヘルスおよび自殺予防団体の指導を受けてこの機能を開発したと述べた。もちろん、この機能は完全に任意であるため、役立つと思われる場合、ユーザーは自分自身 (および連絡先) を登録する必要があります。しかし、彼らがそうしている限り、これは、友人や家族が困難に直面しているときにその人の様子を確認するのに役立つ方法になる可能性があります（彼らがChatGPTでその考えを共有していると仮定すると）。
情報開示: Lifehacker の親会社である Ziff Davis は、2025 年 4 月に OpenAI に対して、AI システムのトレーニングと運用において Ziff Davis の著作権を侵害したとして訴訟を起こしました。
{このテーマについてさらに詳しく知りたい方は以下をご覧ください|関連情報は以下のリンクからご確認いただけます}