OpenAI や Google などの企業が生成 AI モデルを一般大衆に展開し始めたとき、人々がこのテクノロジーにどれほど執着するか、そしてそれが集団的な精神的健康にどのような影響を与えるかを予測していたのではないかと思います。一部の ChatGPT ユーザーは、OpenAI が GPT-4o モデルをシャットダウンしたとき、その特定のモデルをコンパニオンのように扱っていたため、正当に嘆きました。チャットボットでより暗い道を歩み、その技術が自殺念慮を勧め、助長したとされる AI 企業に対して訴訟を起こした企業もある。この状況は、当然のことながら、これらの企業に多大なプレッシャーを与えています。現在、生成 AI は大きな影響力を持っており、その技術の開発者には多くの責任があります。
Google による Gemini への最新アップデートは、このような背景の下にあります。 In a Tuesday morning press release, the company strayed away from fun new features or ability for its flagship AI;代わりに、Googleの最新のアップデートは、メンタルヘルスと、GeminiがGeminiを使用する人々の感情や気分にどのような影響を与えるかに焦点を当てています。具体的には、Google には 3 つの重要なポイントがあり、Gemini がこれらの困難な状況に対処する方法を改善するために実装していると述べています。
Gemini がユーザーに危機サポートをどのように提供するか
Googleは、「必要な人へのサポートへの道を合理化する」ためにGeminiにアップデートしたと述べている。同社によると、AIがチャット中にユーザーがメンタルヘルスの詳細を必要としている可能性があることを検出すると、Geminiは新しい「ヘルプが利用可能」モジュールを提示し、ユーザーに情報やケアを案内できるという。 Googleは、このチャット内モジュールに関して臨床専門家と協力したと述べている。
逆に、Gemini がユーザーが自傷行為や自殺の危険にさらされていると判断した場合、そのユーザーを危機ホットラインに即座に接続するための「ワンタッチ」インターフェイスを表示します。ユーザーは、Gemini チャットから直接ホットラインに電話やテキスト メッセージを送信したり、その Web サイトにアクセスしたりすることができます。会話が進んだとしても、Gemini はユーザーが必要に応じてこれらのリソースを利用できるようにします。
Googleは、危機ホットラインを支援するために今後3年間で世界規模で3,000万ドルの資金提供を約束すると発表した。同社は400万ドルの資金調達を含め、ReflexAIとの関係も拡大している。
これまでのところどう思いますか？
双子座は「急性の精神的健康状況」への対応方法を変えつつある
Googleによれば、同社の臨床チーム、エンジニアリングチーム、安全チームは現在、Geminiがこれらの困難な状況にどのように対応するかを改善することに重点を置いているという。具体的には、次の 3 つの分野に重点を置いています。
-
安全と人のつながり：Googleは、危機の際にAIチャットボットではなく、実際の人間にユーザーをつなげたいと考えている。
-
応答性の向上：AI の応答は、ユーザーに助けを求めるよう促すものであり、有害な行動や自傷行為を正当化するものではありません。
-
誤った信念の確認を避ける：Googleは、ジェミニが誤った信念を強化しないように、そして主観的な現実と客観的な現実を「穏やかに」区別するように訓練したと述べています。以前の生成 AI モデル (特に GPT-4o) はユーザーの妄想的思考を確認する準備ができていたため、この点は特に重要です。
Googleが若いユーザーを保護するためにGeminiで行っていることについて
ここでの最も重要な議論は、未成年者と彼らの AI との相互作用に関するものです。 Google は、若いユーザーを保護するために Gemini と行った以下の取り組みを宣伝しています。
-
「ペルソナ保護」は、ジェミニが未成年者と交流するときに仲間のように振る舞うことをおそらく阻止します。
-
感情的な依存を防ぐために、Gemini が若いユーザーと深くつながりすぎるのを防ぐ設計があります。
-
双子座は、いじめや嫌がらせを奨励することを避けます。
ユーザーの安全は全般的に重要ですが、文字通りテクノロジーとともに成長している若者にとっては特に重要です。 Google からのこれらの発表は心強いものですが、懐疑的であることは言うまでもなく、私にはまだ多くの懸念があります。メタ社のモデルと未成年者との関わり方に関する社内ポリシーは恐ろしいものだったので、大手テクノロジー企業が若者の利益を最優先に考えているとは必ずしも信じられない。しかし、若いユーザーが AI に愛着を抱いたり、AI が危険な有害な考えを強化したりするのを防ぐのに役立つ取り組みは、私はもちろん歓迎します。