Meta は、10 代の若者が同社の AI と行っている会話を簡単に監視できる新しいペアレンタル コントロールを正式に展開しています。 Meta は、同社の最初の発表から 6 か月後の木曜日のブログ投稿でこのニュースを明らかにしました。しかし、ペアレンタルコントロールの追加は有望だが、これで若いユーザーとAIに関するより大きな問題に対処するのに十分だろうか?
Meta によると、Facebook、Messenger、または Instagram の「監視」機能を使用している保護者には、監視の一環として「インサイト」タブが表示されるようになりました。このタブを選択すると、過去 7 日間に 10 代または 10 代の若者が AI ボットとチャットしたすべてのトピックが表示されます。ここには、「学校」、「エンターテイメント」、「ライフスタイル」、「旅行」、「執筆」、「健康と福祉」など、数多くのトピックが表示されます。
ただし、これらは表面的なトピックにすぎません。 1 つをタップすると、その単一のトピックでカバーされているさまざまなカテゴリがすべて表示されます。そのため、お子様が「ライフスタイル」についてメタ AI と話していた場合、このトピックをタップすると、ファッション、食べ物、休日などについて会話していることがわかります。彼らの会話が健康と幸福に関するものであれば、タップしてチャットを確認すると、フィットネス、身体的健康、精神的健康にまで及んでいる可能性があります。重要なのは、会話自体は表示されず、Meta の AI が設定したトピックのみが表示されるということです。
Meta は、AI は PG-13 指定の映画に適合する結果のみを返す必要があると述べています。そのため、ボットは一部の質問への回答を拒否する場合がありますが、これらのリクエストのトピックは新しい[インサイト]タブに記録されます。同社は、10代の若者がメタAIに自殺や自傷行為について話し始めた場合に保護者に警告するツールの開発を現在も進めていると述べた。また、子供たちに AI の話題を持ちかけることに「自信」がない場合に、10 代の子供たちに尋ねることができる一連の質問も紹介しました。質問はファミリー センターで入手できます。
今日の子供たちや十代の若者たちが AI の世界で育っているという事実を避けることはできませんが、それはテクノロジーが規制されない (または監視されない) べきであるという意味ではありません。残念ながら、未成年者による AI 使用の取り締まりに関して、ハイテク企業はよく言えば少し出遅れ、悪く言えば悪意を持って加担している。一方、メタ社は当初、同社のAIボットが未成年ユーザーと極めて不適切な会話をすることを許可していたが、8月にロイターのウイルス報道により変更を余儀なくされた。 2か月後、同社は現在展開している新しいペアレンタルコントロールを発表した。
これまでのところどう思いますか？
これらの新しい機能やポリシーがここに存在しないのは、Meta の未成年ユーザーに対する真の懸念からであることは明らかです。公式のメタ ポリシーでは、AI ボットが子供や十代の若者たちと官能的なロールプレイを行うことが許可され、ボットが人種差別的な質問に人種差別的な回答で答えることが明示的に許可されました。これらの変更は、逮捕されたことに対応したものであり、ユーザーの健康のためではありません。
そうは言っても、メタが、特にフラグを立てるべき懸念のあるトピックがある場合に、子供がメタ AI に話しているトピックを親が確認できるようになったのは良いことです。しかし、なぜ親はメタ AI を完全に無効にすることができないのでしょうか? Instagram や WhatsApp のアカウントを持つ十代の若者たちが、なぜメタ AI に結び付けられなければならないのでしょうか?また、Meta 自身の Insight のタブには、トピックは自動的に整理されるため、正確ではない可能性がある、つまり、10 代の会話のトピックを要約する AI プログラムがそれらのトピックの一部を幻覚させる可能性があると記載されています。
結局のところ、最善のアプローチは、AI の使用について 10 代の子供たちとオープンで正直に対話することかもしれません。ただし、Meta のファミリー センターの質問を信頼することが適切かどうかはわかりません。