LinkedIn は水曜日、多数のユーザーのデータを使って、同意を求めることなく自社の AI をトレーニングしていたことを認めた。LinkedIn はオプトアウトを将来の AI トレーニングのみに制限しているため、ユーザーがすでに行われたトレーニングをオプトアウトする方法はなくなった。
LinkedInの法務顧問であるブレイク・ラウィット氏は、11月20日に予定されているアップデートの詳細を記したブログで、ユーザーの個人データがプラットフォーム上のAIにどのように活用されているかをよりわかりやすく説明するために、LinkedInの利用規約とプライバシーポリシーが変更されることを確認した。
新しいプライバシーポリシーでは、LinkedIn はユーザーに対し、「当社は、人工知能 (AI) モデルの開発とトレーニング、当社サービスの開発、提供、パーソナライズ、AI、自動システム、推論の助けを借りた洞察の獲得のために、ユーザーの個人データを使用する場合があります。これにより、当社のサービスはユーザーや他のユーザーにとってより関連性が高く、有用なものになります」と通知しています。
FAQ では、ユーザーが生成 AI やその他の AI 機能とやり取りするたびに、また、ユーザーが投稿を作成したり、設定を変更したり、LinkedIn にフィードバックを提供したり、一定時間プラットフォームを使用したりしたときにも、個人データが収集される可能性があると説明されています。
そのデータは、ユーザーが AI 生成コンテンツを削除するまで保存されます。LinkedIn では、過去の LinkedIn アクティビティについて収集されたデータを削除したい場合、または削除をリクエストする場合は、データ アクセス ツールを使用することをユーザーに推奨しています。
FAQによると、生成AI機能を支えるLinkedInのAIモデルは「LinkedInまたは別のプロバイダーによってトレーニングされる可能性がある」とのこと。たとえば、Azure OpenAIサービスを通じて一部のAIモデルを提供しているMicrosoftなどだ。
LinkedIn の FAQ では、ユーザーにとって潜在的に大きなプライバシーリスクとして、「生成 AI 搭載機能への入力として個人データを提供する」ユーザーが、最終的に「出力として個人データが提供される」可能性があることが指摘されています。
LinkedIn は、「モデルのトレーニングに使用されるデータセット内の個人データを最小限に抑えることを目指している」と主張しており、「トレーニングデータセットから個人データを編集または削除するためのプライバシー強化技術」に依存しています。
Lawit 氏のブログでは、すでに収集されたデータが AI トレーニング データ セットから削除できるかどうかについては明確に述べられていないが、FAQ では、AI トレーニングのために個人データを共有することに自動的に同意したユーザーは、「今後」侵入的なデータ収集をオプトアウトすることしかできないと断言している。
よくある質問には、オプトアウトしても「すでに実施されたトレーニングには影響しません」と記載されている。
LinkedInの広報担当者はArsに対し、「デフォルトで」AIトレーニングに参加することは「すべてのメンバーに利益をもたらす」と語った。
「人々はオプトアウトを選択できるが、彼らは仕事やネットワーキングを求めてLinkedInを利用しており、生成AIは私たちがその変化にプロフェッショナルを支援する方法の一部である」とLinkedInの広報担当者は述べた。
LinkedInの広報担当者はさらに、将来のAIトレーニングのオプトアウトを許可することで、同プラットフォームは「LinkedInのユーザーに、生成AI技術のトレーニングにデータをどのように使用するかという点において、さらに多くの選択肢と制御権を与える」と主張した。
LinkedIn で AI トレーニングをオプトアウトする方法
ユーザーは、アカウント設定の「データプライバシー」セクションに移動し、LinkedIn がほとんどのユーザーに対して自動的にオンにする「生成 AI 改善のためのデータ」の収集を許可するオプションをオフにすることで、AI トレーニングをオプトアウトできます。
唯一の例外は、欧州経済領域またはスイスのユーザーで、これらのユーザーは、個人データの収集にプラットフォームの同意、またはプラットフォームが正当な利益としてデータ収集を正当化することを要求する、より厳格なプライバシー法によって保護されている。これらのユーザーにはオプトインしたことがないため、オプトアウトのオプションは表示されない、とLinkedInは繰り返し確認した。
さらに、ユーザーは、LinkedIn のデータ処理異議申し立てフォームを送信することで、LinkedIn コンテンツの生成には使用されない生成 AI モデル (パーソナライゼーションやコンテンツ モデレーションの目的で使用されるモデルなど) の「トレーニング用個人データの使用に異議を申し立てる」ことができると The Verge は指摘している。
昨年、LinkedIn は AI の原則を共有し、「AI の潜在的なリスクを軽減するための有意義な措置」を講じることを約束しました。
更新されたユーザー契約書に明記されているリスクの 1 つは、LinkedIn の生成機能を使用してプロフィールを作成したり、投稿の作成時に提案を生成したりすると、「不正確、不完全、遅延、誤解を招く、または目的に適さない」コンテンツが生成される可能性があることです。
ユーザーは、誤解を招く情報を共有したり、LinkedIn のコミュニティ ガイドラインに違反する可能性のある AI 生成コンテンツを拡散したりしないよう、責任を持って注意する必要がある。また、プラットフォーム上で共有される情報に頼る際には注意するよう警告されている。
LinkedIn の利用規約には、「当社のサービス上のすべてのコンテンツやその他の情報と同様に、それが「AI」によって作成されたと表示されているかどうかに関係なく、信頼する前に必ず慎重に確認してください」と記載されています。
2023年にLinkedInは、ユーザーの「AIに対する理解は透明性から始まる」ため、「当社のAIの使用が人々にどのような影響を与えるかを常に明確かつシンプルな方法で説明するよう努める」と主張した。
欧州連合の AI 法や GDPR のような法律、特に強力なプライバシー保護を備えた法律が他の国でも制定されれば、何も知らないユーザーへの衝撃は少なくなるでしょう。そうすれば、AI モデルのトレーニングに関してはすべての企業とそのユーザーが平等な立場になり、不快な驚きや顧客の怒りも少なくなります。