最近、AI の安全性がニュースで取り上げられています。米国陸軍省はAnthropicに対し、自社のAIを「あらゆる合法的用途」に使用することを許可するよう求めたが、AI企業は最終的に拒否した。これは多くの人にとって前向きな一歩であると考えられていますが、それでも、AI 企業が本当に良心を発揮できるのは、自分たちに都合のよい場合だけであるようです。
Anthropic の安全誓約の解除
Anthropic の「悪になるな」の瞬間
この物語のタイムライン全体は、一種のめまぐるしいものです。 2月14日、ウォール・ストリート・ジャーナルは、アンスロピックのAIチャットボットであるクロードがベネズエラのニコラス・マドゥロを標的とした作戦中に米軍によって使用されたと報じたが、AIがどのように使用されたかは明らかにされていない。
わずか1週間後、ピート・ヘグセス陸軍長官は交渉のためアンスロピック社のCEOであるダリオ・アモデイ氏を国防総省に呼び出し、その後、アンスロピック社に対し、同週金曜日を期限として、「合法的な使用目的で」DoWにアンスロピック社のAIモデルへの「自由なアクセス」を許可するという公開の最後通牒を出した。
奇妙なタイミングで、最後通告が発令されたのと同じ日に、Anthropic は責任あるスケーリング ポリシー (RSP) を更新しました。この文書の2024年版では、同社が最高レベルのセキュリティを必要とするAIモデル（個人が化学兵器、生物兵器、放射線兵器、核兵器を作成/入手、配備するのに役立つモデルなど）を開発した場合、「ASL-3セキュリティ基準を実装し、それがモデルに十分であることを確立するまでトレーニングを一時停止する」と述べていた。
2 月 24 日にリリースされた更新バージョンには、トレーニングを一時停止するというこの誓約は含まれなくなりました。この文書では、ある開発者が適切な安全基準の策定を一時停止し、他の開発者が開発を怠った場合、最も弱い保護を備えたAI企業が「ペースを握る」ことになると主張している。
言い換えれば、Anthropic が当初の安全性ポリシーに固執した場合、同じような懸念を持たなかった他の AI 企業が先を行きすぎる可能性があります。この意味するところは、AI 競争で他社に大きくリードされすぎないことが安全性よりも重要であるということです。
アンストロピックはDoWに屈服することを拒否した
OpenAIはすぐに参入しました
Anthropic が DoW の要求に屈する用意があることを示すような変更のタイミングにもかかわらず、Anthropic は 2 つの「真っ赤な一線」を守ることを拒否し、最後通牒の期限は過ぎていきました。それは、Anthropic の AI モデルを完全自律型兵器に使用すべきではないこと、および国内の大規模監視に使用すべきではないというものでした。
これは DoW にとって十分ではなく、米国政府が完全自律型兵器や国内の大規模監視に AI を使用するという選択肢を望んでいる可能性があることを示唆しており、どちらも憂慮すべき影響を及ぼします。アンスロピックは正式に「国家安全保障に対するサプライチェーンのリスク」に指定され、政府はクロードの連邦政府による使用を段階的に廃止するための6か月の期間に入ったが、アンスロピックはこの指定はDoWとの契約使用に限定されていると主張している。
しかし、DoW が別の AI パートナーを見つけるのに時間はかかりませんでした。 Anthropic がサプライ チェーン リスクとみなされてからわずか数時間後、OpenAI は自社の AI モデルを使用するための DoW との契約を発表しました。
反発はほぼ即座に現れた。この発表の直後、ネット上では人々が ChatGPT を捨て、Anthropic の Claude などの代替手段に移行する傾向が見られました。
OpenAIの契約は思っているほど安全ではない
合意には解釈の余地がある
奇妙なことに、OpenAIは、DoWとの契約にはOpenAIモデルを国内の大規模監視や自律兵器の誘導に使用できないことを意味するレッドラインが含まれていると述べたが、まさにこの問題こそがDoWとAnthropicとの契約を劇的に破綻させた原因だった。しかし、悪魔は細部に宿っているようです。
OpenAI の契約には次の内容が含まれています。
米国憲法修正第 4 条、1947 年国家安全保障法、1978 年 FISA 法などの適用法に従って、AI システムは米国人および国民の国内監視に意図的に使用されません。
アンスロピックの広報担当者は2月26日、CBSニュースに対し、DoWが「これらの安全策を自由に破棄できる法律条項と組み合わせた」妥協案を提示したと語った。 OpenAIとの契約にある「適用法との整合性」という文言は、かなりの重労働を行っているように見える。 OpenAIはガードレールを強化していると主張しているが、一部の批評家は、既存の法的枠組みへの依存が抜け穴を生み出し、政府が依然として国内監視にOpenAIの技術を使用できる可能性があると主張している。
人間主義は完全自律型兵器に反対しているわけではない
この問題は非難の対象となる可能性がある
Anthropic が最後通牒に屈することを拒否し、OpenAI が積極的に介入しようとしたことは、OpenAI に対するオンラインの反発を引き起こし、ChatGPT アカウントのキャンセルがすぐにトレンドトピックになりました。多くの人がキャンセルページのスクリーンショットを投稿し、多くのユーザーがAnthropicの一見より倫理的な姿勢を考慮してClaudeへの切り替えを選択しました。
ただし、現実はもう少し微妙な違いがあるかもしれません。 CBSニュースとのインタビューで、アモデイ氏は「我々は完全自律型兵器に断固として反対しているわけではない」と述べた。彼の問題は、現時点では AI モデルが完全自律型兵器に使用できるほど信頼性が低いことです。言い換えれば、幻覚を起こす可能性があるAIモデルには、おそらく致命的な武器の完全な制御を与えるべきではないということだ。
したがって、より皮肉な解釈は、砂の上の境界線は道徳的立場とは何の関係もないということです。それは、アモデイがアンスロピックのAIモデルが、いつかは失敗する可能性が高い完全自律型兵器に使用されることを望んでいないからだ。理論的には、その後政府は一転して、これらの兵器の失敗の結果をアンスロピック社のせいにする可能性があるが、それは同社の収益にとって良くないことだろう。
他の AI 企業は同等かそれ以上です
道徳的なAI企業は存在しないようだ
OpenAI と Anthropic は現在の嵐の中心にいますが、倫理に疑問のある AI 企業は彼らだけではありません。 Metaは自社のAIモデルをトレーニングするために80TB以上の海賊版書籍をトレントしたとされており、内部通信によるとマーク・ザッカーバーグ氏がこれが海賊版コンテンツであることを承知の上で決定にゴーサインを出したことが示されているという。
イーロン・マスク氏のGrokは、公開されている画像生成ツールを使用して、著名人を含む現実の人物の性的で合意のない画像をユーザーが生成できるようにしたとして批判を浴びた。同社は国内および多国籍機関による調査を受けてツールを制限した。
もう 1 つの主要なプレーヤーは Google Gemini です。この会社は、行動規範の冒頭の誓約から「悪にならないでください」を削除し、最後のコメントに格下げしたことで有名な企業によって運営されています。 Googleは検索結果にAIが生成した概要を使用しており、その中にはピザに糊を塗る、ミネラル含有量を得るために1日1個の小石を食べるといった提案が含まれている。これらの概要が重大な健康リスクをもたらしているにもかかわらず、Google は引き続きそれらを表示し続けます。
悲しいことに、AI企業は都合の良いときだけ良心を持っているのが現実です。その良心が競合他社に先を越されたり、多額の費用がかかったりする可能性がある場合、常にお金が優先されるようです。 AI モデルは、最小限の安全対策が講じられた状態で開発され続けています。これらの AI モデルが、AI が自己認識して人類を滅ぼそうとするすべての本や映画を含むデータでトレーニングされた場合、何が問題になる可能性があるでしょうか?