ゲッティイメージズ
カリフォルニア州知事ギャビン・ニューサムは、潜在的な「重大な危害」を防ぐために、大規模なAIモデルのメーカーに安全性テストを課し、スイッチを停止することを義務付ける物議を醸した人工知能規制であるSB-1047に拒否権を発動した。
日曜夕方に拒否権発動を発表した声明の中で、ニューサム氏はモデルのサイズに対する法案の具体的な関心は見当違いだったと示唆した。 「SB-1047は、最も高価で大規模なモデルのみに焦点を当てることで、この急速に変化するテクノロジーの制御について国民に誤った安心感を与える可能性のある規制枠組みを確立している」とニューサム氏は書いた。 「より小型で特殊なモデルは、SB-1047 の対象となるモデルと同等かそれ以上に危険なものとして浮上する可能性があります。その代償として、公共の利益を優先して進歩を促進するイノベーションそのものが抑制される可能性があります。」
ニューサム氏は、AIモデルによる特定の「急速に進化するリスク」について言及し、より的を絞った方法で規制できる可能性があると述べ、「民主主義プロセスへの脅威、誤った情報やディープフェイクの拡散、オンラインプライバシーへのリスク、重要インフラへの脅威、社会的混乱など」と述べた。労働力。」カリフォルニア州ではすでに、こうした潜在的な危害の一部を対象とした多数の AI 法が制定されており、他の多くの州も同様の法律に署名しています。
「SB-1047は善意ではあるが、AIシステムが高リスク環境に導入されているかどうか、重要な意思決定が含まれているか、機密データの使用が含まれているかどうかを考慮していない」とニューサム氏は拒否権の説明を続けた。 「その代わり、この法案は、大規模なシステムがそれを展開する限り、最も基本的な機能にも厳しい基準を適用します。私は、これがテクノロジーによってもたらされる本当の脅威から国民を守るための最良のアプローチであるとは信じていません。」
この法案の共同執筆者であるスコット・ウィーナー州上院議員は、ソーシャルメディアへの投稿でニューサム氏の拒否権発動を「国民の安全と福祉、そして州の将来に影響を与える重要な決定を下している大企業の監督を信じているすべての人にとっての後退だ」と述べた。惑星。」 AI企業による安全性への自発的な取り組みだけでは十分ではないとウィーナー氏は主張し、効果的な政府規制の欠如は拒否権の「結果として私たち全員の安全性が低下する」ことを意味すると付け加えた。
激しいロビー活動の戦い
8月に州議会を通過したSB-1047は、ジェフリー・ヒントン氏やヨシュア・ベンジオ氏など、AI分野の多くの著名人の支持を得ていた。しかし、業界内外の人々はこの法案の強圧的なアプローチを批判し、有害な目的で他者が使用したオープンウェイトモデルに法的責任を課す可能性があることを懸念していた。
この法案が可決された直後、カリフォルニア州のビジネスリーダーらのグループはニューサム知事に公開書簡を送り、「悪用ではなくモデル開発を規制する」「根本的に欠陥のある」法案と呼び、「負担の大きい問題を導入する」として拒否権を発動するよう求めた。コンプライアンスコスト。」グーグルやメタなどの大手ハイテク企業のロビイストもこの法案に公に反対したが、これらの企業や他の大手ハイテク企業の従業員グループが法案可決に賛成票を投じた。
OpenAIの最高戦略責任者ジェイソン・クォン氏は公にSB-1047の拒否権発動を促し、連邦規制は「州法のつぎはぎ」よりも適切かつ効果的だと公開書簡で述べた。このような連邦法を制定しようとする初期の試みは、アノダイン政策のロードマップや作業部会の報告書がいくつか発表される中、議会で行き詰まっている。
xAIの指導者イーロン・マスク氏は法案可決を支持し、「厳しい決断」だが、最終的には「公衆にとって潜在的なリスクとなる製品や技術を規制するのと同じように」AIも規制される必要があると述べた。カリフォルニア州の強力な俳優組合であるSAG-AFTRAもこの法案を支持し、ディープフェイクや組合員の同意のない音声や肖像の使用などの既知の危険から守るための「第一歩」だと主張した。
今月初めの 2024 Dreamforce カンファレンスで、ニューサム氏は公に「法案（SB-1047 など）が与える可能性のあるある種の特大の影響と、特にオープンソース コミュニティにおける萎縮効果について…すべてを解決することはできない」と述べました。何を解決できるでしょうか？」