英国政府は、「慎重に進める」という貴族からの警告を受け、自律型致死兵器システム（LAWS）と軍事用人工知能（AI）の開発においてすでに「責任を持って」行動していると主張している。
しかし、批評家らは、政府はこれに代わる倫理的観点に取り組むことに失敗しており、今回の対応は既に決定された行動方針への政府のコミットメントを確認するだけだと主張している。
軍事AIとLAWSの開発と配備の倫理を調査するために2023年1月に設置された兵器システム人工知能委員会は12月1日、「野心的で安全かつ責任ある」方法で軍事AIに取り組むという政府の約束は守られていないと結論付けた。現実まで。
ローズ氏は特に、LAWSと軍事AI全般を巡る議論は「目的の追求と理解の欠如に困惑している」と指摘し、軍事目的でAIを導入する際には「慎重に進める」よう政府に警告した。
委員会の調査結果を受けて政府は、すでに責任ある行動をとっているとし、国防省（国防省）のAIに関する優先事項は、潜在的な敵対者に直面した際の軍事能力を最大化することであると述べ、「その可能性は低い」と主張した。責任者”。
政府は、「徹底的で示唆に富んだ分析」を歓迎する一方、慎重に進めるべきだという委員会の全体的なメッセージはすでに「AI導入に対する国防省のアプローチを反映している」と付け加えた。
また、すでに「軍事分野におけるAIの安全かつ責任ある利用に取り組んでいる」とし、「国内および国際的な法的義務を常に遵守する」と述べた。
具体的な推奨事項
政府の対応は、委員会が行った具体的な勧告に対処したもので、その多くは、適切な精査が行われるよう議会がより多くの情報を利用できるようにすることや、国民の理解に向けた取り組みを行うことなど、軍事AIに対する監視の改善と民主的支援の構築に焦点を当てていた。態度。
委員会はまた、核の指揮、制御、通信におけるAIの使用を具体的に禁止するよう求めた。 AI兵器システムのライフサイクルのあらゆる段階における有意義な人間による制御。 そして、有意義なポリシー決定を行えるよう、運用上、技術にとらわれない AWS の定義を採用します。
「（英国政府は）国民の理解と民主的な支持を獲得しながら、設計、開発、展開のすべての段階で倫理的および法的原則を組み込む必要がある」と委員会委員長のリスベーン卿は述べた。 「テクノロジーは有利な場合には使用されるべきだが、英国の道徳原則にとって許容できない犠牲を払うべきではない。」
回答の詳細
政府はすでにこの問題に慎重に取り組んでいることを例を挙げて、兵器システムを人間が有意義に制御するというコミットメントをすでに打ち出しており、人間による制御の最も効果的な形式についての研究を積極的に行っていると述べた。 そしてすでに核兵器の「人間の政治的管理」を維持することを公に約束している。
倫理原則を遵守し、責任ある軍事AIのリーダーとなる方法を明確に概説する必要があるという勧告について、政府は直接コメントし、これらの成果を達成するための「具体的な措置」をすでに講じていると述べた。
「他のアプローチは英国国民の価値観と一致しないため、私たちは AI を安全かつ責任を持って導入する決意をしています。 安全性と法令順守に関する当社の既存の厳格なアプローチの要求を満たす。 あるいは、私たちが必要とするAI対応機能の開発を許可してください」と述べた。
「新しい技術や機能の採用と統合は国防にとって新たな課題ではないことを明確にすることが重要です。 私たちは、明確な責任範囲を備えた効果的なリスク管理システムを確立し、あらゆる軍事能力のライフサイクル全体にわたって保証と管理の枠組みを組み込んでいます。
「AI の性質や機能により独自の要件が必要な場合は、可能な限り確立されたフレームワークと連携しながら、これらのアプローチを見直して強化します。」
軍事力の最大化
政府は、国際法と自国の倫理原則を遵守する必要性に留意しながらも、「増大する脅威に直面して軍事能力を最大限に発揮することが優先事項である」と述べた。
この優先事項を考慮して、同委員会はAWSの定義の必要性について委員会に同意せず、したがって定義を採用するつもりはないと述べた。なぜなら「委員会が当然懸念している無責任かつ非倫理的な行為と結果」既存の（国際）法的メカニズムの下ではすでに禁止されています。」
さらに、特定の種類のシステムを禁止する新たな法的文書の出発点としてLAWSの定義を使用することは（一部の人々が主張しているが、委員会はそうではない）、「英国国防の利益に対する脅威を意味しており、考えられる最悪の場合には」と付け加えた。ウクライナにおけるロシアの行動と潜在的な敵対者による好戦性の全般的な増加。」
「私たちは、状況に応じた人間の関与を通じて実行される有意義な人間による制御は、システムのライフサイクル全体にわたって常に考慮される必要があると主張しています」と述べています。 「私たちと主要パートナーは、他の方法で運用される AWS の作成と使用に反対していることを明確にしていますが、同様の約束をしておらず、同様の責任を負う可能性が低い潜在的な敵に直面しています。
「むしろ、他の分野で見てきたように、敵対者は国際的な圧力や法的手段を利用して合法的な研究開発を制限しようとする一方、危険で無責任なユースケースを積極的に追求することになるでしょう。 英国がそのような敵対的な活動から国民と社会を守るための法的かつ責任ある防衛能力を開発するための行動の自由を維持することが重要である。」
政府は、新技術の統合は国防省にとって新たな課題ではないが、倫理原則をどのように運用できるかについてさらなるガイダンスを「間もなく」公表する予定であると述べた。そのガイダンスは具体的に、国防省が考えるガバナンス、説明責任、プロセス、報告メカニズムの概要を示すものである。原則を実践に移すために必要です。
批判的な声
政府の対応についてコメントした非政府組織ドローン・ウォーズ（2023年4月に委員会に証拠を提出）のピーター・バート氏は、対応には新しい情報はほとんどなく、この分野における政府の政策を観察する者にとって驚くような内容は何もないと述べた。 。
「この返答は、政府が既に計画していた行動方針にどのように従うつもりであるかを概説するだけであり、防衛人工知能戦略などの過去の政策声明の内容を繰り返し、軍事AI分野における最近の国防総省の活動と成果を誇張している。 」と彼はブログ投稿に書いた。
「ご想像のとおり、この対応は、高品質のデータセットの開発、国防省のAI調達取り決めの改善、潜在的な将来のAI機能の研究の実施など、独自の議題に沿った領主からの勧告に対する支持的なアプローチをとっています。」
しかし同氏は、委員会が国防総省のアプローチに「実質的に」異議を申し立てた稀な例ではあるが、これらの異議申し立ては最終的に政府によって拒否され、最も顕著なのは「英国は」という理由でAWSの定義の採用を拒否したことに関連していると指摘した。ロシアの軍事行動に対してさらに脆弱になるだろう。 本当に？”
ロンドンのクイーン・メアリー大学の政治理論准教授であり、著書『 デスマシン: 暴力テクノロジーの倫理エルケ・シュワルツ氏はComputer Weeklyに対し、政府の対応には心強い動きや道しるべもあるが、倫理学者として残念だと感じていると語った。
「倫理の問題はまったく取り上げられていません」と彼女は言う。 「代わりに、最近の『責任ある AI』への転換は、この概念のように十分に定義されておらず、過剰に使用されていますが、多くの重労働を行っています。
「近年私たちが目にしているのは、『責任』という比較的希薄な概念が、倫理とより深く関わるための代役となっているということです。 AI、特にターゲットシステムにおける AI に明らかに存在する、より厄介な倫理的問題に対処しようとするのではなく、「責任」への横方向のシフトは、AWS を構築しようとしている国家主体にとって多くの影響を及ぼします。」
シュワルツ氏は、「責任」に焦点を当てることは、責任ある主体（つまり西側諸国）と本質的に無責任な主体（通常は中国やロシア）との間に戦略的に有益な区別を生み出すことにもなると付け加えた。「私たちはこのことを議論の中で何度も何度も見ている」と彼女は付け加えた。言った。 「これもまた、倫理上の落とし穴の可能性、あるいは実際にこれらのシステムが実際に効果的であるという証拠の欠如の可能性について批評家が提起した異議を却下するのに効果的です。」
バート氏も同様に、軍事AIやAWSを巡る「志を同じくする国々」との対話に政府が重点を置いているのは「ほとんど努力がかからず、得られる成果も限られている可能性が高い」とし、真の変化を達成するには異なる見解を持つ人々との関わりが不可欠であると述べた。
「英国は明らかに国際舞台でこれを行う努力をしていない」と同氏は述べた。 「この対応には、『一部の敵対者が高度な AI 技術を悪用し、有害で安全で非倫理的な方法で導入しようとする可能性があることは承知している』といった判決が散りばめられており、英国がこれらの敵対者に対して敵対的なアプローチを取るつもりであることを示している」彼らと対話することに興味はありません。」
最終的にシュワルツ氏は、AI兵器にとって何が許容され、何が許容されないかという点でゴールポストがどれほど急速に変化しているかを考えると、政府の対応に「少しうんざり」を感じずに済むのは難しいのではないかと述べ、これを努力として捉えるべきだと述べた。提起された倫理的問題を回避し、以前と同様に継続するためです。
「言語的なねじれ、一般性、あいまいな表現が非常に多く、報告書だけでなく、この主題に関する非常に多くの専門家によって提起された倫理的問題の詳細への具体的な関与がほとんどありません」と彼女は述べた。 「この問題には強い確証バイアスが働いているように感じられ、議論の中で政府が聞きたい側面だけが認識されることになる。」
主要パートナー
バート氏とシュワルツ氏は、政府の対応が軍事AIの「主要パートナー」としてイスラエルを明確に強調しており、イスラエルはハブソラ（英語では福音）として知られる機械学習ベースのシステムを使って爆撃目標を指定していると指摘した。ガザでのキャンペーン。
2023年12月初めにAIシステムが公になった時点で、イスラエル国防軍（IDF）はすでにガザで1万5000人以上を殺害していた。 ガザ保健省の推計によれば、この数字は出版時点で 30,000 人を超えています。
「英国は、民間人の死傷者数の増大につながった標的攻撃や戦闘手法の使用についてイスラエルに責任を負わせるのではなく、英国は戦争努力を心から支持している」とバート氏は語った。
「領主委員会への対応で示された政府の方針と、ガザ攻撃中に経験している現実との間のこのようなギャップは、広報文書という実際の対応を暴露することになる。 この対応の最終的な目的は、政府が彼らの懸念に耳を傾けていることを貴族院議員に納得させることではなく、国防省の既存の政策と軍事AIへの投資をメディアや一般大衆に「売り込む」ことである。」
これをAIシステムが人間の判断に及ぼす疎外的な影響と結び付けて、世界がガザでIDFを目撃していることを考慮すると、人間をループに入れることは全く効果的ではない可能性があるとシュワルツ氏は述べた。
「人間の関与は承認プロセスの加速を意味し、あまり精査せずに標的を次々に承認することが標準になるだろう」と彼女は述べた。 「AI システムのロジックとそれが提供するスピードの魅力を考慮すると、これは明らかな軌道です。 しかし、そのような人間の関与は意味のあるものとは程遠いのです。」
シュワルツ氏は、政府の対応には欠陥があるにもかかわらず、今後の指針文書を熱心に見るだろうと結論付けた。 「将来の戦争に向けて、まだ試行済みの製品を販売しようとしている非常に強力でますます強力な技術ロビーに政府が完全に説得されていないという希望はまだあるかもしれない」と彼女は述べた。