木曜日に発表された国連の報告書は、人工知能の監視と管理に向けた初の真に世界的な取り組みを国際機関が監督することを提案している。
国連事務総長のAIに関する高レベル諮問機関が作成したこの報告書は、AIとそのリスクに関する最新情報を集めるために、気候変動に関する政府間パネルに似た機関を設立することを推奨している。
報告書は、国連193カ国がリスクについて議論し、行動に合意できるよう、AIに関する新たな政策対話の開催を求めている。さらに、国連が、特に南半球の貧しい国々がAIの恩恵を受け、その統治に貢献できるよう支援する措置を講じることを勧告している。これには、これらの国々のプロジェクトを支援するAI基金の創設、AI標準およびデータ共有システムの確立、AI統治で国々を支援するためのトレーニングなどのリソースの創出が含まれるべきだと報告書は述べている。報告書の勧告の一部は、国家間のデジタルおよびデータ格差に対処するための既存の計画であるグローバルデジタルコンパクトによって促進される可能性がある。最後に、報告書の目標を達成するために国連内の既存の取り組みを調整することに専念するAIオフィスを国連内に設置することを提案している。
「AIには機会だけでなく、害やリスクもあるという点に国際社会は同意している」と、ホワイトハウスと国務省の推薦で国連諮問機関に務めた高等研究所の教授、アロンドラ・ネルソン氏は言う。
近年、大規模な言語モデルやチャットボットが示した驚くべき能力は、経済生産性の革命への期待をかき立てたが、一方で、AIは急速に発展しすぎて、すぐに制御が困難になる可能性があると警告する専門家もいる。ChatGPTが登場して間もなく、多くの科学者や起業家が、リスクを評価するためにこの技術の開発を6か月間停止することを求める書簡に署名した。
より差し迫った懸念としては、AIが偽情報を自動化し、ディープフェイク動画や音声を生成し、大量の労働者を置き換え、産業規模で社会のアルゴリズムによる偏見を悪化させる可能性があることが挙げられる。「切迫感があり、人々は協力する必要があると感じています」とネルソン氏は言う。
国連の提案は、世界中の政策立案者の間で、こうしたリスクを軽減するために AI を規制することへの関心が高まっていることを反映している。しかし同時に、大国、特に米国と中国が、経済的、科学的、軍事的に大きな利益をもたらすと期待されるこの技術で主導権を握ろうと競い合い、これらの国々が AI をどのように使用し、管理すべきかについて独自のビジョンを打ち出している中での提案でもある。
3月、米国は国連に決議を提出し、加盟国に「安全で安心、信頼できるAI」の開発を受け入れるよう求めた。7月には中国も、AIの開発と技術の普及に向けた協力を強調した独自の決議を提出した。国連加盟国はすべて、両方の合意に署名した。
「AIは米中競争の一部なので、両国が合意できるのは限られた範囲だ」とワシントンDCのシンクタンク、ブルッキングス研究所の専門家、ジョシュア・メルツァー氏は言う。主な相違点としては、AIが体現すべき規範や価値観、プライバシーや個人データの保護などが挙げられるとメルツァー氏は言う。
先進国間のAIに対する考え方の違いはすでに市場の亀裂を引き起こしている。EUはデータ使用の制限を伴う包括的なAI規制を導入しており、一部の米国企業はEUでの自社製品の販売を制限するに至っている。
米国政府が採用した不干渉の姿勢を受けて、カリフォルニア州は独自のAI規則を提案した。これらの規制の以前のバージョンは、企業に政府への活動報告を求める方法など、同州に拠点を置くAI企業から煩わしすぎると批判され、結果として規則は骨抜きにされた。
メルツァー氏は、AI の進化があまりにも速いため、国連だけでは世界協力を管理することはできないと付け加えた。「AI ガバナンスに関して国連が重要な役割を担うことは明らかだが、それは分散型のアーキテクチャの一部である必要がある」とメルツァー氏は述べ、各国も直接取り組む必要があると続けた。「急速に進化するテクノロジーがあり、国連は明らかにそれに対応できる体制が整っていない」
国連の報告書は、人権の重要性を強調することで加盟国間の共通基盤を確立しようとしている。「人権の観点から分析を据えることは非常に説得力がある」と、国際AIガバナンスを研究する英国オックスフォード大学のクリス・ラッセル教授は言う。「これにより、国際法の強固な基盤、非常に幅広い任務、そして人々に生じる具体的な危害に焦点を当てた研究が実現する」
ラッセル氏は、規制を視野に入れたAIの評価に政府が取り組んでいる作業には、かなりの重複があると付け加える。たとえば、米国と英国の政府には、AIモデルの不正行為を調査する別々の機関がある。国連の取り組みによって、これ以上の重複は避けられるかもしれない。「国際的に活動し、努力を結集することは、非常に理にかなっています」とラッセル氏は言う。
政府はAIを戦略的優位性を獲得する手段とみなしているかもしれないが、多くの科学者はAIに対する懸念で一致している。今週初め、西側諸国と中国の著名な学者グループは、オーストリアのウィーンで開催されたAIの安全性に関する会議の後、AIの安全性に関するさらなる協力を求める共同呼びかけを行った。
諮問機関メンバーのネルソン氏は、政府指導者らが重要な問題で協力することもできると信じている。しかし、国連とその加盟国が協力の青写真をどのように実行に移すかに大きく左右されるだろうと彼女は言う。「細かい実行にこそ問題が潜んでいる」と彼女は言う。
この記事は元々wired.comに掲載されたものです。