AIにおける多様性と包摂性の実現に向けた具体的なステップ

リンク一覧

概要、影響評価、および序論

AIにおける多様性と包括性の定義

研究の動機

研究方法

結果

議論

結論と今後の研究と参考文献

III. 研究の動機

私たちの日常生活における AI システムの存在感が高まるにつれ、倫理的で責任ある AI の検討が緊急に必要になっています。AI に関する数多くの倫理ガイドラインや原則が登場し、倫理的に健全な AI システムの重要な要素として公平性、正義、平等性を強調しています (10、17)。D&I は偏りのない結果を達成するための重要な社会的構成概念として広く認識されていますが (18、19)、D&I の原則を AI システムに効果的に統合する方法に関する具体的で実践的なガイダンスが著しく欠如しています (1)。このギャップは、既存の偏見を永続させ、社会的不平等を強化し、過小評価されたグループをさらに疎外する可能性があるため、より広範な AI エコシステムに広範囲にわたる影響を及ぼします。これらの原則の解釈と適用における一貫性のなさ (17) に加え、視点の多様性の欠如と南半球の意見の過小評価 (7、20) により、現在の倫理的 AI ガイドラインの有効性について懸念が生じています。

AIにおける倫理原則の実装は、実証された方法、共通の専門的規範、および堅牢な法的説明責任メカニズムがないため、依然として困難です（21）。AI倫理ガイドラインはアルゴリズムによる意思決定に焦点を当てることが多いですが、AIシステムを取り巻くビジネス慣行や政治経済の実践的および運用的な側面を見落としがちです（22）。この見落としは、「倫理ウォッシング」、企業秘密、競争的および投機的な規範などの問題につながる可能性があります（21）。

AI倫理ガイドラインの有効性と実用性については、激しい議論が続いている。マン（23）は、現在のAI倫理原則は、主にその論争の多い性質、孤立性、執行可能性の欠如により、AI技術に関連する人種的、社会的、環境的危害を軽減する上で無効であると強調している。これに対して、ランドグレン（24）は、AI倫理はトレードオフとして捉えるべきであり、ガイドラインは明確な選択とコミュニケーションを通じて行動指針を提供できると主張している。ランドグレンは、倫理ガイドラインを運用化して非専門家がアクセスして実行できるようにし、複雑な社会的概念を実用的な要件に変換することを強調している。概念上の意見の相違があるにもかかわらず、ランドグレンは、既存のフレームワークを基に、合意のある分野に焦点を当て、データ保護と公平性対策の明確な要件を設定することを提案している。

これらの課題を RE の視点から解決し、AI システムが責任を持って開発、展開されるようにするためには、AI の多様性と包括性の要件を運用化することが極めて重要であると私たちは考えています。AI の開発とガバナンスに D&I の原則を組み込むための明確で実行可能な手順を提供することで、より包括的で公平で倫理的な AI 環境を促進できます (25-27)。私たちは Munn の批判の妥当性を認識しており、私たちの研究では、Lundgren の呼びかけに従って、高レベルの倫理ガイドラインと実際の実装の間のギャップを埋めることを目指しています。

詳細には、AI システムの RE のコンテキストにおける既存の D&I ガイドラインの実用的な適用性が限られていることを調査および検討し、ガイドラインを効果的にするには運用化が必要であることを強調しています。これらのガイドラインには、循環性、特定の属性と手法に対する過剰な特異性、またはその逆に十分な特異性の欠如、リソースの制約を無視することによる絶対主義など、いくつかの問題があることがわかりました。多くのガイドラインは推進原則としては理にかなっていますが、D&I の懸念を AI システム開発に統合するには、それらを実行可能な要件に変換することが重要であると主張します。この課題に対処するために、セクション II で説明した 5 つの柱を役割、成果物、プロセスにマッピングするユーザー ストーリー テンプレートを提案し、これらのガイドラインを実際のソフトウェア開発のコンテキストでより適用できるようにすることを目的としています。