Loading article…
人工知能のパートナーシップ（Partnership on Artificial Intelligence to Benefit People and Society、略称PAI）は、人工知能の責任ある利用に取り組む非営利連合です。2016年9月に発足したPAIは、90以上の企業や非営利団体から組織を集め、テクノロジーコミュニティ向けのベストプラクティスの推奨事項を検討しています。 [ 1 ]
AI パートナーシップは、2016 年 9 月 28 日に、Amazon、Facebook、Google、DeepMind、Microsoft、IBMを創設メンバーとして、 Microsoft ResearchのEric Horvitz 氏とDeepMind のMustafa Suleyman氏が暫定共同議長を務める形で公に発表されました。[ 2 ] [ 3 ] [ 4 ] [ 5 ] 2024 年、パートナーシップは、16 か国に拠点を置く学術界、市民社会、産業界から 126 のパートナー組織が含まれていると報告しました。[ 6 ]
2017年1月、AppleのSiriの先進開発責任者であるトム・グルーバーが、パートナーシップ・オン・AIの理事会に加わった。[ 7 ] 2017年10月、テラ・ライオンズがパートナーシップ・オン・AIの創設事務局長として加わった。[ 8 ]ライオンズは、以前は米国最高技術責任者のメーガン・スミスの政策顧問を務めており、機械知能、AI、ロボット政策に特に重点を置いた技術ガバナンスの専門知識を組織にもたらした。ライオンズの後任として、パートナーシップ・オン・AIの理事であるレベッカ・フィンレイが暫定事務局長に就任した。フィンレイは2021年10月26日にパートナーシップ・オン・AIのCEOに任命された。
2018年10月、Baiduはパートナーシップに参加した最初の中国企業となった。[ 9 ]
2020年11月、AIパートナーシップはAIインシデントデータベース（AIID）[ 10 ]を発表しました。これはAIのリスクと被害を特定、評価、管理、伝達するためのツールです。
2021年8月、AIパートナーシップは米国国立標準技術研究所（NIST）に回答を提出した。この回答では、AI研究の責任ある公開に関するSafety Critical AIレポート、機械学習ライフサイクルにおける文書化と透明性に関するABOUT MLプロジェクト、AIインシデントデータベースなど、PAIのAIリスク管理に関する取り組みの例として挙げられた。[ 11 ]また、この回答では、AIインシデントデータベースが、合意形成型、リスクベース、適応性、AIリスク管理の他のアプローチとの整合性など、NISTのAI RMFの最低限の属性の一部を満たしていることも強調した。[ 11 ]
2021年10月26日、レベッカ・フィンレイがCEOに任命された。[ 12 ]
2023年2月、人工知能パートナーシップ（PAI）は、合成メディアの倫理的な開発と利用を導くことを目的とした新しいフレームワークを発表しました。このイニシアチブは、Adobe、BBC、CBC/Radio-Canada、Bumble、OpenAI、TikTok、WITNESS、合成メディアのスタートアップであるSynthesia、D-ID、Respeecherなどの著名な組織を含む、さまざまな初期パートナーによって支援されました。透明性、創造性、安全性を重視するこのフレームワークは、合成メディアのスタートアップ、ソーシャルメディアプラットフォーム、報道機関、擁護団体、学術機関、政策専門家、一般市民の意見表明者など、幅広い利害関係者からの貢献を含む1年間の共同プロセスの結果です。[ 13 ]
Partnership on AI は、インパクトを達成するために多角的なアプローチを採用しています。その取り組みは、AI とメディアの健全性、AI、仕事、経済、正義、透明性、説明責任、包括的な研究と設計、AI のセキュリティという 5 つのプログラムに分かれています。これらのプログラムは、具体的な成果物、方法論的ツール、記事を通じて価値を生み出すことを目指しています。[ 14 ]
PAIは、AIとメディアの健全性に関するプログラムを通じて、AIがグローバルな情報エコシステムにプラスの影響を与えることを確実にするためのベストプラクティスを確立するために積極的に取り組んでいます。AIが有害なオンラインコンテンツを助長し、既存の否定的な言説を増幅させる可能性を認識し、PAIはこれらのリスクを軽減し、責任あるAIの存在を促進することに尽力しています。[ 15 ]
AI、労働、経済プログラムは、経済学者、労働者代表組織、PAIのパートナーを結集し、AIが包括的な経済の未来にどのように貢献できるかについて、一貫性のある対応策を策定するための協力プラットフォームとして機能します。2023年6月7日に発表されたPAIの「AIと共有繁栄のためのガイドライン」は、さまざまな段階におけるAIの賢明な利用のための青写真を示し、組織、政策立案者、労働団体を導きます。[ 16 ]
公平性、透明性、説明責任プログラムは、包括的な研究と設計プログラムと連携して、AI の状況を正義と公平性に向けて再構築することを目指しています。前者は、AI と基本的な人間の価値観の交差点を探求することで、アルゴリズムの公平性、説明可能性、責任に関するガイドラインを確立します。同時に、後者は、AI ソリューションの共同作成に関するガイドラインを提供することでコミュニティを強化し、研究と設計プロセス全体を通して包括性を促進します。[ 17 ] [ 18 ]
安全上重要な AI プログラムは、医療、金融、運輸、ソーシャルメディアなどの重要な分野における AI システムの導入拡大に対応しています。潜在的なリスクを予測し軽減することに重点を置いて、このプログラムはパートナーや利害関係者を集め、AI の研究開発ライフサイクル全体にわたるベスト プラクティスを開発します。注目すべき取り組みには、AI インシデント データベースの設立、責任ある公開のための規範の策定、革新的な AI 学習環境 SafeLife の作成などがあります。[ 19 ]
同協会は、AIパートナーシップの焦点を推進するテーマ的基盤の上にも構築されています。上記のプログラムに加えて、AIパートナーシップはAIの社会的影響を拡大し、肯定的な社会的有用性を促進することを目指しています。同組織は、公共福祉、教育、持続可能性などにおけるAIの潜在的な利点を強調しています。これらの具体的なユースケースに基づいて、AIパートナーシップは、AIの倫理的有効性を測定するための倫理的枠組みを開発しています。この倫理的枠組みは、AIにおける公平性を高める包括的な参加型実践を重視しています。[ 20 ]
人工知能に関するパートナーシップは、AIの責任ある利用を促進することを目的としたいくつかのイニシアチブに関与してきました。その主要なイニシアチブの1つは、AIモデルの安全な展開のためのフレームワークの開発です。このフレームワークは、モデルプロバイダーが社会の安全性を確保し、進化する機能や用途に適応できる方法でAIモデルを開発および展開するための指針となります。[ 21 ]
また、AIパートナーシップはDeepMindと協力して、テクノロジー分野における女性やマイノリティの離職率の高さについて調査する研究も開始した。[ 22 ]
AIにおける説明可能性の重要性を認識し、AIパートナーシップは「説明可能な人工知能」（XAI）の展開に焦点を当てた1日間の対面ワークショップを開催しました。このイベントには、さまざまな業界の専門家が集まり、XAIの概念について議論し、探求しました。[ 23 ]
情報整合性を支援する取り組みとして、AIパートナーシップはFirst Draftと協力して、オンライン上の欺瞞的なコンテンツに対処するための効果的な戦略を調査しました。[ 24 ]この取り組みは、AIにおけるベストプラクティスを特定し促進するための組織の体系的なアプローチを反映しています。
AIパートナーシップは、AIの実務者と影響を受けるコミュニティとの効果的な連携を促進するためのリソースも作成しています。[ 18 ]
2020年11月、AIパートナーシップは、人工知能システムの展開によって現実世界で発生した危害または危害寸前の事例の集合的な履歴を索引化することを目的としたプロジェクトであるAIインシデントデータベース（AIID）を発表しました。2022年に新たな特別目的の独立非営利団体に移行したAIIDは、AIに関連する潜在的なリスクを理解し、軽減するための貴重なリソースとして機能しています。[ 25 ]
最近では、PAI は PAI 2023 ポリシー フォーラムを開催しました。ロンドンで開催されたこのイベントは、多様なステークホルダーが集まり、世界的な AI ポリシーの最新動向と AI の安全性を確保するための戦略を探るものでした。イベント中、パートナーシップ on AI (PAI) は、一般からのフィードバックを募るため、「安全な基盤モデル展開のためのガイダンス」を発表しました。このガイダンスは、安全性が重要な AI 運営委員会と PAI の世界的なネットワークからの貢献によって形成され、大規模な AI 実装に関連するリスクを管理するための柔軟な原則を提供します。参加者には、政策立案者、AI 専門家、慈善団体や市民社会のメンバー、学術専門家などが含まれていました。[ 26 ]
2025年12月現在、人工知能パートナーシップ（PAI）の理事会には以下が含まれます。[ 27 ]
2020年10月、Access Nowは書簡でPAIからの正式な脱退を発表した。Access Nowは、PAI内で市民社会が果たす役割がますます小さくなっていること、PAIが加盟企業の姿勢に影響を与えたり変えたりしておらず、組織的に市民社会に対応したり協議したりすることを奨励していないことを発見したと述べた。Access Nowはまた、PAIのAI倫理とリスク評価へのアプローチ、および顔認識や大規模監視を可能にするその他の生体認証技術など、人権と根本的に相容れない技術の全面禁止を主張していることに反対を表明した。[ 28 ]
AI の失敗を繰り返すことを避けるには、過去の失敗を周知する必要があります。そのため、本日、インテリジェント システムが安全性、公平性、またはその他の現実世界の問題を引き起こしたインシデントを体系的に収集した AI インシデント データベース (AIID) を紹介します。