Loading article…
AI安全研究所 （AISI ）は、一般的に、最先端の人工知能（AI）モデル（フロンティアAIモデルとも呼ばれる）の安全性を評価し、確保することを目的とした国営研究所です。[1]
2023年には、AIの潜在的な実存的リスクについての公的な宣言により、 AIの安全性が注目を集めました。 2023年11月のAI安全サミットでは、英国と米国がそれぞれ独自のAISIを設立しました。 2024年5月のAIソウルサミットでは、国際リーダーが英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の研究所で構成されるAI安全研究所のネットワークを形成することに合意しました。[2]
タイムライン
2023年、英国のリシ・スナック首相は「英国を知的拠点だけでなく、世界的なAI安全規制の地理的拠点にする」意向を表明し、AI安全サミットの計画を発表した。 [3]彼は、AI企業が「自らの宿題を採点することはできない」と述べ、独立した安全性評価の必要性を強調した。[4] 2023年11月のサミットでは、フロンティアAIタスクフォースの発展形として英国AISIが正式に設立され、[5]米国AISIはNISTの一部として設立された。日本もこれに続き、2024年2月にAI安全研究所を設立した。[6]
ポリティコは2024年4月に、多くのAI企業が評価のために最先端のAIモデルへの事前展開アクセスを共有していないと報じた。メタの国際問題担当社長ニック・クレッグ氏は、多くのAI企業が英国と米国のAI安全研究所が共通の評価ルールと手順を策定するのを待っていると述べた。[7]英国と米国の間では、少なくとも1つの共同安全テストで協力するという合意が2024年4月に締結された。[8]当初はロンドンに設立された英国AI安全研究所は、2024年5月に多くのAI企業が拠点を置くサンフランシスコにオフィスを開設すると発表した。これは、英国の技術大臣ミシェル・ドネラン氏によると、「AIの安全性に関する新しい国際基準を設定する」計画の一部である。[9] [10]
2024年5月のAIソウルサミットでは、欧州連合と他の国々が独自のAI安全機関を設立し、国際ネットワークを形成することに合意した。[2]
イギリス
英国は2023年4月にフロンティアAIタスクフォースと呼ばれる安全組織を設立し、当初の予算は1億ポンドでした。[11] 2023年11月には英国AISIに発展し、イアン・ホガースが引き続き主導しました。AISIは英国科学技術イノベーション省の一部です。[5]
英国のAI戦略は、安全性とイノベーションのバランスを取ることを目指している。AI法を採択した欧州連合とは異なり、英国は、AI分野の成長を低下させる可能性があること、また技術の進歩によって法律が時代遅れになる可能性があることを考慮して、早期の立法化には消極的である。[6]
同研究所は2024年5月にAIモデルの推論能力や自律性などを評価するAI安全ツール「Inspect」をオープンソース化した。[12]
アメリカ合衆国
米国のAISIは、 NISTの一部として2023年11月に設立されました。これは、安全でセキュリティが高く、信頼できる人工知能の開発と使用に関する大統領令に署名した翌日に起こりました。[13] 2024年2月、ジョー・バイデンの元経済政策顧問エリザベス・ケリーがそれを率いるように任命されました。[14]
2024年2月、米国政府はGoogle、Anthropic、Microsoftなど200以上の組織を再編し、米国AI安全研究所コンソーシアム（AISIC）を設立した。[15]
2024年3月には1000万ドルの予算が割り当てられた。[16]オブザーバーは、特に米国に多くの大手AI企業が存在することを考慮すると、この投資は比較的小さいと指摘した。AISIを主催するNIST自体も、慢性的な資金不足で知られている。[17] [6]バイデン政権の追加資金要請は、議会の予算担当者によるさらなる予算削減で迎えられた。[18] [17]
参照
参考文献
- ^ 「安全機関がAIの研究とテストを促進すべく『国際ネットワーク』を結成」The Independent 2024年5月21日2024年7月6日閲覧。
- ^ ab Desmarais, Anna (2024-05-22). 「世界の指導者がAI安全研究所のネットワークを立ち上げることに合意」. euronews . 2024-06-15閲覧。
- ^ Browne, Ryan (2023-06-12). 「ロンドンが次のシリコンバレーを目指す中、リシ・スナック英首相は英国をAI安全規制の本拠地として提案」CNBC . 2024-06-21閲覧。
- ^ 「リシ・スナック氏：AI企業は『自らの宿題を採点する』ことはできない」BBC 2023年11月1日2024年6月21日閲覧。
- ^ ab 「AI Safety Instituteの紹介」。GOV.UK。2023年11月。 2024年6月15日閲覧。
- ^ abc Henshall, Will (2024年4月1日). 「米国と英国がAIモデルの安全性テストで提携を発表」. TIME . 2024年7月6日閲覧。
- ^ 「リシ・スナック財務相はAIを安全にすると約束。大手テック企業は協力しない」。ポリティコ。2024年4月26日。 2024年6月15日閲覧。
- ^ David, Emilia (2024-04-02). 「米国と英国は、安全上の脅威に対するAIモデルのテストに協力する」The Verge . 2024年6月21日閲覧。
- ^ Coulter, Martin (2024年5月20日). 「英国のAI安全研究所が米国にオフィスを開設」ロイター。
- ^ Browne, Ryan (2024-05-20). 「英国、規制の欠陥を精査する中、AI安全研究所をサンフランシスコに拡大」CNBC 。 2024年6月15日閲覧。
- ^ 「英国が次世代の安全なAIを構築し導入できるよう、専門家タスクフォースに当初1億ポンドを投入」GOV.UK 2024年7月6日閲覧。
- ^ Wodecki, Ben (2024年5月15日). 「AI Safety InstituteがAIモデルの安全性テストツールプラットフォームを発表」. AI Business .
- ^ Henshall, Will (2023-11-01). 「バイデンのAI大統領令がここまでしか進まない理由」TIME . 2024-07-07閲覧。
- ^ Henshall, Will (2024-02-07). 「バイデン大統領の経済顧問エリザベス・ケリー氏がAI安全性試験機関の責任者に選出」TIME . 2024年7月6日閲覧。
- ^ シェパードソン、デビッド（2024年2月8日）。「米国、大手AI企業がリスクに対処するため安全コンソーシアムに参加と発表」ロイター。
- ^ 「シューマー上院多数党院内総務、米国人工知能安全研究所設立に向けた初の資金提供を発表。この資金提供は安全性とAIイノベーションのバランスを取るための頭金であり、AIシステムの安全な運用を確保するための開発基準、ツール、テストを支援する」www.democrats.senate.gov 2024-03-07 2024-07-06閲覧。
- ^ ab Zakrzewski, Cat (2024-03-08). 「この機関はAIを安全に保つ任務 を負っている。そのオフィスは崩壊しつつある」ワシントンポスト。ISSN 0190-8286 。 2024年7月6日閲覧。
- ^ 「予算削減が実現すれば、NISTは人員削減を『検討しなければならない』」FedScoop 2024年5月24日2024年7月6日閲覧。
外部リンク
- 欧州AIオフィス
- 日本AI安全協会
- 英国AI安全研究所
- 米国AI安全研究所