人工知能安全研究所

アルバネーゼ政府は2025年11月25日にオーストラリアAI安全研究所の設立を発表した。^{[ 13 ]}

カナダは2024年4月にAI安全研究所を設立すると発表し^{[ 14 ]}、同研究所は2024年11月に正式に設立された^{[ 15 ]。}同研究所はイノベーション・科学・経済開発省の管轄下にあるが、カナダ先端研究所（CIFAR）とも提携している^{[ 15 ]} 。 5年間で5,000万カナダドルの予算が支給される^{[ 15 ] 。}

2024年5月に設立されたEU AIオフィスは、AI安全研究所の国際ネットワークのメンバーである。^{[ 14 ]}

2025 年 1 月 31 日、フランス政府はInstitut National pour l'évaluation et la Sécurité de l'intelligence artificielle (INESIA)、つまり国立 AI 評価安全研究所を設立しました。^{[ 16 ] [ 17 ]}

電子情報技術省は、 AI安全研究所の設立に関して 、2024年10月7日にMeta Platforms、Google、Microsoft、IBM、OpenAI、NASSCOM、Broadband India Forum、Software Alliance、インド工科大学（IIT）、The Quantum Hub、Digital Empowerment Foundation、 Access Nowと協議を行った。規制から標準設定、リスク特定、損害検出へと焦点を移すことが決定された。これらはすべて相互運用可能な技術を必要とする。AISIは、初期予算としてIndiaAIミッションの安全で信頼できる柱に割り当てられた20億ルピーを支出する可能性がある。将来の資金は、IndiaAIミッションの他の構成要素から提供される可能性がある。^{[ 18 ] [ 19 ]}

ユネスコとMeitYは、 2024年から人工知能の安全性と倫理の下でAI準備状況評価方法論に関する協議を開始しました。これは、産業界におけるAIの倫理的かつ責任ある利用を促進するためです。この調査では、特に制度的および規制的能力を強化する試みにおいて、政府が関与できる分野が特定されます。^{[ 20 ] [ 21 ]}

電子情報技術大臣のアシュウィニ・ヴァイシュナウ氏は、AI モデルの倫理的かつ安全な適用を保証するために、2025 年 1 月 30 日にインド AI 安全研究所の設立を発表しました。この研究所は、インドの社会的、経済的、文化的、言語的多様性に根ざし、インドのデータセットに基づく国内の研究開発を促進します。学術機関や研究機関、民間セクターのパートナーの協力を得て、この研究所はハブ アンド スポーク方式を採用し、インド AI ミッションの安全で信頼できる柱のプロジェクトを実行します。^{[ 22 ] [ 23 ]}学術機関 (IIT など)、テクノロジー企業、ユネスコなどの国際機関との協力のもと、「ハブ アンド スポーク」モデルで運営されます。^{[ 24 ]}

日本AISI（またはJ-AISI）^{[ 25 ]}は2024年2月に設立されました。情報技術振興庁の一部であり、約23名の職員を擁しています。^{[ 14 ]}この研究所は、AISI評議会、AISI運営委員会、および6つのチームからなる事務局で構成されています。^{[ 25 ]}村上明子氏（以前は日本IBMおよび損保ジャパンに勤務）が研究所の事務局長を務め、平本健司氏と西村卓氏が研究所の2名の副事務局長を務めています。^{[ 25 ]}

ケニアはAI安全研究所の国際ネットワークへの参加に同意したが、同国はまだ詳細を発表していない。^{[ 14 ]}同国はネットワークに参加している唯一のアフリカの国である。^{[ 26 ]}

デジタル・トラスト・センターは、当初2022年6月に設立されました。^{[ 27 ]} 2024年5月には、シンガポールAISIに改名されました。^{[ 27 ]}南洋理工大学の一部であるこの研究所は、情報通信メディア開発庁^{[ 27 ]}と提携しており、年間1,000万シンガポールドルの投資によって支えられています。 ^{[ 14 ]}

韓国は2024年5月、電子通信研究院の傘下にAI安全研究所を設立すると発表した。この研究所は、年間1,000万～2,000万ウォンの暫定的な投資によって支援され、少なくとも30人を雇用する予定である。^{[ 14 ]}この研究所は2024年11月に設立され^{[ 28 ]} 、城南市の盆唐区に拠点を置いている。^{[ 29 ]}

英国は2023年4月に、当初予算1億ポンドでフロンティアAIタスクフォースと呼ばれる安全組織を設立した。 ^{[ 30 ]} 2023年11月にはAI安全研究所に発展し、イアン・ホガースが引き続き率いた。AISIは英国の科学・イノベーション・技術省の一部である。^{[ 5 ]}

英国のAI戦略は、安全性とイノベーションのバランスを取ることを目指している。AI法を採択した欧州連合とは異なり、英国は、AI分野の成長を阻害する可能性があり、また法律が技術進歩によって時代遅れになる可能性があることを考慮して、早期の立法には消極的である。^{[ 6 ]}

2024年5月、同研究所は「Inspect」と呼ばれるAI安全ツールをオープンソース化し、推論能力や自律性の度合いなど、AIモデルの能力を評価した。^{[ 31 ]}

2025年2月、英国の機関はAIセキュリティ研究所に改名された。オブザーバーは、この名称変更は、同研究所がAIアプリケーションにおけるアルゴリズムの偏りや言論の自由といった倫理的問題に焦点を当てないというシグナルだと捉えた。^{[ 32 ]}

米国AISIは、国立標準技術研究所（NIST）の一部として2023年11月に設立されました。これは大統領令14110号の署名の翌日のことでした。^{[ 33 ]} 2024年2月には、ジョー・バイデンの元経済政策顧問であるエリザベス・ケリーがAISIのリーダーに任命されました。^{[ 34 ]}

2024年2月、米国政府は米国AI安全研究所コンソーシアム（AISIC）を設立し、Google、Anthropic、Microsoftなどの200以上の組織を再編した。^{[ 35 ]}

2024 年 3 月には 1,000 万ドルの予算が割り当てられました。^{[ 36 ]}オブザーバーは、特に米国に多くの大手 AI 企業が存在することを考えると、この投資は比較的小さいと指摘しました。AISI をホストする NIST 自体も、慢性的な資金不足で知られています。^{[ 37 ] [ 6 ]}バイデン政権による追加資金の要請は、議会の歳出委員会によるさらなる予算削減で迎えられました。^{[ 38 ] [ 37 ]}

トランプ大統領の下で、同機関のメンバーが2025年2月にパリで開催されるAIアクションサミットに出席する計画は中止された。 ^{[ 39 ]}米国と英国はサミットの最終コミュニケへの署名を拒否した。米国のJDヴァンス副大統領は、「成長促進AI政策」を安全よりも優先すべきだと述べた。^{[ 40 ]}

同機関の名称は2025年6月に人工知能標準・イノベーションセンター（CAISI）に変更され、その使命も変容した。^{[ 41 ]}ハワード・ルトニック商務長官によれば、「検閲と規制は国家安全保障を装って長年行われてきた。イノベーターはもはやこれらの基準によって制限されることはない。CAISIは、急速に発展するこれらの商用AIシステムの米国のイノベーションを評価し強化すると同時に、それらが国家安全保障基準に安全であることを保証する。」^{[ 42 ] [ 43 ]}米国商務省は、CAISIが国際的に米国の利益を代表し、外国政府による米国技術への負担の大きい不必要な規制から米国を守ると述べた。同機関はNIST情報技術研究所と協力する。^{[ 43 ]}