Loading article…
国際安全倫理AI協会（IASEAI ）は、人工知能（AI）の進歩に伴うリスクと機会に対処することをミッションとする非営利団体です。IASEAIは、AIの開発と展開における安全性と倫理を促進するために設立されました。同団体は、政策形成、研究支援、専門家と利害関係者のグローバルコミュニティの育成に重点を置いています。[ 1 ]
IASEAIは、政策策定、研究・表彰、教育、コミュニティ構築に携わっています。同組織は、標準、規制、国際協力、研究資金に関する政策分析を作成し、ポジションペーパーとして公表しています。また、 AIの安全性と倫理に関する技術的および社会技術的な側面に関する研究も支援しています。
第1回IASEAI会議であるIASEAI '25は、パリAIアクションサミットに先立ち、2025年2月6日～7日にパリで開催されました。このイベントには、学術界、市民社会、産業界、政府の専門家が集まり、AIの安全性と倫理に関する進展について議論しました。プログラムでは、40を超える講演、基調講演、グローバルな連携、安全工学、偽情報、解釈可能性、AIアライメントに関する専門トラックが行われました。[ 2 ] [ 3 ] [ 4 ]
主な参加者は以下の通り。
この会議では、オーストラリアeヘルス研究センター（AEHRC）のアイダ・ブランコビッチ氏など、若手研究者や実務家による発表も行われた。ブランコビッチ氏は、臨床意思決定支援AIシステムにおける倫理的リスクを軽減するために開発されたガイドラインを発表した。[ 5 ]他の参加者には、クレタ工科大学のゲオルギオス・チャルキアダキス氏などが含まれる。[ 6 ]
取り上げられたトピックには、人間のフィードバックからの強化学習（RLHF）、AIガバナンス、規制フレームワーク、エージェントAI、誤情報、透明性などがあった。ジェフリー・ヒントンの基調講演「理解とは何か？」では、AIシステムがどのように意味を処理するかを探った。ジリアン・ハドフィールドは予見的法的能力を求め、エヴィ・ミカは「線形社会選択」を用いてAIを整合させるためのフレームワークを紹介した。[ 3 ]
この会議は、より広範なパリAIアクションサミットとは対照的に、AIの安全性に重点を置いていたことで注目された。一部のオブザーバーは、パリAIアクションサミットはAIの経済的および地政学的側面に重点を置いていたと述べている。出席者のポール・サーモン（人間工学教授）は、より広範なサミットが商業的な物語を優先して安全性の問題を後回しにしていると批判し、AIのリスクに対する一般の理解を曖昧にする5つの「安心させる神話」を概説した。[ 7 ]
イベントの最後に、IASEAIは議員、研究者、市民社会に対し、世界的な協力、拘束力のある安全基準、公的研究資金の拡大を提言する10項目の行動要請を発表した。[ 8 ]
運営委員会は以下のメンバーで構成されています。