人間と共生可能な人工知能センター

人間と互換性のある人工知能センター（CHAI ）は、カリフォルニア大学バークレー校にある、高度な人工知能（AI）の安全方法に焦点を当てた研究センターです。このセンターは、バークレー校のコンピュータサイエンス教授でAIの専門家であるスチュアート・J・ラッセルが率いる研究者グループによって2016年に設立されました。^{[ 1 ] [ 2 ]}ラッセルは、広く使われているAIの教科書「人工知能：現代的アプローチ」の共著者として知られています。

CHAI の教員には、バークレーのRussell、Pieter Abbeel、Anca Dragan、コーネルのBart Selman、Joseph Halpern、^{[ 3 ]}ミシガン大学のMichael Wellmanと Satinder Singh Baveja 、プリンストンのTom GriffithsとTania Lombrozoが含まれます。^{[ 4 ]} 2016 年、オープン フィランソロピー プロジェクト(OpenPhil) は、Good Ventures がCHAI に 5 年間で 5,555,550 ドルの支援を提供することを推奨しました。^{[ 5 ]} CHAI はその後、 OpenPhilと Good Ventures から、世界経済フォーラムやグローバル AI カウンシルとのコラボレーションを含め、12,000,000 ドルを超える追加の助成金を受けています。 ^{[ 6 ] [ 7 ] [ 8 ]}

CHAIのAI安全研究へのアプローチは、価値観の整合戦略、特にAIが人間の行動を観察することによって人間の価値観を推論する逆強化学習に焦点を当てています。 ^{[ 9 ]} また、インテリジェントマシンがオーバーライド可能な「オフスイッチ」を持つシナリオでの人間と機械の相互作用のモデリングにも取り組んでいます。^{[ 10 ]}

• 汎用人工知能による存亡の危機
• 人類の未来研究所
• 生命の未来研究所
• 人間に適合
• 機械知能研究所

• 公式サイト