Loading article…
 | |
| 形成 | 2016 |
|---|---|
| 本部 | カリフォルニア州バークレー |
リーダー | スチュアート・J・ラッセル |
親組織 | カリフォルニア大学バークレー校 |
| Webサイト | ヒューマンコンパチブル |
人間に適合する人工知能センター（CHAI ）は、カリフォルニア大学バークレー校にある、高度な人工知能（AI）の安全対策に焦点を当てた研究センターです。このセンターは、バークレー校のコンピュータサイエンス教授でAIの専門家であるスチュアート・J・ラッセルが率いる学者グループによって2016年に設立されました。[1] [2]ラッセルは、広く使用されているAIの教科書「人工知能：現代的アプローチ」の共著者として知られています。
CHAIの教員には、バークレー校のラッセル、ピーター・アビール、アンカ・ドラガン、コーネル大学のバート・セルマン、ジョセフ・ハルパーン、[3]ミシガン大学のマイケル・ウェルマン、サティンダー・シン・バベジャ、プリンストン大学のトム・グリフィス、タニア・ロンブロゾが含まれます。[4] 2016年、オープン・フィランソロピー・プロジェクト（OpenPhil）は、グッドベンチャーズが5年間で5,555,550ドルのCHAI支援を提供することを推奨しました。[5] CHAIはそれ以来、世界経済フォーラムやグローバルAI評議会とのコラボレーションを含む、12,000,000ドルを超える追加の助成金をOpenPhilとグッドベンチャーズから受け取っています。[6] [7] [8]
研究
CHAIのAI安全性研究へのアプローチは、価値整合戦略、特に逆強化学習に焦点を当てており、AIは人間の行動を観察することで人間の価値を推測します。[9] また、インテリジェントマシンが「オフスイッチ」を持ち、それを無効にできるシナリオでの人間と機械の相互作用のモデル化にも取り組んでいます。[10]
参照
参考文献
- ^ Norris, Jeffrey (2016年8月29日). 「カリフォルニア大学バークレー校、人間に適合する人工知能センターを開設」2019年12月27日閲覧。
- ^ ソロン、オリビア（2016年8月30日）。「ロボットの台頭：邪悪なAIは忘れて、本当のリスクははるかに陰険だ」ガーディアン。 2019年12月27日閲覧。
- ^ コーネル大学。「人間に適合するAI」。2019年12月27日閲覧。
- ^ 人間に適合する人工知能センター。「人々」 。 2019年12月27日閲覧。
- ^ Open Philanthropy Project (2016年8月)。「UC Berkeley — Center for Human-compatible AI (2016)」。2019年12月27日閲覧。
- ^ Open Philanthropy Project (2019年11月)。「UC Berkeley — Center for Human-compatible AI (2019)」。2019年12月27日閲覧。
- ^ 「カリフォルニア大学バークレー校 — 人間に適合した人工知能センター（2021）」。openphilanthropy.org。
- ^ 「世界経済フォーラム — グローバルAI評議会ワークショップ」。Open Philanthropy。2020年4月。2023年9月1日時点のオリジナルよりアーカイブ。 2023年9月1日閲覧。
- ^ Conn, Ariel (2016年8月31日). 「人間に適合するAIのための新しいセンター」. Future of Life Institute . 2019年12月27日閲覧。
- ^ ブリッジ、マーク（2017年6月10日）。「ロボットの自信を失わせることで、ロボットによる支配を防ぐことができる」タイムズ。
外部リンク
- 公式サイト