Loading article…
 ハードカバー版 | |
| 著者 | ブライアン・クリスチャン |
|---|---|
| 言語 | 英語 |
| 主題 | AIアライメント |
| 出版社 | WWノートン・アンド・カンパニー[1] |
発行日 | 2020年10月6日 |
| 出版地 | アメリカ合衆国 |
| メディアタイプ | 印刷物、電子書籍、オーディオブック |
| ページ | 496 |
| 番号 | 0393635821 |
| OCLC | 1137850003 |
| Webサイト | brianchristian.org/the-alignment-problem/ |
『アライメントの問題: 機械学習と人間の価値観』は、アメリカの作家ブライアン・クリスチャンによる2020年のノンフィクション本です、人間の価値観と一致する 人工知能システム、特に機械学習システムの構築に取り組んでいる専門家への多数のインタビューに基づいています
まとめ
この本は、予言、行為、規範性の 3 つのセクションに分かれています。各セクションでは、人工知能と人間の価値観を一致させるというさまざまな課題に取り組んでいる研究者やエンジニアについて取り上げています。
預言
最初のセクションでは、クリスチャンは人工知能研究の歴史、特にパーセプトロンやアレックスネットなどの人工ニューラルネットワークの機械学習アプローチに関する議論を、AIシステムが意図しない動作をする可能性の例と織り交ぜています。彼は、刑事被告人の再犯を予測するツールであるCOMPASアルゴリズムに関するProPublicaの調査で、その精度と特定の人口統計への偏りについて幅広い批判を招いたジャーナリスト、ジュリア・アングウィンの話をします。AIの主な調整課題の1つは、ブラックボックス性（入力と出力は識別できるが、その間の変換プロセスは不確定）です。透明性が欠如しているため、システムがどこで正しく、どこで間違っているかを知ることが困難です。
代理店
2 番目のセクションでは、クリスチャンは同様に、行動主義やドーパミンなどの報酬の心理学的研究の歴史と、AI システムが価値関数 (「どのような報酬または罰を期待するか」) に直面してポリシー (「何をするか」) を開発する必要がある強化学習のコンピューター サイエンスを織り交ぜています。彼は、 DeepMind AlphaGoおよびAlphaZeroシステムを「おそらく自動化されたカリキュラム設計における最も印象的な成果」と呼んでいます。彼はまた、好奇心の重要性を強調しています。好奇心では、強化学習者は外部報酬のみを求めるのではなく、環境を探索する内発的な動機を持っています。
規範性
3 番目のセクションでは、人間や機械の行動を模倣することで AI をトレーニングする方法や、AI システムの理想的な行動が異なることを示唆する可能主義と現実主義などの哲学的議論について説明します。特に重要なのは、機械が人間や他のエージェントの目的関数を学習するための幅広いアプローチである逆強化学習です。クリスチャンは、効果的利他主義と実存的リスクに関連する規範的な課題について論じており、その中には、アラインメント問題をできるだけ効果的にナビゲートするための人間と機械の戦略を考案しようとしている哲学者のトビー・オルドとウィリアム・マカスキルの研究も含まれています。
受付
この本は批評家から好意的なレビューを受けた。ウォールストリートジャーナルのデイビッド・A・シェイウィッツは、アルゴリズムを現実世界の問題に適用する際に頻繁に発生する問題を強調し、この本を「この白熱した話題についての繊細で魅力的な探求」と評した。[2] パブリッシャーズウィークリーは、その執筆と広範な調査を高く評価した。[3]
カーカス・レビュー誌はこの本を「技術的に豊富だが分かりやすい」そして「AIの興味深い探求」と評し、好意的なレビューを与えた。 [4]ネイチャー誌に寄稿したバージニア・ディグナムはこの本を好意的に評価し、ケイト・クロフォードの『 Atlas of AI』と比較して好意的なレビューを与えた。 [5]
2021年、ジャーナリストのエズラ・クラインは自身のポッドキャスト「エズラ・クライン・ショー」にクリスチャンを招き、ニューヨーク・タイムズ紙に「『アライメント・プロブレム』は私が読んだAIの主要な技術的および道徳的問題についての最高の本だ」と書いた。 [ 6]その年の後半、この本はファスト・カンパニーの特集「今年マイクロソフトCEOサティア・ナデラにインスピレーションを与えた5冊の本」に掲載された。 [7]
2022年、この本は、米国科学・工学・医学アカデミーとシュミット・フューチャーズが共同で授与するエリック・アンド・ウェンディ・シュミット科学コミュニケーション優秀賞を受賞しました。[8]
2024年、ニューヨークタイムズは『アライメント問題』を「人工知能に関するベスト5冊」の1つに選び、「人工知能に関する本を1冊読むなら、この本が最適だ」と述べた。[9]
参照
- 効果的な利他主義
- 世界的な壊滅的リスク
- 人間に適合する: 人工知能と制御の問題
- スーパーインテリジェンス：道筋、危険、戦略
参考文献
- ^ 「アライメントの問題」WW Norton & Company。
- ^ Shaywitz, David (2020年10月25日). 「『アライメント問題』レビュー：機械が要点を見逃すとき」。ウォール・ストリート・ジャーナル。 2021年12月5日閲覧。
- ^ 「ノンフィクション書評：ブライアン・クリスチャン著『アライメント問題：機械学習と人間の価値』。ノートン、27.95ドル（356ページ）ISBN 978-0-393-63582-9」。PublishersWeekly.com 。2022年1月20日閲覧。
- ^ アラインメント問題 | カーカスレビュー。
- ^ ディグナム、バージニア州 (2021年5月26日). 「AI — AIを作り、使い、管理する人々と場所」. Nature . 593 (7860): 499–500. Bibcode :2021Natur.593..499D. doi : 10.1038/d41586-021-01397-x . S2CID 235216649.
- ^ クライン、エズラ（2021年6月4日）。「『すべてのモデルが間違っている』なら、なぜ私たちはそれらにそれほどの力を与えるのか？」ニューヨークタイムズ。 2021年12月5日閲覧。
- ^ Nadella, Satya (2021年11月15日). 「今年、マイクロソフトCEOサティア・ナデラに影響を与えた5冊の本」Fast Company . 2021年12月5日閲覧。
- ^ 「受賞者 - 科学コミュニケーションにおける優秀性に対するエリック・ウェンディ・シュミット賞 - 全米アカデミー」全米アカデミー2022年10月12日。 2022年10月21日閲覧。
- ^ Marche, Stephen (2024年1月31日). 「人工知能に関するベストブック5選」.ニューヨーク・タイムズ. 2024年2月6日閲覧。