Loading article…
汎用人工知能（AGI ）は、広範囲の認知タスクにわたって人間の認知能力に匹敵するかそれを上回る人工知能（AI）の一種である。これは、特定のタスクに限定された狭義のAIとは対照的である。 [1] 一方、人工超知能（ASI）は、人間の認知能力を大幅に上回るAGIを指す。AGIは強いAIの定義の1つと考えられている。
AGIの作成は、AI研究やOpenAI [2]やMeta [3]などの企業の主な目標です。2020年の調査では、37か国で72のアクティブなAGI研究開発プロジェクトが特定されました。[4]
AGIの実現時期については、研究者や専門家の間で議論が続いている。2023年時点で、数年または数十年で可能になるかもしれないと主張する人もいれば、1世紀以上かかるかもしれないと主張する人もおり、少数派では実現できないかもしれないと考えている。[5]著名なAI研究者のジェフリー・ヒントンは、AGIに向けた急速な進歩に懸念を表明しており、多くの人が予想するよりも早く実現される可能性があることを示唆している。[6]
AGIの正確な定義や、GPT-4などの現代の大規模言語モデル（LLM）がAGIの初期の形態であるかどうかについては議論があります。[7] AGIはSFや未来研究でよく話題になります。[8] [9]
AGIが実存的リスクをもたらすかどうかについては議論がある。[10] [11] [12]多くのAI専門家は、AGIがもたらす人類絶滅のリスクを軽減することが世界的な優先事項であるべきだと述べている。 [13] [14]一方、AGIの開発はそのようなリスクをもたらすには時期尚早だと考える人もいる。[15] [16]
用語
AGIは、強いAI、[17] [18]完全なAI、[19]人間レベルのAI、[20]または一般的な知的行動としても知られています。[21]ただし、一部の学術情報源では、「強いAI」という用語を、知覚や意識を持つコンピュータプログラムのみに使用しています。[a]対照的に、弱いAI（または狭義のAI）は、特定の1つの問題を解決することはできますが、一般的な認知能力を欠いています。[22] [18]一部の学術情報源では、「弱いAI」という用語をより広義に、人間と同じ意味で意識も心も持たないプログラムを指すために使用しています。[a]
関連する概念には、人工超知能や変革的AIがある。人工超知能（ASI）は、人間よりもはるかに一般的に知能が高いAGIの仮説的なタイプである。[23]一方、変革的AIの概念は、例えば農業革命や産業革命のように、AIが社会に大きな影響を与えることに関連している。[24]
AGIをレベル別に分類するフレームワークは、2023年にGoogle DeepMindの研究者によって提案されました。彼らはAGIを5つのレベル、すなわち新興、有能、専門家、名人、超人として定義しています。例えば、有能なAGIは、幅広い非物理的なタスクにおいて熟練した成人の50％を上回るAIとして定義され、超人的なAGI（つまり人工超知能）も同様に定義されていますが、閾値は100％です。彼らはChatGPTやLLaMA 2のような大規模言語モデルを新興AGIのインスタンスと見なしています。[25]
特徴
知能の定義については、さまざまな定義が提案されている。代表的なものの一つはチューリングテストである。しかし、他にもよく知られた定義があり、研究者の中には、より一般的なアプローチに反対する者もいる。[b]
知能特性
しかし、研究者は一般的に、以下のすべてを行うには知性が必要であると考えています。[27]
多くの学際的アプローチ（認知科学、計算知能、意思決定など）では、想像力（新しい心的イメージや概念を形成する能力）[28]や自律性[29]などの追加の特性も考慮されます。
これらの機能の多くを備えたコンピュータベースのシステムが存在します (例:計算創造性、自動推論、意思決定支援システム、ロボット、進化的計算、インテリジェントエージェント)。現代の AI システムがこれらの機能を適切な程度備えているかどうかについては議論があります。
身体的特徴
その他の能力は知能システムにとって望ましいと考えられており、知能に影響を与えたり、知能の表現を助けたりする可能性がある。これには以下のものが含まれる。[30]
- 感知する能力（例えば、見る、聞くなど）、および
- 行動する能力（例：物体を移動および操作する、探索するために場所を変更するなど）
これには危険を検知し対応する能力が含まれます。[31]
人間レベルのAGIのテスト
人間レベルのAGIを確認するためのいくつかのテストが検討されており、その中には次のようなものがある: [32] [33]
- チューリングテスト(チューリング)
チューリングテストは知能の証拠を提供することができるが、人間以外の知的な行動を罰し、人工的な愚かさを奨励する可能性がある。[34] - チューリングはこのテストを次のように説明しました。
このテストの考え方は、機械が質問に答えることで人間のふりをし、そのふりが十分に説得力がある場合にのみ合格するというものである。機械の専門家ではない陪審員のかなりの割合が、そのふりに騙されるに違いない。[36]
- 2014年、13歳のウクライナの少年を模倣するように設計されたユージン・グーストマンというチャットボットが、チューリングテストで33%の審査員に人間であると納得させ、合格したと報告されている。しかし、この主張はAI研究コミュニティからかなりの懐疑論に直面し、テストの実装とAGIとの関連性に疑問が投げかけられた。 [37] [38]
- ロボット大学生検定（ゲルツェル）
- 機械は大学に入学し、人間と同じ授業を受けて合格し、学位を取得します。法学修士号取得者は、授業に出席しなくても大学の学位レベルの試験に合格できるようになりました。[39]
- 就職試験（ニルソン）
- 機械は、経済的に重要な仕事を、少なくとも人間と同等のレベルでこなす。AIは現在、ファーストフードやマーケティングなど、さまざまな分野で人間に取って代わっている。[40]
- イケアテスト（マーカス）
- フラットパック家具テストとも呼ばれる。AIがイケアのフラットパック製品の部品と説明書を確認し、ロボットを制御して家具を正しく組み立てる。[41]
- コーヒーテスト (ウォズニアック)
- 平均的なアメリカの家庭に入り、コーヒーの淹れ方を理解するには、コーヒーマシンが必要です。コーヒーマシンを見つけ、コーヒーを見つけ、水を加え、マグカップを見つけ、適切なボタンを押してコーヒーを淹れるのです。[42]これはまだ完了していません。
- 現代のチューリングテスト (スレイマン)
- AIモデルには10万ドルが与えられ、100万ドルを獲得しなければならない。[43] [44]
AI完全問題
問題を解決するには、目的に特化したアルゴリズムの能力を超えているため、AGIを実装する必要があると考えられる場合、その問題は非公式に「AI完全」または「AI困難」と呼ばれます。[45]
人間と同様に解決するためには汎用知能が必要であると推測されている問題は数多くあります。例としては、コンピュータービジョン、自然言語理解、現実世界の問題を解決する際に予期しない状況に対処することなどが挙げられます。[46]翻訳のような特定のタスクでさえ、機械が両方の言語で読み書きし、著者の議論（論理的思考）に従い、文脈（知識）を理解し、著者の本来の意図（社会的知能）を忠実に再現する必要があります。人間レベルの機械性能に到達するには、これらすべての問題を同時に解決する必要があります。
しかし、これらのタスクの多くは、現代の大規模言語モデルによって実行できるようになりました。スタンフォード大学の2024年AIインデックスによると、AIは読解力と視覚的推論の多くのベンチマークで人間レベルのパフォーマンスに達しています。[47]
歴史
古典的なAI
現代のAI研究は1950年代半ばに始まりました。[48] AI研究者の第一世代は、人工汎用知能は可能であり、数十年以内に実現すると確信していました。[49] AIの先駆者であるハーバート・A・サイモンは1965年に「20年以内に、機械は人間が行えるあらゆる作業を行うことができるようになるだろう」と書いています。[50]
彼らの予測は、スタンリー・キューブリックとアーサー・C・クラークのキャラクターHAL 9000のインスピレーションとなり、AI研究者が2001年までに作成できると信じていたものを具現化した。AIの先駆者であるマービン・ミンスキーは、当時のコンセンサス予測に従ってHAL 9000を可能な限り現実的にするプロジェクトのコンサルタントを務めた[51]。彼は1967年に「一世代以内に...「人工知能」を作成する問題は実質的に解決されるだろう」と述べた[52] 。
Doug LenatのCycプロジェクト (1984 年に開始) やAllen NewellのSoarプロジェクトなど、いくつかの古典的な AI プロジェクトはAGI を対象としていました。
しかし、1970年代初頭、研究者たちがプロジェクトの難しさを著しく過小評価していたことが明らかになりました。資金提供機関はAGIに懐疑的になり、研究者に有用な「応用AI」を生み出すようますますプレッシャーをかけるようになりました。[c] 1980年代初頭、日本の第五世代コンピュータプロジェクトはAGIへの関心を復活させ、「日常会話を続ける」などのAGIの目標を含む10年間のタイムラインを設定しました。[56]これとエキスパートシステムの成功を受けて、産業界と政府の両方がこの分野に資金を注ぎ込みました。[54] [57]しかし、1980年代後半にはAIへの信頼が劇的に崩壊し、第五世代コンピュータプロジェクトの目標は達成されませんでした。[58] 20年間で2度目、AGIが間もなく実現すると予測したAI研究者は間違っていました。1990年代までに、AI研究者は無駄な約束をするという評判が広まりました。彼らは予測をすることに全く消極的になり[d]、「狂気の夢想家」とレッテルを貼られることを恐れて「人間レベル」の人工知能について言及することを避けた[60] 。
狭義のAI研究
1990年代から21世紀初頭にかけて、主流のAIは、音声認識や推奨アルゴリズムなど、AIが検証可能な結果と商用アプリケーションを生み出すことができる特定のサブ問題に焦点を当てることで、商業的な成功と学術的な評価を獲得しました。[61]これらの「応用AI」システムは現在、テクノロジー業界全体で広く使用されており、この分野の研究は学界と産業界の両方で多額の資金が投入されています。2018年時点では[update]、この分野の開発は新たなトレンドと見なされており、10年以上で成熟段階に達すると予想されていました。[62]
世紀の変わり目には、多くの主流のAI研究者[63]は、さまざまなサブ問題を解決するプログラムを組み合わせることで強いAIを開発できると期待していました。ハンス・モラベックは1988年に次のように書いています。
私は、人工知能へのこのボトムアップの道が、いつの日か伝統的なトップダウンの道と半分以上合流し、推論プログラムでは非常に困難だった現実世界の能力と常識的な知識を提供する準備が整うと確信しています。比喩的な黄金の釘が打ち込まれ、2つの努力が結びつくと、完全に知的な機械が生まれます。 [63]
しかし、当時でも、これには異論がありました。たとえば、プリンストン大学のステヴァン・ハルナドは、1990 年にシンボルグラウンディング仮説に関する論文を次のように結論づけています。
認知をモデル化する「トップダウン」（記号的）アプローチは、その中間のどこかで「ボトムアップ」（感覚的）アプローチと何らかの形で出会うだろうという期待がしばしば表明されてきた。本論文の根拠となる考察が妥当であれば、この期待は絶望的にモジュール化されており、感覚から記号に至る唯一の実行可能な経路は、地面から上への経路のみである。この経路では、コンピュータのソフトウェア レベルのような自由に浮遊する記号レベルに到達することは決してない（またはその逆）。また、そのようなレベルに到達しようとする理由も明らかではない。なぜなら、そこに到達することは、記号をその本来の意味から根こそぎ引き離すことに等しい（それによって、単にプログラム可能なコンピュータと同等の機能に低下する）ように見えるからである。[64]
現代の汎用人工知能研究
「人工汎用知能」という用語は、1997年にマーク・ガブラッド[65]が、完全に自動化された軍事生産と作戦の意味合いを議論する際に使用されました。AGIの数学的形式は、2000年にマーカス・ハッターによって提案されました。AIXIと名付けられたこの提案されたAGIエージェントは、「幅広い環境で目標を達成する能力」を最大化します。[66]このタイプのAGIは、人間のような動作を示すのではなく、知能の数学的定義を最大化する能力を特徴としており、[67]汎用人工知能とも呼ばれました。[68]
AGIという用語は、2002年頃にシェーン・レッグとベン・ゴーツェルによって再導入され、普及しました。 [69] 2006年のAGI研究活動は、ペイ・ワンとベン・ゴーツェルによって[70]「出版物と予備的な結果を生み出す」と表現されました。AGIの最初のサマースクールは、2009年に中国の厦門で厦門大学の人工脳研究所とOpenCogによって開催されました[71] 。最初の大学コースは、2010年[72]と2011年[73]にブルガリアのプロヴディフ大学でトドル・アルナウドフによって開催されました。MITは2018年にレックス・フリドマンが主催し、多数のゲスト講師を招いて AGIのコースを開催しました。
2023年現在[update]、少数のコンピュータ科学者がAGI研究に積極的に取り組んでおり、その多くが一連のAGIカンファレンスに貢献しています。しかし、ますます多くの研究者がオープンエンド学習に興味を持ち始めています。[74] [75]これは、AIが人間のように継続的に学習し、革新できるようにするという考えです。
実現可能性
2023年現在、汎用人工知能（AGI）の開発と実現可能性は、AIコミュニティ内で激しい議論の的となっている。従来のコンセンサスではAGIは遠い目標とされていたが、最近の進歩により、一部の研究者や業界関係者は、AGIの初期形態がすでに存在している可能性があると主張している。[76] AIの先駆者であるハーバート・A・サイモンは1965年に「20年以内に機械は人間ができるあらゆる仕事をできるようになる」と推測した。この予測は実現しなかった。マイクロソフトの共同創設者であるポール・アレンは、そのような知能は21世紀には実現しそうにないと考えていた。なぜなら、それは「予測不可能で根本的に予測不可能なブレークスルー」と「科学的に深い認知の理解」を必要とするからである。[77]ロボット工学者のアラン・ウィンフィールドはガーディアン紙に寄稿し、現代のコンピューティングと人間レベルの人工知能の間の隔たりは、現在の宇宙飛行と実用的な超光速宇宙飛行の間の隔たりと同じくらい大きいと主張した。[78]
さらなる課題は、知能が何を意味するのかという定義が明確でないことである。知能には意識が必要か？知能は目標を設定する能力とそれを追求する能力を示さなければならないか？知能はモデルのサイズが十分に大きくなれば知能が出現するという、純粋に規模の問題なのか？計画、推論、因果関係の理解などの機能は必要か？知能には脳とその特定の機能を明示的に複製する必要があるか？知能には感情が必要か？[79]
ほとんどのAI研究者は、将来的に強いAIが実現できると考えていますが、ヒューバート・ドレイファスやロジャー・ペンローズなどの一部の思想家は、強いAIの実現可能性を否定しています。[80] [81] ジョン・マッカーシーは、人間レベルのAIが達成されると信じている人の一人ですが、現在の進歩のレベルでは正確な日付を予測することはできないと考えています。[82] AIの専門家のAGIの実現可能性に関する見解は盛衰しています。 2012年と2013年に実施された4つの世論調査によると、専門家がAGIの到来を50%確信できる時期の中央値は、世論調査によって異なり、2040年から2050年で、平均は2081年でした。専門家のうち、16.5%は、同じ質問を90%の確信で尋ねられたときに「決してない」と回答しました。[83] [84]現在のAGIの進歩に関するさらなる考察は、上記の人間レベルのAGIを確認するためのテストに記載されています。
機械知能研究所のスチュアート・アームストロングとカイ・ソタラによる報告書では、「60年間の期間で、人間レベルのAIの到来は予測がなされた時点から15年から25年後であると予測する傾向が強い」ことがわかった。彼らは、1950年から2012年の間に人間レベルのAIがいつ登場するかについて行われた95の予測を分析した。[85]
2023年、マイクロソフトの研究者はGPT-4の詳細な評価を発表しました。彼らは次のように結論付けています。「GPT-4の機能の幅広さと深さを考えると、GPT-4は人工汎用知能（AGI）システムの初期（まだ不完全）バージョンとして合理的に見ることができると考えています。」[86] 2023年の別の研究では、GPT-4が創造的思考のトーランステストで人間の99％を上回ると報告されています。[87] [88]
ブレーズ・アグエラ・イ・アルカスとピーター・ノルヴィグは2023年に、最先端のモデルによってすでにかなりのレベルの汎用知能が達成されていると書いている。彼らは、この見解に抵抗を感じるのは主に4つの理由からだと書いている。「AGIの指標に対する健全な懐疑心」、「代替AI理論や技術へのイデオロギー的コミットメント」、「人間（または生物学的）例外主義への傾倒」、または「AGIの経済的影響に対する懸念」である。[89]
2023年には、大規模なマルチモーダルモデル（テキスト、音声、画像などの複数のモダリティを処理または生成できる大規模な言語モデル）も登場しました。 [90]
2024年、OpenAIは「応答する前に考える時間を増やす」一連のモデルの最初のものであるo1-previewをリリースしました。ミラ・ムラティによると、応答する前に考える能力は、新しい追加のパラダイムを表しています。これは、回答を生成する際により多くの計算能力を費やすことでモデルの出力を改善しますが、モデルスケーリングパラダイムは、モデルサイズ、トレーニングデータ、トレーニング計算能力を増やすことで出力を改善します。[91] [92]
タイムスケール
人工知能の進歩は歴史的に、急速な進歩の時期と進歩が止まったように見える時期を経てきた。[80]それぞれの停滞期を終わらせたのは、さらなる進歩の余地を生み出すハードウェア、ソフトウェア、またはその両方における根本的な進歩であった。[80] [95] [96]たとえば、20世紀に利用可能だったコンピュータハードウェアは、多数のGPU対応CPUを必要とするディープラーニングを実装するには不十分であった。[97]
2006年の著書[98]の序文で、ゲルツェルは、真に柔軟なAGIが構築されるまでに必要な時間の見積もりは10年から1世紀以上までさまざまであると述べています。2007年時点では[update]、AGI研究コミュニティのコンセンサスは、レイ・カーツワイルが2005年に『シンギュラリティは近い』[99]で論じたタイムライン（つまり、2015年から2045年の間）が妥当であると考えられていました。[100]主流のAI研究者は、進歩がこれほど急速かどうかについて幅広い意見を述べています。2012年に行われた95の意見のメタ分析では、現代と過去の予測の両方で、AGIの始まりは16〜26年以内に起こると予測する傾向が見られました。この論文は、意見を専門家と非専門家に分類した方法について批判されています。[101]
2012年、アレックス・クリジェフスキー、イリヤ・スツケヴァー、ジェフリー・ヒントンはAlexNetと呼ばれるニューラルネットワークを開発し、ImageNetコンペティションでトップ5のテストエラー率15.3%で優勝した。これは2位のエントリーの26.3%を大幅に上回る数字だった（従来のアプローチでは、事前に定義されたさまざまな分類器からのスコアの加重合計が使用されていた）。[102] AlexNetは、現在のディープラーニングの波の最初の先駆者と見なされている。[102]
2017年、研究者のFeng Liu、Yong Shi、Ying Liuは、Google AI、AppleのSiriなど、公開され自由にアクセスできる弱いAIの知能テストを実施しました。これらのAIは、最大で約47のIQ値に達しました。これは、小学校1年生の6歳児にほぼ相当します。成人の平均IQは約100です。同様のテストは2014年に実施され、IQスコアは最大値27に達しました。[103] [104]
2020年、OpenAIは、特別な訓練なしで多様なタスクを実行できる言語モデルであるGPT-3を開発しました。VentureBeatの記事のGary Grossmanによると、GPT-3はAGIの例ではないというコンセンサスがあるものの、一部の人々はGPT-3を狭義のAIシステムとして分類するには高度すぎると考えています。[105]
同年、ジェイソン・ローラーはGPT-3アカウントを使用してチャットボットを開発し、「Project December」と呼ばれるチャットボット開発プラットフォームを提供した。OpenAIは安全ガイドラインに準拠するためにチャットボットの変更を要求し、ローラーはProject DecemberをGPT-3 APIから切断した。[106]
2022年、DeepMindは600以上の異なるタスクを実行できる「汎用」システムであるGatoを開発した。 [107]
2023年、マイクロソフトリサーチはOpenAIのGPT-4の初期バージョンに関する研究を発表し、GPT-4は以前のAIモデルよりも汎用性の高い知能を示し、数学、コーディング、法律など複数の領域にわたるタスクで人間レベルのパフォーマンスを発揮したと主張した。この研究は、GPT-4を人工汎用知能の初期の不完全なバージョンと見なすことができるかどうかについての議論を巻き起こし、そのようなシステムのさらなる調査と評価の必要性を強調した。[108]
2023年にAI研究者のジェフリー・ヒントンは次のように述べた。[109]
こうしたものが実際に人間よりも賢くなる可能性があるという考えを、少数の人が信じていましたが、ほとんどの人はそれは大間違いだと思っていました。私も大間違いだと思っていました。30年から50年、あるいはもっと先のことだと思っていました。もちろん、私はもうそうは思っていません。
2023年5月、デミス・ハサビスも同様に「ここ数年の進歩は信じられないほど素晴らしい」と述べ、その進歩が鈍化する理由は見当たらず、10年、あるいは数年以内にAGIが登場すると予想している。[110] 2024年3月、NvidiaのCEOであるジェンスン・フアンは、5年以内にAIは少なくとも人間と同程度にあらゆるテストに合格できるようになるとの期待を表明した。[111] 2024年6月、元OpenAIの従業員であるAI研究者のレオポルド・アッシェンブレンナーは、2027年までにAGIが「驚くほど実現可能」になると推定した。[112]
全脳エミュレーション
ChatGPTのようなトランスフォーマーモデルの開発はAGIへの最も有望な道と考えられているが、[113] [114]全脳エミュレーションは代替アプローチとして機能することができる。全脳シミュレーションでは、生物学的脳を詳細にスキャンしてマッピングし、それをコピーしてコンピュータシステムまたは別の計算デバイスでシミュレートすることによって脳モデルが構築される。シミュレーションモデルは、元の脳と実質的に同じように動作するように、オリジナルに十分忠実でなければならない。[115]全脳エミュレーションは、計算神経科学や神経情報科学、および医療研究の目的で議論されているタイプの脳シミュレーションである。人工知能研究[100]では、強いAIへのアプローチとして議論されてきた。必要な詳細な理解をもたらす可能性のある神経画像技術は急速に進歩しており、未来学者のレイ・カーツワイルは著書『シンギュラリティは近い』 [99]で、十分な品質のマップが、それをエミュレートするために必要な計算能力と同程度の時間スケールで利用可能になると予測している。
初期の推定
人間の脳には膨大な量のシナプスがあるため、低レベルの脳シミュレーションには非常に強力なコンピューターや GPU のクラスターが必要になる。10 11 (1000 億)個のニューロンのそれぞれは、他のニューロンと平均 7,000 個のシナプス接続 (シナプス) を持つ。3 歳児の脳には約 10 15 (1 千兆) 個のシナプスがある。この数は加齢とともに減少し、成人になると安定する。成人の場合の推定値は 10 14から5×10 14シナプス (100 兆から 500 兆) の範囲である。[117]ニューロン活動の単純なスイッチ モデルに基づく脳の処理能力の推定値は、1 秒あたり約 10 14 (100 兆) 個のシナプス更新 ( SUPS ) である。[118]
1997年、カーツワイルは人間の脳と同等のハードウェアに必要なさまざまな推定値を検討し、1秒あたり10 16 回の計算（cps）という数字を採用しました。 [e]（比較のために、「計算」が1回の「浮動小数点演算」（現在のスーパーコンピューターの評価に使用される尺度）に相当する場合、10 16 回の「計算」は2011年に達成された10ペタフロップスに相当し、10 18 は2022年に達成されました。）彼はこの数字を使用して、執筆時点でのコンピューターパワーの指数関数的な成長が続く場合、必要なハードウェアが2015年から2025年の間に利用可能になると予測しました。
現在の研究
2013年から2023年まで活動しているEUの資金援助による取り組みであるヒューマン・ブレイン・プロジェクトは、人間の脳の特に詳細で一般に公開されているアトラスを開発しました。 [121] 2023年には、デューク大学の研究者がマウスの脳の高解像度スキャンを実施しました。[122]人間の脳と同様の計算能力を持つスーパーコンピューターは、2024年4月に登場する予定です。「ディープサウス」と呼ばれるこのコンピューターは、1秒間に228兆回のシナプス操作を実行できます。[123]
シミュレーションベースのアプローチに対する批判
カーツワイルが想定し、現在の人工ニューラルネットワークの実装の多くで使用されている人工ニューロンモデルは、生物学的ニューロンと比較すると単純である。脳のシミュレーションでは、現在大まかにしか理解されていない生物学的ニューロンの詳細な細胞挙動を捉える必要があるだろう。神経挙動の生物学的、化学的、物理的詳細（特に分子レベル）を完全にモデル化することで生じるオーバーヘッドには、カーツワイルの推定よりも数桁大きい計算能力が必要になる。さらに、この推定では、認知プロセスで役割を果たすことが知られているグリア細胞が考慮されていない。 [124]
シミュレートされた脳のアプローチに対する根本的な批判は、人間の身体化は人間の知性の重要な側面であり、意味を基盤づけるために必要であると主張する身体化認知理論に由来する。 [125] [122]この理論が正しければ、完全に機能する脳モデルはニューロン以上のもの（例えば、ロボットの体）を包含する必要がある。Goertzel [100]は仮想的な身体化（セカンドライフのようなメタバースのような）を選択肢として提案しているが、これが十分かどうかは不明である。
哲学的観点
哲学で定義される「強いAI」
1980年、哲学者ジョン・サールは中国語の部屋論の一環として「強いAI」という用語を作り出した。[126]彼は人工知能に関する2つの仮説を区別することを提案した。[f]
- 強力な AI 仮説: 人工知能システムは「心」と「意識」を持つことができる。
- 弱い AI 仮説: 人工知能システムは、思考し、心と意識を持っているかのようにしか動作できません。
最初のものを「強い」と呼んだのは、それがより強い主張をしているからである。それは、私たちがテストできる能力を超える特別な何かが機械に起こったと仮定している。「弱いAI」機械の行動は「強いAI」機械とまったく同じだが、後者は主観的な意識的経験も持つ。この用法は、学術的なAI研究や教科書でも一般的である。[127]
サールや主流のAIとは対照的に、レイ・カーツワイルなどの未来学者は「強いAI」という用語を「人間レベルの汎用人工知能」という意味で使用している。[99]これは、人間レベルのAGIには意識が必要であると仮定しない限り、サールの強いAIと同じではない。サールなどの学術哲学者はそうではないと考えており、ほとんどの人工知能研究者にとって、この質問は範囲外である。[128]
主流のAIは、プログラムがどのように動作するかに最も興味を持っています。[129]ラッセルとノーヴィグによると、「プログラムが動作する限り、それを本物と呼ぶかシミュレーションと呼ぶかは気にしません。」[128]プログラムが心を持っているかのように動作できる場合、実際に心を持っているかどうかを知る必要はありません。実際、知る方法はありません。 AI研究にとって、サールの「弱いAI仮説」は、「人工汎用知能は可能」という声明に相当します。したがって、ラッセルとノーヴィグによると、「ほとんどのAI研究者は弱いAI仮説を当然のこととして受け止め、強いAI仮説を気にしません。」[128]したがって、学術的なAI研究にとって、「強いAI」と「AGI」は2つの異なるものです。
意識
意識にはさまざまな意味があり、いくつかの側面は SF や人工知能の倫理において重要な役割を果たします。
- 感覚（または「現象的意識」）：知覚や感情を主観的に「感じる」能力であり、知覚について推論する能力とは対照的である。デイビッド・チャーマーズなどの一部の哲学者は、「意識」という用語を現象的意識のみを指して使用しており、これは感覚とほぼ同義である。 [130]主観的な経験がなぜ、どのように生じるのかを決定することは、意識の難問として知られている。 [131] トーマス・ネーゲルは1974年に、意識があると「何かのように感じる」と説明した。意識がなければ、何のようにも感じない。ネーゲルはコウモリの例を使用している。「コウモリであることはどのような感じか？」と尋ねることは理にかなっているが、「トースターであることはどのような感じか？」と尋ねることはまずない。ネーゲルは、コウモリは意識がある（つまり意識がある）ように見えるが、トースターはそうではないと結論付けている。 [132] 2022年にGoogleのエンジニアは、同社のAIチャットボットLaMDAが知覚を獲得したと主張したが、この主張は他の専門家によって広く異論を唱えられた。 [133]
- 自己認識: 自分自身を独立した個人として意識的に認識すること、特に自分の考えを意識的に認識すること。これは単に「自分の考えの主体」であることとは対照的です。オペレーティングシステムやデバッガは「自分自身を認識」することができます (つまり、他のすべてのものを表すのと同じ方法で自分自身を表現することができます)。しかし、これは人々が「自己認識」という用語を使用するときに通常意味するものではありません。 [g]
これらの特性には道徳的な側面がある。動物と同様に、AIの知覚は福祉と法的保護に関する懸念を引き起こすだろう。[134]認知能力に関連する意識の他の側面も、AIの権利の概念に関連している。[135]高度なAIを既存の法的および社会的枠組みとどのように統合するかを理解することは、新たな課題である。[136]
利点
AGIは多種多様な用途に応用できる可能性がある。そのような目標に向けられれば、AGIは飢餓、貧困、健康問題など世界のさまざまな問題の緩和に役立つ可能性がある。[137]
AGIはほとんどの仕事の生産性と効率性を向上させることができる。例えば、公衆衛生の分野では、AGIは特にがんに対する医療研究を加速させることができる。[138]高齢者の介護もできるし、[139]迅速で質の高い医療診断へのアクセスを民主化することもできる。楽しく、安価で、パーソナライズされた教育も提供できる。[139]生み出された富が適切に再分配されれば、生きるために働く必要性はなくなるかもしれない。[139] [140]これはまた、急速に自動化された社会における人間の立場の問題を提起する。
AGIは、合理的な意思決定や災害の予測と予防にも役立つ可能性がある。また、ナノテクノロジーや気候工学などの潜在的に壊滅的な技術の恩恵を享受しながら、関連するリスクを回避することもできる。[141] AGIの主な目的が人類絶滅などの実存的大惨事を防ぐことである場合（脆弱世界仮説が真実であることが判明した場合、これは困難になる可能性があります）、[142] AGIはリスクを大幅に削減する対策を講じることができ、同時にこれらの対策が私たちの生活の質に与える影響を最小限に抑えることができます。
リスク
実存的リスク
AGIは、複数の種類の実存的リスクを表している可能性があり、それは「地球起源の知的生命体の早期絶滅、または望ましい将来の発展の可能性の永久的かつ劇的な破壊」を脅かすリスクです。[143] AGIによる人類絶滅のリスクは多くの議論の的となっていますが、AGIの開発が永久に欠陥のある未来につながる可能性もあります。特に、AGIは、それを開発した人の価値観を広め、維持するために使用できる可能性があります。人類が過去の奴隷制度と同様の道徳的盲点をまだ持っている場合、AGIはそれを不可逆的に固定化し、道徳的進歩を妨げる可能性があります。[144]さらに、AGIは大量監視と教化を容易にする可能性があり、安定した抑圧的な世界的全体主義体制を作り出すために使用できる可能性があります。[145] [146]機械自体にもリスクがあります。もし将来、知覚力のある機械や道徳的配慮に値する機械が大量生産されるなら、それらの幸福や利益を無期限に無視する文明の道を歩むことは、実存的大惨事となる可能性がある。[147] [148] AGIが人類の未来をどれだけ改善し、他の実存的リスクを軽減できるかを考え、トビー・オルドはこれらの実存的リスクを「AIを放棄する」のではなく「十分な注意を払って進める」ための議論と呼んでいる。[145]
制御不能と人類絶滅の危険
AIは人類にとって実存的リスクをもたらし、このリスクにはもっと注意を払う必要があるという主張は物議を醸しているが、2023年にはイーロン・マスク、ビル・ゲイツ、ジェフリー・ヒントン、ヨシュア・ベンジオ、デミス・ハサビス、サム・アルトマンなど多くの著名人、AI研究者、AI企業のCEOによって支持されている。[149] [150]
2014年、スティーブン・ホーキングは広範囲にわたる無関心を批判した。
では、計り知れない利益とリスクを伴う可能性のある未来に直面して、専門家は最善の結果を確実にするためにあらゆる手段を講じているに違いない。そうではない。優れた異星文明が「数十年後に到着する」というメッセージを送ってきたら、私たちは「わかった。到着したら電話して。電気はつけておくから」と答えるだろうか。おそらくそうはならないだろうが、AIでは多かれ少なかれこれが起こっているのだ。[151]
人類の潜在的な運命は、人間の活動によって脅かされているゴリラの運命と比較されることがある。この比較は、人間がより優れた知性を持つようになったことでゴリラを支配することが可能になり、ゴリラは予想もしなかった形で脆弱になっていると述べている。その結果、ゴリラは悪意からではなく、単に人間の活動による巻き添え被害として絶滅危惧種となった。[152]
懐疑論者のヤン・ルカンは、 AGI は人類を支配する願望を持たず、人間と同じように AGI を擬人化したり、その意図を解釈したりしないように注意すべきだと考えている。彼は、人間は「超知能機械を設計できるほど賢くはないが、安全策なしで馬鹿げた目的を与えるほど馬鹿げた愚か者」ではないと述べた。[153]一方、道具的収束の概念は、その目的が何であれ、知的エージェントは、その目的を達成するための中間段階として、生き残り、より多くの力を得ようとする理由を持つだろうことを示唆している。そして、これには感情を持つ必要はない。[154]
実存的リスクを懸念する多くの学者は、「制御問題」の解決に向けたさらなる研究を主張し、次のような疑問に答えようとしている。プログラマーは、再帰的に改善するAIが超知能に到達した後も、破壊的ではなく友好的な行動を続ける可能性を最大化するために、どのような種類の安全策、アルゴリズム、またはアーキテクチャを実装できるのか？ [155] [156]制御問題の解決は、AI軍拡競争（競合他社より先に製品をリリースするために安全対策を徹底的に削減する競争につながる可能性がある） [157]や、兵器システムにおけるAIの使用によって複雑になっている。[158]
AIが実存的リスクをもたらす可能性があるという説にも反対する人がいる。懐疑論者は通常、AGIは短期的には実現しそうにない、またはAGIに関する懸念は現在のAIに関連する他の問題から注意をそらすものだと言う。 [159]元Googleの詐欺対策責任者であるShuman Ghosemajumder氏は、テクノロジー業界以外の多くの人々にとって、既存のチャットボットやLLMはすでにAGIであるかのように認識されており、さらなる誤解と恐怖につながっていると考えている。[160]
懐疑論者は、この論文は超知能の可能性に対する非合理的な信念が全能の神に対する非合理的な信念に取って代わった、秘密宗教的だと非難することがある。[161]一部の研究者は、特定のAIグループ（OpenAI、Anthropic、DeepMind、Conjectureなど）によるAIの存在リスクに関するコミュニケーションキャンペーンは、規制を捕捉し、自社製品への関心を高めるための試みである可能性があると考えている。[162] [163]
2023年、Google DeepMind、OpenAI、AnthropicのCEOは、他の業界リーダーや研究者とともに、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会的規模のリスクと並んで、世界的な優先事項であるべきだ」と主張する共同声明を発表しました。[150]
大量失業
OpenAIの研究者らは、「米国の労働者の80％は、LLMの導入により仕事の少なくとも10％が影響を受ける可能性があり、労働者の約19％は仕事の少なくとも50％が影響を受ける可能性がある」と推定している。[164] [165]彼らは、数学者、会計士、ウェブデザイナーなどのオフィスワーカーが最も影響を受けやすいと考えている。[165] AGIは、より優れた自律性、意思決定能力、他のコンピューターツールとのインターフェース、ロボット化された身体の制御も持つ可能性がある。
スティーブン・ホーキングによれば、自動化が生活の質に与える影響は、富がどのように再分配されるかによって決まるという。[140]
機械が生み出した富を共有すれば、誰もが贅沢な余暇生活を楽しむことができる。機械の所有者が富の再分配に反対するロビー活動に成功すれば、ほとんどの人が悲惨な貧困に陥ることになる。これまでのところ、傾向は後者の選択肢に向かっているようで、テクノロジーはますます不平等を拡大させている。
イーロン・マスクは、社会の自動化には政府が普遍的なベーシックインカムを導入する必要があると考えている。[166]
参照
- 人工脳 – 動物や人間の脳と同様の認知能力を持つソフトウェアとハードウェア
- AI効果
- AIの安全性 – AIを安全かつ有益なものにするための研究分野
- AIの調整 – 意図した目的に対するAIの適合
- AIライジング – 2018年映画、監督：ラザール・ボドロジャ
- 人工知能
- 自動化された機械学習 – 機械学習の適用を自動化するプロセス
- BRAINイニシアチブ – オバマ政権が発表した官民共同研究イニシアチブ
- 中国脳プロジェクト
- 人類の未来研究所 – 廃止されたオックスフォードの学際研究センター
- 一般的なゲームのプレイ – 複数のゲームをうまくプレイする方法を学ぶ
- 生成型人工知能 - プロンプトに応じてコンテンツを生成できる AI システム
- ヒューマンブレインプロジェクト – 科学研究プロジェクト
- 知能増幅 – 情報技術を利用して人間の知能を増強する (IA)
- 機械倫理 – 人工機械の道徳的行動
- モラベックのパラドックス
- マルチタスク学習 – 複数の機械学習タスクを同時に解決する
- ニューラルスケーリングの法則 – 機械学習の法則
- 人工知能の概要 – 人工知能の概要とトピックガイド
- トランスヒューマニズム – 哲学運動
- 合成知能 – 人工知能の別名または形態
- 転移学習 – 機械学習技術
- ロブナー賞 – 毎年開催される AI コンテスト
- 人工知能向けハードウェア – 人工知能向けに特別に設計され最適化されたハードウェア
- 弱い人工知能 – 人工知能の形態
注記
- ^ ab 「強いAI」という用語の由来については下記を参照し、「強いAI 」と「弱いAI」の学術的な定義についてはChinese roomの記事を参照。
- ^ AIの創始者ジョン・マッカーシーは「どのような計算手順をインテリジェントと呼びたいのか、一般的にはまだ特徴づけることはできない」と書いている。 [26] （人工知能の研究者が使用する知能の定義については、人工知能の哲学を参照。）
- ^ ライトヒル報告書は特にAIの「壮大な目的」を批判し、イギリスにおけるAI研究の解体を導いた。[53]米国では、DARPAは「基本的な無指向の研究ではなく、ミッション指向の直接的な研究」のみに資金を提供すると決意した。[54] [55]
- ^ AIの創始者ジョン・マッカーシーは「新しい一般形式論の発明者が、これまでよりも慎重な形で希望を表明すれば、AI分野の他の研究者にとって大きな安心となるだろう」と書いている。[59]
- ^ 「Mind Children」[119]では10 15 cpsが使われている。より最近では、1997年に[120]モラベックは10 8 MIPSを主張したが、これはおよそ10 14 cpsに相当する。モラベックはMIPSで話しており、「cps」はカーツワイルが導入した非標準用語である。
- ^ 標準的なAIの教科書では次のように定義されている。「機械が知的に行動する可能性がある（あるいは、知的であるかのように行動するかもしれない）という主張は、哲学者によって『弱いAI』仮説と呼ばれ、そうする機械は実際に思考している（思考をシミュレートするのではなく）という主張は『強いAI』仮説と呼ばれている。」[118]
- ^ アラン・チューリングは1950年にこの点を指摘した。[35]
参考文献
- ^ Krishna, Sri (2023年2月9日). 「人工狭義知能（ANI）とは何か？」VentureBeat . 2024年3月1日閲覧。ANI
は単一のタスクを実行するように設計されています。
- ^ 「OpenAI 憲章」。OpenAI。2023年4 月 6 日閲覧。
私たちの使命は、人工汎用知能が全人類に利益をもたらすようにすることです。
- ^ Heath, Alex (2024年1月18日). 「マーク・ザッカーバーグの新たな目標は、汎用人工知能の創出」The Verge . 2024年6月13日閲覧。
私たちのビジョンは、人間の感覚のすべてにおいて人間レベルを超えるAIを構築することです。
- ^ Baum, Seth D. (2020). 倫理、リスク、ポリシーに関する汎用人工知能プロジェクトの調査(PDF) (レポート). Global Catastrophic Risk Institute . 2022年1月13日閲覧。
72件のAGI研究開発プロジェクトを特定しました。
- ^ 「AIタイムライン：人工知能の専門家は将来に何を期待しているのか？」。Our World in Data 。 2023年4月6日閲覧。
- ^ 「AIの先駆者であるジェフリー・ヒントンがGoogleを辞め、危険が迫っていると警告」ニューヨーク・タイムズ。2023年5月1日。 2023年5月2日閲覧。
悪意のある人物がそれを悪用するのをどうやって防ぐことができるのか、見当もつきません。
- ^ Bubeck, Sébastien; Chandrasekaran, Varun; Eldan, Ronen; Gehrke, Johannes; Horvitz, Eric (2023). 「汎用人工知能の火花: GPT-4 の初期実験」. arXiv プレプリント. arXiv : 2303.12712 .
GPT-4 は AGI の火花を示しています。
- ^ バトラー、オクタヴィア E. (1993)。種まき人のたとえ話。グランドセントラル出版。ISBN 978-0-4466-7550-5
あなたが触れるものはすべて変化します。あなたが変えるものはすべてあなた自身を変えます
。 - ^ ヴィンジ、ヴァーナー（1992年）。『深淵の火』。Tor Books。ISBN 978-0-8125-1528-2
シンギュラリティが来ます
。 - ^ モロゾフ、エフゲニー（2023年6月30日）。「人工知能の真の脅威」ニューヨークタイムズ。
本当の脅威はAIそのものではなく、AIの導入方法だ。
- ^ 「人工知能に感銘を受けた？専門家は、次に来るのはAGIで、それは『実存的』リスクを伴うと述べている」ABCニュース。2023年3月23日。 2023年4月6日閲覧。AGI
は人類に実存的リスクをもたらす可能性がある。
- ^ ボストロム、ニック（2014）。『スーパーインテリジェンス：道、危険、戦略』オックスフォード大学出版局。ISBN 978-0-1996-7811-2最初の超知能は
人類が行う必要のある最後の発明となるでしょう。
- ^ ルース、ケビン（2023年5月30日）。「AIは『絶滅のリスク』をもたらす、業界リーダーが警告」ニューヨークタイムズ。AI
による絶滅のリスクを軽減することは、世界的な優先事項であるべきだ。
- ^ 「AIリスクに関する声明」。AI安全センター。2024年3月1日閲覧
。AI専門家がAIによる絶滅の危険性を警告。
- ^ ミッチェル、メラニー（2023年5月30日）。「AIの終末シナリオは真剣に受け止める価値があるか？」ニューヨークタイムズ。
私たちは、一般的な意味で私たちよりも優れた考えを持つ機械を作るには程遠い。
- ^ LeCun, Yann (2023年6月). 「AGIは実存的リスクをもたらさない」. Medium .
AIを実存的脅威として恐れる理由はない。
- ^ カーツワイル 2005年、260ページ。
- ^ ab Kurzweil, Ray (2005 年 8 月 5 日)、「Long Live AI」、Forbes、2005 年 8 月 14 日時点のオリジナルよりアーカイブカーツワイルは、強い AI を「人間の知能の全範囲を備えた機械知能」と表現しています。
- ^ 「人工知能の時代: TEDxLondonBusinessSchool 2013でのGeorge John」。2014年2月26日時点のオリジナルよりアーカイブ。2014年2月22日閲覧。
- ^ 「AIタイムライン：人工知能の専門家は将来に何を期待しているのか？」。Our World in Data 。 2023年4月6日閲覧。
- ^ Newell & Simon 1976、これは、 物理的記号システム仮説における「人間レベル」の知能を表すために使用されている用語です。
- ^ 「The Open University on Strong and Weak AI」。2009年9月25日時点のオリジナルよりアーカイブ。 2007年10月8日閲覧。
- ^ 「人工超知能（ASI）とは何か？ | TechTargetによる定義」。エンタープライズAI 。 2023年10月8日閲覧。
- ^ 「人工知能は私たちの世界を変えつつあります。それがうまくいくようにするのは私たち全員の責任です」。Our World in Data 。 2023年10月8日閲覧。
- ^ ディクソン、ベン（2023年11月16日）。「DeepMindによると、AGIの実現までの距離はここだ」。VentureBeat。
- ^ McCarthy, John (2007a). 「基本的な質問」.スタンフォード大学. 2007年10月26日時点のオリジナルよりアーカイブ。2007年12月6日閲覧。
- ^ このインテリジェント特性のリストは、Russell & Norvig 2003、Luger & Stubblefield 2004、Poole、Mackworth & Goebel 1998、Nilsson 1998 などの主要な AI 教科書で扱われているトピックに基づいています。
- ^ ジョンソン 1987
- ^ de Charms, R. (1968). 個人的な因果関係. ニューヨーク: アカデミック・プレス.
- ^ Pfeifer, R. および Bongard JC, How the body shapes the way we think: a new view of intelligence (The MIT Press, 2007). ISBN 0-2621-6239-3
- ^ White, RW (1959). 「動機づけの再考: 有能性の概念」.心理学評論. 66 (5): 297–333. doi :10.1037/h0040934. PMID 13844397. S2CID 37385966.
- ^ Muehlhauser, Luke (2013年8月11日). 「AGIとは何か?」. Machine Intelligence Research Institute. 2014年4月25日時点のオリジナルよりアーカイブ。2014年5月1日閲覧。
- ^ 「汎用人工知能（AGI）とは何か？ | 汎用人工知能を保証する4つのテスト」Talky Blog 2019年7月13日。2019年7月17日時点のオリジナルよりアーカイブ。 2019年7月17日閲覧。
- ^ カーク・ジャンニーニ、キャメロン・ドメニコ、ゴールドスタイン、サイモン（2023年10月16日）。「AIは『知能』のチューリングテストにこれまで以上に近づいています。そうなったら何が起こるでしょうか？」ザ・カンバセーション。 2024年9月22日閲覧。
- ^ チューリング 1950より。
- ^ チューリング、アラン（1952年）。B .ジャック・コープランド（編）。自動計算機は思考できると言えるか？オックスフォード：オックスフォード大学出版局。pp.487–506。ISBN 978-0-1982-5079-1。
- ^ 「ユージン・グーストマンは本物の少年だ - チューリングテストがそう言っている」。ガーディアン。2014年6月9日。ISSN 0261-3077 。2024年3月3日閲覧。
- ^ 「科学者ら、コンピューター『ユージン・グーストマン』がチューリングテストに合格したかどうか論争」BBCニュース、2014年6月9日。 2024年3月3日閲覧。
- ^ Varanasi, Lakshmi (2023年3月21日). 「ChatGPTやGPT-4などのAIモデルは、司法試験からAP生物学まであらゆる分野で優秀な成績を収めています。両方のAIバージョンが合格した難しい試験のリストは次のとおりです」。Business Insider 。 2023年5月30日閲覧。
- ^ ネイスミス、カレブ（2023年2月7日）。「人工知能がすでに置き換えている6つの仕事と、投資家がそれをどう活用できるか」。2023年5月30日閲覧。
- ^ Turk, Victoria (2015年1月28日). 「チューリングテストを「チューリングオリンピック」に置き換える計画」. Vice . 2024年3月3日閲覧。
- ^ Gopani, Avi (2022年5月25日). 「チューリングテストは信頼できない。ウィノグラードスキーマは時代遅れ。コーヒーが答えだ」. Analytics India Magazine . 2024年3月3日閲覧。
- ^ Bhaimiya, Sawdah (2023年6月20日). 「DeepMindの共同設立者は、人間のような知能を測定するために、AIチャットボットが10万ドルを100万ドルに変える能力をテストすることを提案した」. Business Insider . 2024年3月3日閲覧。
- ^ スレイマン、ムスタファ（2023年7月14日）。「ムスタファ・スレイマン：私の新しいチューリングテストはAIが100万ドルを稼げるかどうかを調べるだろう」MITテクノロジーレビュー。 2024年3月3日閲覧。
- ^ Shapiro, Stuart C. (1992). 「人工知能」(PDF)。Stuart C. Shapiro (編) 『人工知能百科事典(第2版)』。ニューヨーク: John Wiley。pp. 54–57。 2016年2月1日時点のオリジナルよりアーカイブ(PDF) 。(セクション 4 は「AI によるタスクの完了」に関するものです。)
- ^ Yampolskiy, Roman V. (2012). Xin-She Yang (ed.). 「AI完全性の定義的特徴としてのチューリングテスト」(PDF)。人工知能、進化的計算、メタヒューリスティクス (AIECM) : 3–17。 2013年5月22日時点のオリジナルよりアーカイブ(PDF) 。
- ^ 「AIインデックス：13のチャートで見るAIの現状」スタンフォード大学人間中心の人工知能。2024年4月15日。 2024年5月27日閲覧。
- ^ クレヴィエ 1993、48-50ページ
- ^ Kaplan, Andreas (2022). 「人工知能、ビジネス、文明 – 機械で作られた私たちの運命」。2022年5月6日時点のオリジナルよりアーカイブ。2022年3月12日閲覧。
- ^ Simon 1965、p. 96 を Crevier 1993、p. 109 に引用
- ^ 「撮影現場の科学者：マービン・ミンスキーとのインタビュー」。2012年7月16日時点のオリジナルよりアーカイブ。2008年4月5日閲覧。
- ^ マーヴィン・ミンスキーがダラックに宛てた手紙（1970年）、クレヴィエ（1993年、109ページ）に引用。
- ^ ライトヒル 1973; ハウ 1994
- ^ ab NRC 1999、「応用研究への移行により投資が増加」。
- ^ クレヴィエ 1993、pp.115-117; ラッセル＆ノルヴィグ 2003、pp.21-22。
- ^ Crevier 1993, p. 211、Russell & Norvig 2003, p. 24、Feigenbaum & McCorduck 1983も参照
- ^ クレヴィエ 1993、pp.161-162, 197-203, 240; ラッセル＆ノルヴィグ 2003、p.25。
- ^ クレヴィエ 1993、209-212ページ
- ^ McCarthy, John (2000). 「Reply to Lighthill」. スタンフォード大学. 2008年9月30日時点のオリジナルよりアーカイブ。 2007年9月29日閲覧。
- ^ Markoff, John (2005年10月14日). 「人工知能の背後には、聡明な本物の人々の部隊がいた」ニューヨーク・タイムズ。2023年2月2日時点のオリジナルよりアーカイブ。2017年2月18日閲覧。
最悪の時期には、一部のコンピューター科学者やソフトウェアエンジニアは、夢想家と見られることを恐れて、人工知能という用語を避けていました。
- ^ ラッセル＆ノルヴィグ 2003、25～26ページ
- ^ 「新興技術ハイプサイクルの動向」。ガートナーレポート。2019年5月22日時点のオリジナルよりアーカイブ。2019年5月7日閲覧。
- ^ モラベック 1988、20 ページ
- ^ Harnad, S. (1990). 「シンボルグラウンディング問題」. Physica D. 42 ( 1–3): 335–346. arXiv : cs/9906002 . Bibcode :1990PhyD...42..335H. doi :10.1016/0167-2789(90)90087-6. S2CID 3204300.
- ^ グブルド 1997
- ^ Hutter, Marcus (2005). ユニバーサル人工知能: アルゴリズム確率に基づく逐次決定。理論計算機科学テキスト、EATCS シリーズ。Springer. doi :10.1007/b138233. ISBN 978-3-5402-6877-2. S2CID 33352850. 2022年7月19日時点のオリジナルよりアーカイブ。2022年7月19日閲覧。
- ^ Legg, Shane (2008). Machine Super Intelligence (PDF) (論文). ルガーノ大学. 2022年6月15日時点のオリジナルよりアーカイブ(PDF) 。 2022年7月19日閲覧。
- ^ ベン、ゲルツェル (2014).汎用人工知能。コンピューターサイエンスの講義ノート。 Vol. 8598。汎用人工知能ジャーナル。土井：10.1007/978-3-319-09274-4。ISBN 978-3-3190-9273-7. S2CID 8387410。
- ^ 「「AGI」という用語を作ったのは誰か?」goertzel.org。2018年12月28日時点のオリジナルよりアーカイブ。2018年12月28日閲覧。、 Life 3.0より：「「AGI」という用語は、Shane Legg、Mark Gubrud、Ben Goertzel によって普及されました。」
- ^ ワン＆ゴーツェル 2007
- ^ “First International Summer School in Artificial General Intelligence、メインサマースクール：2009年6月22日～7月3日、OpenCog Lab：2009年7月6日～9日”。2020年9月28日時点のオリジナルよりアーカイブ。 2020年5月11日閲覧。
- ^ “Избираеми дисциплини 2009/2010 – пролетен триместър” [選択コース 2009/2010 – 春学期]. Факултет по математика информатика [数学情報学部] (ブルガリア語)。 2020年7月26日のオリジナルからアーカイブ。2020 年5 月 11 日に取得。
- ^ “Избираеми дисциплини 2010/2011 – зимен триместър” [選択コース 2010/2011 – 冬学期]. Факултет по математика информатика [数学情報学部] (ブルガリア語)。 2020年7月26日のオリジナルからアーカイブ。2020 年5 月 11 日に取得。
- ^ Shevlin, Henry; Vold, Karina; Crosby, Matthew; Halina, Marta (2019年10月4日). 「機械知能の限界: 機械知能は進歩しているものの、人工汎用知能は依然として大きな課題である」. EMBO Reports . 20 (10): e49177. doi :10.15252/embr.201949177. ISSN 1469-221X. PMC 6776890. PMID 31531926 .
- ^ ビュベック、セバスチャン;チャンドラセカラン、ヴァルン。エルダン、ロネン。ゲールケ、ヨハネス。エリック・ホーヴィッツ。カマル、エセ。リー、ピーター。リー、イン・タット。李元志。ランドバーグ、スコット。ノリ、ハルシャ。パランギ、ハミッド;リベイロ、マルコ・トゥーリオ。張毅（2023年3月27日）。 「汎用人工知能の火花: GPT-4 による初期の実験」。arXiv : 2303.12712 [cs.CL]。
- ^ 「Microsoftの研究者、GPT-4がAGIの「兆し」を見せていると主張」Futurism . 2023年3月23日. 2023年12月13日閲覧。
- ^ Allen, Paul; Greaves, Mark (2011年10月12日). 「シンギュラリティは近い」. MIT Technology Review . 2014年9月17日閲覧。
- ^ ウィンフィールド、アラン。「人工知能はフランケンシュタインの怪物にはならない」。ガーディアン。2014年9月17日時点のオリジナルよりアーカイブ。 2014年9月17日閲覧。
- ^ ディーン、ジョージ（2022）。「感じて考える機械：（人工）汎用知能における情緒的感情と精神的行動の役割」。人工生命。28 （ 3）：289–309。doi ：10.1162 / artl_a_00368。ISSN 1064-5462。PMID 35881678。S2CID 251069071 。
- ^ abc Clocks 2003年。
- ^ Fjelland, Ragnar (2020年6月17日). 「なぜ汎用人工知能は実現されないのか」.人文社会科学コミュニケーション. 7 (1): 1–9. doi : 10.1057/s41599-020-0494-4 . hdl : 11250/2726984 . ISSN 2662-9992. S2CID 219710554.
- ^ マッカーシー 2007b.
- ^ Khatchadourian, Raffi (2015年11月23日). 「終末の発明: 人工知能は私たちにユートピアをもたらすのか、それとも破滅をもたらすのか?」. The New Yorker . 2016年1月28日時点のオリジナルよりアーカイブ。2016年2月7日閲覧。
- ^ Müller, VC, & Bostrom, N. (2016). 人工知能の将来の進歩: 専門家の意見の調査。人工知能の基本問題 (pp. 555–572)。Springer, Cham.
- ^ アームストロング、スチュアート、カイ・ソタラ。 2012. 「AI をどのように予測しているか、あるいは予測できていないのか」 『Beyond AI: Artificial Dreams』、ヤン ロンポートル、パベル アーシング、エヴァ ジャチコヴァ、ミハル ポラーク、ラデク シュスター編集、52 ～ 75 年。プルゼニ: 西ボヘミア大学
- ^ 「マイクロソフト、GPT-4が汎用知能の『火花』を示していると主張」2023年3月24日。
- ^ Shimek, Cary (2023年7月6日). 「AIは創造性テストで人間を上回る」. Neuroscience News . 2023年10月20日閲覧。
- ^ Guzik, Erik E.; Byrge, Christian; Gilde, Christian (2023年12月1日). 「機械の独創性：AIはトーランステストを受ける」. Journal of Creativity . 33 (3): 100065. doi : 10.1016/j.yjoc.2023.100065 . ISSN 2713-3745. S2CID 261087185.
- ^ Arcas、Blaise Agüera y (2023 年 10 月 10 日)。 「汎用人工知能はすでに存在している」。ノエマ。
- ^ Zia, Tehseen (2024年1月8日). 「大規模マルチモーダルモデルの公開：2024年の言語モデルの展望」. Unite.ai . 2024年5月26日閲覧。
- ^ 「OpenAI o1-previewの紹介」。OpenAI。2024年9月12日。
- ^ ナイト、ウィル。「OpenAIが困難な問題を段階的に解決する新しいAIモデル、コード名ストロベリーを発表」 。Wired。ISSN 1059-1028 。2024年9月17日閲覧。
- ^ 「AI Index: 13のチャートで見るAIの現状」hai.stanford.edu 2024年4月15日2024年6月7日閲覧。
- ^ 「次世代AI：OpenAIとMetaの推論マシンへの飛躍」Unite.ai 2024年4月19日2024年6月7日閲覧。
- ^ James, Alex P. (2022). 「人工知能チップ開発の理由、内容、方法」. IEEE Transactions on Cognitive and Developmental Systems . 14 (2): 333–347. arXiv : 2012.06338 . doi :10.1109/TCDS.2021.3069871. ISSN 2379-8920. S2CID 228376556. 2022年8月28日時点のオリジナルよりアーカイブ。 2022年8月28日閲覧。
- ^ ペイ、ジン;鄧、雷。ソン、セン。趙明国。張佑輝。ウー、シュアン。王観瑞。鄒、浙。呉、鎮志。彼、魏。チェン、フェン。鄧、寧。ウー、シー。王、宇。ウー、ユジエ（2019）。 「ハイブリッド Tianjic チップ アーキテクチャによる汎用人工知能に向けて」。自然。572 (7767): 106–111。Bibcode :2019Natur.572..106P。土井：10.1038/s41586-019-1424-8。ISSN 1476-4687。PMID 31367028. S2CID 199056116. 2022年8月29日時点のオリジナルよりアーカイブ。2022年8月29日閲覧。
- ^ Pandey, Mohit; Fernandez, Michael; Gentile, Francesco; Isayev, Olexandr; Tropsha, Alexander; Stern, Abraham C.; Cherkasov, Artem (2022年3月). 「創薬におけるGPUコンピューティングとディープラーニングの変革的役割」. Nature Machine Intelligence . 4 (3): 211–221. doi : 10.1038/s42256-022-00463-x . ISSN 2522-5839. S2CID 252081559.
- ^ Goertzel & Pennachin 2006年。
- ^ abc (カーツワイル 2005、p. 260)
- ^ abc Goertzel 2007年。
- ^ Grace, Katja (2016). 「Armstrong and Sotala 2012 のエラー」。AI Impacts (ブログ)。2020年12月4日時点のオリジナルよりアーカイブ。 2020年8月24日閲覧。
- ^ ab Butz、Martin V. (2021 年 3 月 1 日)。 「強いAIを目指して」。KI – Kunstliche Intelligenz。35 (1): 91–101。土井：10.1007/s13218-021-00705-x。ISSN 1610-1987。S2CID 256065190。
- ^ Liu, Feng; Shi, Yong; Liu, Ying (2017). 「人工知能の知能指数と知能レベル」Annals of Data Science . 4 (2): 179–191. arXiv : 1709.10242 . doi :10.1007/s40745-017-0109-0. S2CID 37900130.
- ^ Brien, Jörn (2017年10月5日). 「Google-KI doppelt so schlau wie Siri」[Google AIはSiriの2倍賢いが、6歳児は両方に勝る] (ドイツ語). 2019年1月3日時点のオリジナルよりアーカイブ。2019年1月2日閲覧。
- ^ Grossman, Gary (2020年9月3日). 「私たちは、狭義のAIと汎用AIの間のAIのトワイライトゾーンに突入しています」。VentureBeat。2020年9月4日時点のオリジナルよりアーカイブ。 2020年9月5日閲覧。
確かに、最近発表されたGPT-3自然言語処理（NLP）ニューラルネットワークに、AGIシステムの初期の例がすでに見られると主張する人もいます。...では、GPT-3はAGIシステムの最初の例なのでしょうか？これは議論の余地がありますが、AGIではないというのがコンセンサスです。...少なくとも、GPT-3は、狭義のAIと汎用AIの間には中間点があることを教えてくれます。
- ^ Quach, Katyanna. 「ある開発者がGPT-3を使ってAIチャットボットを構築し、亡くなった婚約者と再び話せるようにした。OpenAIがそれを停止」。The Register。2021年10月16日時点のオリジナルよりアーカイブ。 2021年10月16日閲覧。
- ^ Wiggers, Kyle (2022年5月13日)、「DeepMindの新しいAIは、ゲームのプレイからロボットの制御まで、600以上のタスクを実行できます」、TechCrunch、2022年6月16日時点のオリジナルからアーカイブ、 2022年6月12日閲覧。
- ^ ビュベック、セバスチャン;チャンドラセカラン、ヴァルン。エルダン、ロネン。ゲールケ、ヨハネス。エリック・ホーヴィッツ。カマル、エセ。リー、ピーター。リー、イン・タット。李元志。ランドバーグ、スコット。ノリ、ハルシャ。パランギ、ハミッド;リベイロ、マルコ・トゥーリオ。張毅（2023年3月22日）。 「汎用人工知能の火花: GPT-4 による初期の実験」。arXiv : 2303.12712 [cs.CL]。
- ^ メッツ、ケイド（2023年5月1日）。「『AIのゴッドファーザー』がGoogleを去り、今後の危険を警告」ニューヨークタイムズ。ISSN 0362-4331 。 2023年6 月7日閲覧。
- ^ ボヴェ、トリスタン。「AIは『わずか数年』で人間の知能に匹敵する可能性があると、Googleの主要AI研究ラボのCEOが語る」フォーチュン。 2024年9月4日閲覧。
- ^ ネリス、スティーブン（2024年3月2日）。「NVIDIA CEO、AIは5年以内に人間によるテストに合格できると語る」ロイター。
- ^ アシェンブレンナー、レオポルド。「状況認識、これからの10年」。
- ^ サリバン、マーク（2023年10月18日）。「なぜ誰もが汎用人工知能の定義について意見が一致しないのか」Fast Company。
- ^ Nosta, John (2024年1月5日). 「汎用人工知能への加速する道」. Psychology Today . 2024年3月30日閲覧。
- ^ Hickey, Alex. 「Whole Brain Emulation: A Giant Step for Neuroscience」. Tech Brew . 2023年11月8日閲覧。
- ^ サンドバーグ＆ボストロム 2008.
- ^ ドラクマン 2005.
- ^ ラッセル＆ノルヴィグ 2003より 。
- ^ モラベック1988、61ページ。
- ^ モラベック 1998.
- ^ Holmgaard Mersh、Amalie（2023年9月15日）。「10年にわたる欧州の研究プロジェクトが人間の脳をマッピング」。euractiv。
- ^ ab ソーントン、アンジェラ（2023年6月26日）。「私たちの心をコンピューターにアップロードすることはどのように可能になるか」ザ・カンバセーション。 2023年11月8日閲覧。
- ^ Vicinanza, Domenico (2023年12月18日). 「新しいスーパーコンピューターは人間の脳を厳密に模倣することを目指しており、心の秘密を解き明かし、AIを進歩させるのに役立つ可能性があります」。The Conversation 。 2024年3月29日閲覧。
- ^ Swaminathan, Nikhil (2011年1月～2月). 「グリア細胞—その他の脳細胞」. Discover . 2014年2月8日時点のオリジナルよりアーカイブ。2014年1月24日閲覧。
- ^ de Vega、Glenberg、Graesser 2008。現在の研究では幅広い見解があり、そのすべてにある程度の基礎が必要である。
- ^ サール 1980
- ^ 例えば:
- ラッセル＆ノーヴィグ 2003、
- オックスフォード大学出版局心理学辞典 2007年12月3日アーカイブWayback Machine (「Encyclopedia.com」に引用)
- MIT 認知科学百科事典 2008 年 7 月 19 日アーカイブWayback Machine (「AITopics」で引用)
- 生物学的コンピュータは人工知能マシンが人間になることを可能にするか? 2008 年 5 月 13 日アーカイブ、Wayback MachineよりAnthony Tongen
- ^ abc ラッセル＆ノルヴィグ 2003、947ページ。
- ^ ただし、プログラムがなぜそのように動作するのかという分野からの好奇心については、説明可能な人工知能を参照してください。
- ^ Chalmers, David J. (2023年8月9日). 「大規模言語モデルは意識を持つことができるか?」ボストンレビュー。
- ^ セス、アニル。「意識」。ニューサイエンティスト。 2024年9月5日閲覧。
- ^ ナゲル 1974.
- ^ 「同社のAIが誕生したと考えるGoogleのエンジニア」ワシントンポスト。2022年6月11日。 2023年6月12日閲覧。
- ^ ブライアン・ケイトマン（2023年7月24日）。「AIは人間を恐れるべき」。TIME 。2024年9月5日閲覧。
- ^ Nosta, John (2023年12月18日). 「人工知能は権利を持つべきか?」Psychology Today . 2024年9月5日閲覧。
- ^ アクスト、ダニエル（2023年4月10日）。「人工知能を備えたロボットは道徳的権利や法的権利を持つべきか？」ウォールストリートジャーナル。
- ^ 「汎用人工知能 – コストはメリットを上回るか？」 2021年8月23日。 2023年6月7日閲覧。
- ^ 「汎用人工知能（AGI）の進歩から得られるメリット – Unite.AI」www.unite.ai 2020年4月7日2023年6月7日閲覧。
- ^ abc Talty, Jules; Julien, Stephan. 「人工知能があらゆる場所に普及したら、私たちの社会はどうなるのか？」スミソニアンマガジン。 2023年6月7日閲覧。
- ^ abスティーブンソン、マット（2015年10月8日）。「スティーブン・ ホーキングのAMAへの回答はここにあります！」Wired。ISSN 1059-1028。2023年6月8日閲覧。
- ^ ab ボストロム、ニック（2017年）。「§ 到着の優先順序」。スーパーインテリジェンス：経路、危険、戦略（2017年版訂正再版）。オックスフォード、イギリス、ニューヨーク、ニューヨーク、アメリカ：オックスフォード大学出版局。ISBN 978-0-1996-7811-2。
- ^ パイパー、ケルシー（2018年11月19日）。「技術の進歩により、人類が自らを破壊する可能性がこれまで以上に高まっている」Vox 。 2023年6月8日閲覧。
- ^ドハティ、ベン（2018年5月17日）。「気候変動はオーストラリアにとって 『実存的安全保障上のリスク』だと上院の調査で指摘」ガーディアン。ISSN 0261-3077 。 2023年7月16日閲覧。
- ^ マカスキル、ウィリアム（2022年）。私たちが未来に負っているもの。ニューヨーク、ニューヨーク：ベーシックブックス。ISBN 978-1-5416-1862-6。
- ^ ab Ord, Toby (2020). 「第5章: 将来 のリスク、非整合的な人工知能」。The Precipice: 実存的リスクと人類の未来。Bloomsbury Publishing。ISBN 978-1-5266-0021-9。
- ^ Al-Sibai, Noor (2022年2月13日). 「OpenAIの主任科学者、先進的なAIはすでに意識を持っている可能性があると語る」Futurism 。 2023年12月24日閲覧。
- ^ サミュエルソン、ポール・コンラッド（2019年）。「人工意識：私たちの最大の倫理的課題」。Philosophy Now 。 2023年12月23日閲覧。
- ^ ブライアン・ケイトマン（2023年7月24日）。「AIは人間を恐れるべき」。TIME 。2023年12月23日閲覧。
- ^ルース、ケビン（2023年5月30日）。「AIは『絶滅の リスク』をもたらす、業界リーダーが警告」ニューヨークタイムズ。ISSN 0362-4331 。 2023年12月24日閲覧。
- ^ ab 「AIリスクに関する声明」。AI安全センター。2023年5月30日。 2023年6月8日閲覧。
- ^ 「スティーブン・ホーキング：「トランセンデンスは人工知能の影響を考察するが、我々はAIを真剣に受け止めているだろうか？」」インディペンデント（英国）。2015年9月25日時点のオリジナルよりアーカイブ。 2014年12月3日閲覧。
- ^ ハーガー、マリオ。「ゴリラの問題 - エンタープライズガレージ」 。 2023年6月7日閲覧。
- ^ 「強いAIのリスクに関するヤン・ルカン、スチュアート・ラッセル、ヨシュア・ベンジオによる魅力的なFacebook討論」。強いAIのリスクに関するヤン・ルカン、スチュアート・ラッセル、ヨシュア・ベンジオによる魅力的なFacebook討論（フランス語） 。 2023年6月8日閲覧。
- ^ 「人工知能は今後100年以内に人類を滅ぼすのか？」HuffPost。2014年8月22日。 2023年6月8日閲覧。
- ^ ソタラ、カイ;ヤンポルスキー、ローマン V. (2014 年 12 月 19 日)。 「壊滅的なAGIリスクへの対応：調査」。フィジカスクリプタ。90 (1): 018001.土井: 10.1088/0031-8949/90/1/018001。ISSN 0031-8949。
- ^ ボストロム、ニック（2014）。『スーパーインテリジェンス：道、危険、戦略』（初版）。オックスフォード大学出版局。ISBN 978-0-1996-7811-2。
- ^ Chow, Andrew R.; Perrigo, Billy (2023年2月16日). 「AI軍拡競争は始まった。心配し始めよう」. TIME . 2023年12月24日閲覧。
- ^ Tetlow, Gemma (2017年1月12日). 「AI軍拡競争は制御不能に陥るリスクがあると報告書は警告」 . Financial Times . 2022年4月11日時点のオリジナルよりアーカイブ。 2023年12月24日閲覧。
- ^ミルモ、 ダン、ステイシー、キラン（2023年9月25日）。「専門家は脅威について意見が一致しないが、人工知能は無視できない」。ガーディアン。ISSN 0261-3077 。 2023年12月24日閲覧。
- ^ 「人類、安全保障、AI、なんてことだ！（イアン・ブレマー、シューマン・ゴセマジュムダー共著）」CAFE。2023年7月20日。 2023年9月15日閲覧。
- ^ ハンブリン、ジェームズ（2014年5月9日）。「しかし、人類の終焉は私にとって何を意味するのか？」アトランティック誌。2014年6月4日時点のオリジナルよりアーカイブ。 2015年12月12日閲覧。
- ^ ティットコム、ジェームズ（2023年10月30日）。「ビッグテックがAIに対する恐怖を煽っている、と科学者は警告」テレグラフ。 2023年12月7日閲覧。
- ^ Davidson, John (2023年10月30日). 「Google Brainの創設者、大手テック企業はAI絶滅の危機について嘘をついていると語る」。オーストラリアン・ファイナンシャル・レビュー。2023年12月7日時点のオリジナルよりアーカイブ。2023年12月7日閲覧。
- ^ Eloundou, Tyna; Manning, Sam; Mishkin, Pamela; Rock, Daniel (2023年3月17日). 「GPTはGPTです：大規模言語モデルの労働市場への影響の可能性に関する早期調査」。OpenAI 。 2023年6月7日閲覧。
- ^ ab Hurst, Luke (2023年3月23日). 「OpenAIによると、労働者の80%がAIによって仕事に影響を受ける可能性がある。最も影響を受けるのはこれらの仕事だ」。euronews 。 2023年6月8日閲覧。
- ^ Sheffey, Ayelet (2021年8月20日). 「イーロン・マスク氏、ユニバーサル・ベーシック・インカムが必要だと語る。『将来的には肉体労働が選択肢になる』からだ」。Business Insider。2023年7月9日時点のオリジナルよりアーカイブ。 2023年6月8日閲覧。
出典
- ユネスコ科学レポート：よりスマートな開発のための時間との競争。パリ：ユネスコ。2021年6月11日。ISBN 978-9-2310-0450-6. 2022年6月18日時点のオリジナルよりアーカイブ。2021年9月22日閲覧。
- チャーマーズ、デイヴィッド（1996）「意識的な心」オックスフォード大学出版局。
- クロックシン、ウィリアム (2003 年 8 月)、「人工知能と未来」、Philosophical Transactions of the Royal Society A、vol. 361、no. 1809、pp. 1721–1748、Bibcode :2003RSPTA.361.1721C、doi :10.1098/rsta.2003.1232、PMID 12952683、S2CID 31032007
- クレヴィエ、ダニエル(1993) 。AI: 人工知能への激動の探求。ニューヨーク、NY: BasicBooks。ISBN 0-465-02997-3。
- ダラック、ブラッド（1970 年 11 月 20 日）「最初の電子人間、シェーキーに会おう」ライフ マガジン、pp. 58–68
- Drachman, D. (2005)、「私たちには余剰脳があるか？」、神経学、64 (12): 2004–2005、doi :10.1212/01.WNL.0000166914.38327.BB、PMID 15985565、S2CID 38482114
- ファイゲンバウム、エドワード A. ;マコーダック、パメラ(1983)、第五世代: 人工知能と日本のコンピュータの世界への挑戦、マイケル ジョセフ、ISBN 978-0-7181-2401-4
- ゲルツェル、ベン。ペナチン、カシオ編。 (2006)、汎用人工知能(PDF)、Springer、ISBN 978-3-5402-3733-4、 2013年3月20日時点のオリジナル（PDF）からアーカイブ
- Goertzel, Ben (2007 年 12 月)、「人間レベルの汎用人工知能と技術的特異点の可能性: Ray Kurzweil の The Singularity Is Near に対する反応と McDermott の Kurzweil 批判」、人工知能、第 171 巻、第 18 号、特別レビュー号、pp. 1161–1173、doi : 10.1016/j.artint.2007.10.011、2016年 1 月 7 日のオリジナルからアーカイブ、 2009 年4 月 1 日取得
- Gubrud, Mark (1997 年 11 月)、「ナノテクノロジーと国際安全保障」、第 5 回分子ナノテクノロジーに関する先見会議、2011 年 5 月 29 日時点のオリジナルからアーカイブ、 2011 年5 月 7 日取得
- Howe, J. (1994 年 11 月)、エディンバラ大学における人工知能: 展望、2007 年 8 月 17 日のオリジナルからアーカイブ、 2007 年8 月 30 日取得
- ジョンソン、マーク（1987）『心の中の身体』シカゴ、ISBN 978-0-2264-0317-5
- カーツワイル、レイ（2005年）『シンギュラリティは近い』ヴァイキング・プレス
- ライトヒル教授、サー・ジェームズ（1973）、「人工知能：概要」、人工知能：論文シンポジウム、科学研究会議
- ルガー、ジョージ、スタブルフィールド、ウィリアム (2004)、『人工知能：複雑な問題解決のための構造と戦略』（第 5 版）、ベンジャミン/カミングス出版、p. 720、ISBN 978-0-8053-4780-7
- マッカーシー、ジョン (2007b)。人工知能とは何か? スタンフォード大学。
究極の努力は、人間と同じように世界の問題を解決し、目標を達成できるコンピュータ プログラムを作成することです。
- モラベック、ハンス（1988）、マインド・チルドレン、ハーバード大学出版局
- Moravec, Hans (1998)、「コンピュータのハードウェアが人間の脳に匹敵するのはいつになるのか?」、Journal of Evolution and Technology、第 1 巻、2006 年 6 月 15 日のオリジナルからアーカイブ、 2006 年6 月 23 日取得
- Nagel (1974)、「コウモリであることはどんな感じか」(PDF)、Philosophical Review、83 (4): 435–50、doi :10.2307/2183914、JSTOR 2183914、 2011年10月16日時点のオリジナルより アーカイブ(PDF) 、 2009年11月7日取得
- ニューウェル、アレン、サイモン、HA（1976）。「経験的探究としてのコンピュータサイエンス：シンボルと検索」。Communications of the ACM。19 （ 3）：113–126。doi ：10.1145 / 360018.360022。
- ニルソン、ニルス（1998）、人工知能：新しい統合、モルガンカウフマン出版社、ISBN 978-1-5586-0467-4
- NRC (1999)、「人工知能の開発」、革命への資金提供: コンピューティング研究に対する政府の支援、National Academy Press、2008 年 1 月 12 日時点のオリジナルからアーカイブ、 2007 年9 月 29 日取得
- プール、デイビッド、マックワース、アラン、ゲーベル、ランディ（1998）、Computational Intelligence: A Logical Approach、ニューヨーク：オックスフォード大学出版局、2009年7月25日時点のオリジナルよりアーカイブ、 2007年12月6日閲覧
- ラッセル、スチュアート J. ;ノーヴィグ、ピーター(2003)、人工知能: 現代的アプローチ (第 2 版)、アッパー サドル リバー、ニュージャージー: プレンティス ホール、ISBN 0-13-790395-2
- Sandberg, Anders; Boström, Nick (2008)、Whole Brain Emulation: A Roadmap (PDF)、技術レポート #2008-3、Future of Humanity Institute、オックスフォード大学、2020 年 3 月 25 日時点のオリジナルよりアーカイブ(PDF) 、 2009 年4 月 5 日取得
- サール、ジョン（1980）、「心、脳、プログラム」（PDF）、行動と脳科学、3（3）：417–457、doi：10.1017 / S0140525X00005756、S2CID 55303721、 2019年3月17日のオリジナルから アーカイブ（PDF） 、 2020年9月3日取得
- サイモン、HA（1965）、男性と管理のためのオートメーションの形、ニューヨーク：ハーパー＆ロウ
- チューリング、アラン(1950 年 10月)。「計算機械と知能」。マインド59 (236 ) : 433–460。doi : 10.1093 / mind/LIX.236.433。ISSN 1460-2113。JSTOR 2251299。S2CID 14636783 。
- de Vega, Manuel; Glenberg, Arthur; Graesser, Arthur 編 (2008)、『Symbols and Body: Debates on meaning and cognition』、オックスフォード大学出版局、ISBN 978-0-1992-1727-4
- ワン・ペイ、ゲーツェル・ベン(2007)。「序論: 人工汎用知能の側面」。人工汎用知能の進歩: 概念、アーキテクチャ、アルゴリズム: AGI ワークショップ 2006 の議事録。IOS プレス。pp. 1–16。ISBN 978-1-5860-3758-1. 2021年2月18日時点のオリジナルよりアーカイブ。2020年12月13日閲覧– ResearchGate経由。
さらに読む
- アレクサンダー、イゴール（1996）、Impossible Minds、World Scientific Publishing Company、ISBN 978-1-8609-4036-1
- Azevedo FA、Carvalho LR、Grinberg LT、Farfel J、他 (2009 年 4 月)、「神経細胞と非神経細胞の数が等しいため、人間の脳は等尺的に拡大された霊長類の脳になる」、The Journal of Comparative Neurology、513 (5): 532–541、doi :10.1002/cne.21974、PMID 19226510、S2CID 5200449、2021年 2 月 18 日時点のオリジナルからアーカイブ、2013 年9 月 4 日取得– ResearchGate 経由
- バーグラス、アンソニー（2012年1月）[2008]、人工知能は私たちの孫を殺すだろう（シンギュラリティ）、2014年7月23日時点のオリジナルからアーカイブ、 2012年8月31日閲覧。
- ケネス・クキアー、「ロボットへの準備はできていますか? AI の未来についてどう考えるか」、Foreign Affairs、第 98 巻、第 4 号 (2019 年 7 月/8 月)、192 ～ 198 ページ。コンピュータの歴史家であるジョージ・ダイソンは、「理解できるほど単純なシステムは、知的に動作するほど複雑ではなく、知的に動作するほど複雑なシステムは、理解するには複雑すぎる」と書いています (「ダイソンの法則」とも呼ばれます)。(197 ページ)。コンピュータ科学者のアレックス・ペントランドは、「現在のAI 機械学習 アルゴリズムは、その根底にある、非常に単純で愚かなものです。機能しますが、力ずくで動作します。」(198 ページ)。
- ジェラーンター、デイヴィッド、「夢の論理、インターネット、人工思考」、エッジ、2010年7月26日時点のオリジナルよりアーカイブ、 2010年7月25日閲覧。
- グレイック、ジェームズ、「自由意志の運命」（ケビン・J・ミッチェル著『フリーエージェント：進化はいかにして私たちに自由意志を与えたか』、プリンストン大学出版、2023年、333ページのレビュー）、ニューヨーク・レビュー・オブ・ブックス、第71巻第1号（2024年1月18日）、27～28、30ページ。「行為主体性こそが、私たちを機械と区別するものです。生物にとって、理性と目的は、世界で行動し、その結果を経験することから生まれます。肉体を持たず、血と汗と涙とは無縁の人工知能には、そのような機会はありません。」（30ページ）
- Halal, William E. 「TechCast 記事シリーズ: 思考の自動化」(PDF) 。2013 年 6 月 6 日時点のオリジナル(PDF)からのアーカイブ。
- ハルパーン、スー、「来たるテック独裁主義」（ヴェリティ・ハーディング著『AI Needs You: How We Can Change AI's Future and Save Our Own』、プリンストン大学出版、274ページ、ゲイリー・マーカス著『Taming Silicon Valley: How We Can Ensure That AI Works for Us』、MIT Press、235ページ、ダニエラ・ラスおよびグレゴリー・モネ著『The Mind's Mirror: Risk and Reward in the Age of AI』、ノートン、280ページ、マドゥミタ・ムルジア著『Code Dependent: Living in the Shadow of AI』、ヘンリー・ホルト、311ページのレビュー）、ニューヨーク・レビュー・オブ・ブックス、第71巻第17号（2024年11月7日）、44～46ページ。 「『AIで金持ちになりたいと願う人々が、私たち残りの人々の利益を心から大切にしてくれるとは、現実的に期待できない』と[ゲイリー・マーカス]は書いている。『 [テクノロジー企業からの]選挙資金提供に動かされている政府が抵抗するとは期待できない』…マーカスは、国民が政府やテクノロジー企業に求めるべき要求を詳細に述べている。要求には、AIシステムの仕組みの 透明性、LLM（大規模言語モデル）のトレーニングにデータが使用される場合の個人への補償、この使用に同意する権利、第230条を廃止し、罰金を課し、より厳格な製造物責任法を可決することで、テクノロジー企業が引き起こした損害に対して責任を負わせる能力などが含まれる…マーカスはまた、FDA、FCC、FTCに似た、AIに特化した新しい連邦機関が最も強力な監視を提供するかもしれないと示唆している…フォーダム大学の法学教授チンマイ・シャルマは…AIの専門家ライセンス制度を確立することを提案している。医師免許、医療過誤訴訟、医療におけるヒポクラテスの誓いと同様の役割を果たす AI エンジニア。「医師のように、AI エンジニアも害を及ぼさないことを誓ったらどうなるでしょうか」と彼女は問いかけます (p. 46)。
- Holte, RC; Choueiry, BY (2003)、「人工知能における抽象化と再定式化」、Philosophical Transactions of the Royal Society B、vol. 358、no. 1435、pp. 1197–1204、doi :10.1098/rstb.2003.1317、PMC 1693218、PMID 12903653
- ヒューズ・キャッスルベリー、ケンナ、「殺人ミステリーパズル：何十年も人類を悩ませてきた文学パズル『ケインの顎骨』は、自然言語処理アルゴリズムの限界を明らかにする」、サイエンティフィック・アメリカン、第329巻第4号（2023年11月）、81～82ページ。「この殺人ミステリーコンテストは、NLP（自然言語処理）モデルが信じられないほどの偉業を成し遂げることができるにもかかわらず、その能力は受け取るコンテキストの量によって大きく制限されることが明らかになりました。これは、古代言語の分析などに使用したいと考えている研究者にとって[困難]を引き起こす可能性があります。場合によっては、そのような目的のトレーニングデータとして役立つ、はるか昔の文明に関する歴史的記録がほとんどありません。」（82ページ）
- ダニエル・イマーワー、「あなたの嘘つきの目：人々は今やAIを使って本物と区別がつかない偽の動画を生成している。それはどの程度問題なのか？」、ニューヨーカー、2023年11月20日、pp. 54-59。「『ディープフェイク』が、実際に人々を騙す人工知能を使って制作されたリアルな動画を意味するのであれば、それはほとんど存在しない。フェイクはディープではなく、ディープはフェイクではない。[...] AIが生成した動画は、一般的に、私たちのメディアで偽造された証拠として機能しているわけではない。その役割は、特に卑猥なものなど、漫画の役割に似ている。」（p. 59）
- レファー、ローレン、「AIを信頼することのリスク：科学研究で使用される機械学習モデルを人間化することは避けなければならない」、サイエンティフィック・アメリカン、第330巻、第6号（2024年6月）、80-81ページ。
- ジル・レポア、「チットチャットボット：機械との会話は会話か？」『ニューヨーカー』 2024年10月7日、12～16頁。
- マーカス、ゲイリー、「人工的な自信：人工汎用知能の最新かつ話題のシステムでさえ、同じ古い問題に悩まされている」、サイエンティフィック・アメリカン、第327巻第4号（2022年10月）、pp.42-45。
- マッカーシー、ジョン（2007年10月）「ここから人間レベルのAIへ」人工知能、171（18）：1174–1182、doi：10.1016/j.artint.2007.10.009
- マコーダック、パメラ（2004）、考える機械（第2版）、マサチューセッツ州ネイティック：AKピーターズ、ISBN 1-5688-1205-1
- モラベック、ハンス（1976）、インテリジェンスにおける生の力の役割、2016年3月3日時点のオリジナルからアーカイブ、 2007年9月29日閲覧。
- ニューウェル、アレン、サイモン、HA（1963）、「GPS：人間の思考をシミュレートするプログラム」、ファイゲンバウム、EA、フェルドマン、J（編）、コンピュータと思考、ニューヨーク：マグロウヒル
- オモハンドロ、スティーブ（2008）、「自己改善型人工知能の性質」、カリフォルニア州サンフランシスコで開催された2007年シンギュラリティサミットで発表および配布された。
- プレス、エヤル、「彼らの顔の前で：顔認識技術は警察に矛盾する証拠を無視させるのか？」、ニューヨーカー、2023年11月20日、pp.20-26。
- Roivainen, Eka、「AIのIQ：ChatGPTは[標準的な知能]テストで優秀な成績を収めたが、知能はIQだけでは測定できないことを示した」、Scientific American、vol. 329、no. 1（2023年7月/8月）、p. 7。 「高いIQにもかかわらず、ChatGPTは実際の人間のような推論や物理的および社会的世界の理解を必要とするタスクに失敗します...。ChatGPTは論理的に推論できないようで、オンラインテキストから得られた事実の膨大なデータベースに頼ろうとしました。」
- ポール・シャーレ、「キラーアプリ：AI軍拡競争の本当の危険性」、Foreign Affairs、第98巻第3号（2019年5月/6月）、135～144ページ。「今日のAI技術は強力だが、信頼性に欠ける。ルールベースのシステムは、プログラマーが予期していなかった状況には対処できない。学習システムは、トレーニングに使用したデータによって制限される。AIの失敗はすでに悲劇を招いている。自動車の高度な自動操縦機能は、状況によってはうまく機能するが、警告なしに自動車をトラック、コンクリートの障壁、駐車中の車に衝突させてしまうことがある。状況が悪ければ、AIシステムは一瞬にして超賢いものから超愚かなものに変わる。敵がAIシステムを操作したりハッキングしたりしようとしている場合、リスクはさらに大きくなる。」（140ページ）
- サザーランド、JG (1990)、「記憶、学習、表現のホログラフィックモデル」、国際神経システムジャーナル、第1～3巻、256～267頁
- ヴィンセント、ジェームズ、「エッチなロボットの赤ちゃんの声：ジェームズ・ヴィンセントによる AI チャットボットについて」、ロンドン・レビュー・オブ・ブックス、第 46 巻、第 19 号（2024 年 10 月 10 日）、29 ～ 32 ページ。「[AI チャットボット] プログラムは新しいテクノロジーによって可能になりましたが、人間が持つ永遠の擬人化の傾向に依存しています。」（29 ページ）
- ウィリアムズ、RW; ヘラップ、K. (1988)、「ニューロン数の制御」、Annual Review of Neuroscience、11 : 423–453、doi :10.1146/annurev.ne.11.030188.002231、PMID 3284447
- Yudkowsky, Eliezer (2006)、「人工知能」(PDF)、Annual Review of Psychology、49、Springer: 585–612、doi :10.1146/annurev.psych.49.1.585、ISBN 978-3-5402-3733-4、PMID 9496632、 2009年4月11日時点の オリジナル（PDF）からアーカイブ
- Yudkowsky, Eliezer (2008)、「人工知能はグローバルリスクのプラス要因とマイナス要因である」、Global Catastrophic Risks、Bibcode :2008gcr..book..303Y、doi :10.1093/oso/9780198570509.003.0021、ISBN 978-0-1985-7050-9
- ズッカー、ジャン=ダニエル (2003 年 7 月)、「人工知能における抽象化のグラウンデッド セオリー」、Philosophical Transactions of the Royal Society B、vol. 358、no. 1435、pp. 1293–1309、doi :10.1098/rstb.2003.1308、PMC 1693211、PMID 12903672
外部リンク
- Pei Wang が管理する AGI ポータル