超知能

超知能とは、最も才能のある人間の知能を凌駕する知能を持つ仮想的な存在である。^{[ 1 ]}哲学者ニック・ボストロムは、超知能を「関心のあるほぼすべての領域において、人間の認知能力をはるかに超える知能」と定義している。 ^{[ 2 ]}

技術研究者の間では、現在の人間の知能がどの程度凌駕される可能性があるかについて意見が分かれている。人工知能（AI）の進歩により、人間の認知能力の限界を持たない汎用推論システムが実現する可能性が高いと主張する研究者もいる。一方、人間は進化するか、あるいは直接生物学的に改変することで、知能を飛躍的に向上させると考える研究者もいる。^{[ 3 ] [ 4 ]}いくつかの将来研究シナリオでは、これら両方の可能性の要素が組み合わされており、人間がコンピュータとインターフェースしたり、自分の思考をコンピュータにアップロードしたりすることで、知能を大幅に増幅させる可能性が示唆されている。最初の超知能の仮説的な創造は、知能爆発や技術的特異点によってもたらされる場合もあれば、そうでない場合もある。

一部の研究者は、汎用人工知能の開発後まもなく超知能が実現する可能性が高いと考えている。最初の汎用知能を持つ機械は、完全な記憶力、圧倒的に優れた知識基盤、生物には不可能なマルチタスク能力など、少なくともいくつかの精神的能力において、即座に大きな優位性を獲得する可能性が高い。

科学者や予測者の中には、こうした技術が社会に及ぼす可能性のある影響を考慮して、人間や機械の認知能力向上による潜在的なメリットとリスクに関する早期の研究を優先すべきだと主張する者もいる。^{[ 5 ]}

哲学者デイビッド・チャルマーズは、汎用人工知能が超知能（ASI ）への非常に可能性の高い道であると主張している。チャルマーズはこの主張を、AIが人間の知能と同等の能力を達成できること、人間の知能を超えるように拡張できること、そして任意のタスクにおいて人間を完全に支配するまでさらに強化できること、という議論に分解している。^{[ 6 ]}

人間レベルの同等性に関して、チャルマーズは人間の脳は機械システムであり、したがって合成材料で模倣できるはずだと主張している。^{[ 7 ]}また、人間の知能は生物学的に進化することができたため、人間のエンジニアがこの発明を再現できる可能性が高くなるとも述べている。特に、進化アルゴリズムは人間レベルのAIを生成できるはずだ。^{[ 8 ]}知能の拡張と増幅に関して、チャルマーズは新しいAI技術は一般的に改良可能であり、特にその発明が新しい技術の設計に役立つ場合に改良される可能性が高いと主張している。^{[ 9 ]}

自己改善が可能なAIシステムは、自身の知能を高め、それによって自己改善の効率を高めることができる。この「再帰的自己改善」のサイクルは、知能爆発を引き起こし、超知能の創造につながる可能性がある。^{[ 10 ]}

コンピュータの部品は、速度において既に人間の能力を大きく上回っている。ボストロムは、「生物学的ニューロンは最大速度約200Hzで動作し 、これは現代のマイクロプロセッサ（約2GHz）よりも7桁も遅い」と述べている 。^{[ 11 ]}さらに、ニューロンは軸索を介してスパイク信号を120m/sを超える速度で伝達しない のに対し、「既存の電子処理コアは光速で光学的に通信できる」。したがって、超知能の最も単純な例は、脳よりもはるかに高速なハードウェア上で動作する、エミュレートされた人間の心かもしれない。現在の人間よりも何百万倍も速く考えることができる人間のような推論者は、ほとんどの推論タスク、特に迅速な対応や一連の長い行動を必要とするタスクにおいて、圧倒的な優位性を持つだろう。

コンピュータのもう一つの利点はモジュール性、つまりサイズや計算能力を拡張できることである。非人間（あるいは改造された人間）の脳は、多くのスーパーコンピュータのように、現代の人間の脳よりもはるかに大きくなる可能性がある。ボストロムはまた、集合的超知能の可能性も提起している。十分な数の独立した推論システムが、十分にうまく通信し、連携すれば、個々のサブエージェントよりもはるかに優れた能力で集合的に動作できるというのだ。

人間が非人間動物よりも優れているのは、長期計画や言語使用などの新しい、あるいは強化された推論能力によるところが大きい。（人間の知能の進化と霊長類の認知を参照。）推論能力に同様の大きな影響を与える可能性のある他の改善点があれば、人間がチンパンジーよりも優れているのと同じように、人間よりも優れたエージェントを構築できる可能性が高くなる。^{[ 12 ]}

上記の利点は人工超知能には当てはまるが、生物学的超知能にどれだけ当てはまるかは明らかではない。生理学的制約は、機械知能には適用できない多くの点で、生物の脳の速度とサイズを制限する。そのため、超知能に関する著者は、超知能AIシナリオに多くの注意を払ってきた。^{[ 13 ]}

カール・セーガンは、帝王切開と体外受精の出現により、人間はより大きな頭を進化させることが可能になり、自然選択によって人間の知能の遺伝的要素が改善される可能性があると示唆した。^{[ 17 ]}対照的に、ジェラルド・クラブツリーは、選択圧の低下により人間の知能が数世紀にわたってゆっくりと低下しており、このプロセスは今後も続く可能性が高いと主張している。どちらの可能性についても科学的な合意はなく、どちらの場合も、生物学的変化は、特に文化の変化の速度に比べてゆっくりとしたものになるだろう。

選択育種、ヌートロピクス、エピジェネティック変調、遺伝子工学は、人間の知能をより急速に向上させる可能性がある。ボストロムは、知能の遺伝的要素を理解すれば、着床前遺伝子診断を用いて、IQが最大4ポイント向上する胚（2つの胚から1つを選択する場合）や、より大きな向上（例えば、1000個の胚から1つを選択する場合、IQが最大24.3ポイント向上）を持つ胚を選択できると述べている。このプロセスを何世代にもわたって繰り返せば、向上は桁違いに大きくなる可能性がある。ボストロムは、胚性幹細胞から新しい配偶子を誘導することで、選択プロセスを迅速に繰り返せる可能性があると示唆している。^{[ 18 ]}このような高知能の人間による高度に組織化された社会は、潜在的に集合的超知能を達成できる可能性がある。^{[ 19 ]}

あるいは、集合知は、現在の個々の知能レベルで人間をより良く組織化することによって構築されるかもしれない。何人かの著者は、人類文明、あるいはその一部（例えば、インターネットや経済）が、構成要素である個々のエージェントの能力をはるかに超える能力を持つグローバルな脳のように機能し始めていると示唆している。 ^{[ 20 ]}予測市場は、人間のみで構成される（アルゴリズムが意思決定に使用されていないと仮定した場合）機能する集合知システムの例として考えられていることがある。^{[ 21 ]}

知能増幅の最後の方法は、社会的または生殖的なダイナミクスを強化するのではなく、個々の人間を直接強化することである。これは、ヌートロピクス、体細胞遺伝子治療、または脳コンピュータインターフェースを使用して実現できる。しかし、ボストロムは最初の 2 つのアプローチのスケーラビリティに懐疑的であり、超知能サイボーグインターフェースの設計はAI 完全問題であると主張している。^{[ 22 ]}

調査対象となったAI研究者のほとんどは、機械が最終的には知能において人間に匹敵できるようになると予想しているが、それがいつ実現するかについてはほとんど意見の一致が見られない。^{[ 23 ]}

2022年の調査では、回答者が「高度な機械知能」が実現すると50%の確信度で予想した年数の中央値は2061年でした。この調査では、高度な機械知能の実現を、機械が人間の労働者よりも優れた、より安価な方法で全てのタスクを自力で実行できるようになった時と定義しています。^{[ 24 ]}

2023年、OpenAIのリーダーであるサム・アルトマン、グレッグ・ブロックマン、イリヤ・サツケバーは、10年以内に実現する可能性があると考える超知能のガバナンスに関する提言を発表した。^{[ 25 ]}

2025年、ダニエル・ココタイロが主導する予測シナリオAI 2027は、コーディングとAI研究の自動化が急速に進展し、その後ASIが実現すると予測した。^{[ 26 ]} 2025年9月、過去15年間の科学者と業界専門家への調査のレビューでは、技術的特異点よりはるかに低いレベルの汎用人工知能（AGI）が2100年より前に実現するという点で、ほとんどの人が同意したと報告された。^{[ 27 ]} AIMultipleによるより最近の分析では、「現在のAI研究者への調査では、AGIは2040年頃に実現すると予測されている」と報告されている。^{[ 27 ]}

ボストロムは、人工超知能の潜在的な動機を探る中で、最終目標と手段的目標を区別している。エージェントの視点から見ると、最終目標は本質的に価値があるのに対し、手段的目標は最終目標を達成するためにのみ役立つ。彼は「直交性テーゼ」を提唱し、原理的には、ほぼすべての最終目標はほぼすべてのレベルの知能と組み合わせることができると仮定している。ボストロムはまた、手段的収束の概念を導入し、特定の手段的目標（自己保存、資源獲得、認知能力向上など）は、幅広い状況で最終目標を達成する確率を高め、したがって、幅広い範囲の知的エージェントによって追求される可能性が高いと仮定している。^{[ 28 ]}

ウィリアム・マカスキルは、超知能を現在の人間の価値観に合わせることは、それらの価値観が永久に固定され、人類が過去の奴隷制度のような道徳的な盲点を依然として抱えている場合、破滅的な結果を招く可能性があると主張した。^{[ 29 ]}

ASIの最終目標に関するいくつかの提案が提示されている：^{[ 30 ]}

• 一貫性のある外挿的意志（CEV） – AIは、人間がより多くの知識と合理性を持っていた場合に収束するであろう価値観を持つべきである。
• 道徳的正しさ（MR） – AIは、優れた認知能力に基づいて倫理的な行動を判断し、道徳的に正しいことを行うようにプログラムされるべきである。
• 道徳的許容性（MP） – AIは、人間の価値観に沿った目標を追求しつつも、道徳的許容性の範囲内にとどまるべきである（CEVと同様）。

ボストロムはこれらの概念についてさらに詳しく説明している。

人類の首尾一貫した推論に基づく意志を実行する代わりに、道徳的に正しい行動をとるAIを構築し、AIの優れた認知能力に頼って、どの行動が道徳的に正しいかを判断するという方法も考えられる。この提案を「道徳的正しさ」（MR）と呼ぶことができる 。

MRにはいくつかの欠点もあるように思われる。それは「道徳的に正しい」という概念に依拠しているが、これは非常に難しい概念であり、哲学者たちは古代からこの概念と格闘してきたものの、その分析に関していまだに合意に至っていない。「道徳的に正しい」という概念を誤って解釈すると、道徳的に非常に間違った結果を招く可能性がある 。

MRモデルの基本的な考え方を維持しつつ、道徳的許容性に焦点を当てることで要求度を下げようとする試みもあるだろう。つまり、AIが道徳的に許容できない方法で行動しない限り、人類のCEVを追求することを許容できるという考え方である。^{[ 30 ]}

人工超知能（ASI）の開発は、人類にとって潜在的な存亡の危機をもたらす可能性について懸念を引き起こしている。研究者たちは、ASIが重大な脅威となり得る様々なシナリオを提案している。