Loading article…
人工知能（AI）とは、学習、推論、問題解決、知覚、意思決定など、人間の知能に通常関連付けられるタスクを実行する計算システムの能力のことです。これは、機械が環境を認識し、学習と知能を使用して、定義された目標を達成する可能性を最大化する行動をとることを可能にする方法とソフトウェアを開発および研究する、工学、数学、およびコンピュータ科学の研究分野です。[ 1 ]
AIの代表的な応用例としては、高度なウェブ検索エンジン、チャットボット、バーチャルアシスタント、自動運転車、戦略ゲーム（チェスや囲碁など）におけるプレイと分析などが挙げられる。2020年代以降、生成型AIはテキストプロンプトから画像、音声、動画を生成するために広く利用されるようになった。
AI研究の従来の目標には、学習、推論、知識表現、計画、自然言語処理、知覚、およびロボット工学のサポートが含まれます。[ a ]これらの目標を達成するために、AI研究者は、状態空間探索と数理最適化、形式論理、人工ニューラルネットワーク、統計学、オペレーションズリサーチ、経済学に基づく手法などの技術を使用します。[ b ] AIはまた、心理学、言語学、哲学、神経科学、その他の分野からも影響を受けます。[ 2 ] OpenAI、Google DeepMind、Metaなどの一部の企業は、人間と同等以上の能力でほぼすべての認知タスクを完了できるAIである汎用人工知能（AGI）の作成を目指しています。 [ 3 ]
人工知能は1956年に学問分野として設立されました。[ 4 ]この分野は歴史を通じて楽観的な時期を何度も経験し、[ 5 ] [ 6 ]その後、失望と資金の喪失の時期（AIの冬と呼ばれる）が続きました。[ 7 ] [ 8 ] 2012年以降、グラフィックス処理ユニット（GPU）がニューラルネットワークの高速化に使用され始め、ディープラーニングが以前のAI技術を凌駕するようになったことで、資金と関心が大幅に増加しました。[ 9 ]この成長は、2017年以降、トランスフォーマーアーキテクチャによってさらに加速しました。[ 10 ] 2020年代には、AIブームが生成AIの進歩と同時期に起こり、メディアの作成と変更が可能になりました。AIの安全性、AIの使用による意図しない結果と害に加えて、倫理的懸念、AIの長期的な影響、環境への影響、[ 11 ]および潜在的な存在リスクが、AI規制に関する議論を促しています。
知能をシミュレート（または創造）するという一般的な問題は、いくつかのサブ問題に分解されています。これらは、研究者が知能システムが示すと期待する特定の特性や能力で構成されています。以下に説明する特性は最も注目を集めており、AI研究の範囲を網羅しています。[ a ]
初期の研究者たちは、人間がパズルを解いたり論理的な推論を行う際に用いる段階的な推論を模倣したアルゴリズムを開発した。[ 12 ] 1980年代後半から1990年代にかけて、確率論や経済学の概念を用いて、不確実または不完全な情報に対処する方法が開発された。[ 13 ]
これらのアルゴリズムの多くは、「組み合わせ爆発」を起こし、問題が大きくなるにつれて指数関数的に遅くなるため、大規模な推論問題を解決するには不十分でした。[ 14 ]人間でさえ、初期のAI研究がモデル化できたような段階的な推論をほとんど使用しません。人間は、ほとんどの問題を迅速かつ直感的な判断で解決します。[ 15 ]
推論モデルは、中間的な思考連鎖を生成するように訓練された大規模言語モデル（LLM）の一種で、2024年に登場し、数学やコーディングの複雑な問題に対するパフォーマンスの向上を可能にした。 [ 16 ]これらのモデルは、記号推論システムとは異なり、誤った出力や「幻覚」を生成する可能性がある。[ 17 ]
知識表現と知識工学[ 18 ]により、AIプログラムは質問に知的に答え、現実世界の事実について推論を行うことができます。形式的な知識表現は、コンテンツベースのインデックス作成と検索[ 19 ]、シーン解釈[ 20 ] 、臨床意思決定支援[ 21 ] 、知識発見（大規模データベースから「興味深い」実行可能な推論をマイニングする）[ 22 ] 、およびその他の分野で使用されています。[ 23 ]
知識ベースとは、プログラムが使用できる形式で表現された知識の集合です。オントロジーとは、特定の知識領域で使用されるオブジェクト、関係、概念、およびプロパティの集合です。[ 24 ]知識ベースは、オブジェクト、プロパティ、カテゴリ、オブジェクト間の関係、[ 25 ]状況、イベント、状態、および時間、[ 26 ]原因と結果、[ 27 ]知識に関する知識（他の人が知っていることについて私たちが知っていること）、[ 28 ]デフォルト推論（人間が真実であると想定し、異なることを告げられるまで真実であり、他の事実が変化しても真実のままであること）、[ 29 ]および知識の他の多くの側面と領域などを表現する必要があります。
知識表現における最も困難な問題の中には、常識的知識の広さ（平均的な人が知っている原子的事実の集合は膨大である）[ 30 ]と、ほとんどの常識的知識のサブシンボル形式（人々が知っていることの多くは、口頭で表現できる「事実」や「ステートメント」として表現されていない）[ 15 ]がある。また、AI アプリケーションのための知識の獲得という問題である知識獲得の難しさもある。[ c ]
「エージェント」とは、世界を知覚し、行動を起こすあらゆる実体（人工物か否かを問わず）のことである。合理的なエージェントは目標や好みを持ち、それらを実現するために行動を起こす。[ d ] [ 33 ]自動計画では、エージェントは特定の目標を持つ。[ 34 ]自動意思決定では、エージェントは好みを持つ。つまり、エージェントが好む状況と、避けようとする状況がある。意思決定エージェントは、各状況に、エージェントがその状況をどれだけ好むかを測定する数値（「効用」と呼ばれる）を割り当てる。可能な各行動について、「期待効用」を計算できる。これは、行動のすべての可能な結果の効用を、結果が発生する確率で重み付けしたものである。そして、期待効用が最大となる行動を選択できる。[ 35 ]
古典的な計画では、エージェントはあらゆる行動の結果がどうなるかを正確に知っています。[ 36 ]しかし、現実世界のほとんどの問題では、エージェントは自分が置かれている状況について確信が持てない場合があり（「未知」または「観測不可能」）、考えられるすべての行動の後に何が起こるかを確実に知ることができない場合があります（「決定論的」ではない）。エージェントは確率的な推測に基づいて行動を選択し、その後状況を再評価して、その行動がうまくいったかどうかを確認する必要があります。[ 37 ]
徹底的なテストと過去の決定に基づく改善に加えて、エージェントが特定の決定を下した理由を説明することは、特にその決定に頼らなければならない場合には、信頼を築く方法である。[ 38 ]
問題によっては、特に他のエージェントや人間が関与している場合、エージェントの好みは不確実な場合があります。これらの好みは学習される可能性があり（例えば、逆強化学習によって）、エージェントは好みを改善するために情報を求めることができます。[ 39 ]情報価値理論は、探索的または実験的な行動の価値を評価するために使用できます。[ 40 ]将来の行動と状況の可能な空間は通常、手に負えないほど大きいため、エージェントは結果が不確実なまま行動を起こし、状況を評価する必要があります。
マルコフ決定過程には、特定のアクションが特定の方法で状態を変化させる確率を記述する遷移モデルと、各状態の効用と各アクションのコストを提供する報酬関数があります。方策は、可能な各状態に決定を関連付けます。方策は、計算（例えば、方策反復によって）、ヒューリスティックによって決定、または学習することができます。[ 41 ]
ゲーム理論は、相互作用する複数のエージェントの合理的な行動を記述するものであり、他のエージェントが関与する意思決定を行うAIプログラムで使用されている。[ 42 ]
機械学習とは、与えられたタスクのパフォーマンスを自動的に向上させることができるプログラムを研究することです。[ 43 ]これはAIの初期の頃からその一部でした。[ e ]
機械学習にはいくつかの種類があります。
計算学習理論では、計算複雑性、サンプル複雑性（必要なデータ量）、またはその他の最適化の概念によって学習者を評価することができます。[ 51 ]
自然言語処理（NLP）は、プログラムが人間の言語で読み書きやコミュニケーションを行うことを可能にする。[ 52 ]具体的な問題としては、音声認識、音声合成、機械翻訳、情報抽出、情報検索、質問応答などが挙げられる。[ 53 ]
ノーム・チョムスキーの生成文法と意味ネットワークに基づく初期の研究では、単語の意味の曖昧性解消に困難があった[ f ] 。ただし、「マイクロワールド」と呼ばれる小さな領域に限定すれば、（常識知識の問題[ 30 ]のために）解決できた。イギリスの言語学者で哲学者のマーガレット・マスターマンは、言語を理解する鍵は文法ではなく意味であると信じており[ 54 ]、辞書、特に類語辞典が計算言語構造の基礎となるべきだと考えていた[ 55 ] 。
自然言語処理のための最新の深層学習技術には、単語埋め込み（単語を、通常は意味を符号化したベクトルとして表現する） [ 56 ] 、トランスフォーマー（アテンションメカニズムを使用する深層学習アーキテクチャ）[ 57 ]、その他[ 58 ]などがあります。2019年には、生成型事前学習済みトランスフォーマー（または「GPT」）言語モデルが、一貫性のあるテキストを生成し始めました。[ 59 ] [ 60 ] 2023年までに、これらのモデルは、司法試験、SAT（Scholastic Assessment Test）、GRE（Graduate Record Examination）、その他多くの実世界のアプリケーションで人間レベルのスコアを獲得できるようになりました。 [ 61 ]
機械知覚とは、センサー（カメラ、マイク、無線信号、アクティブライダー、ソナー、レーダー、触覚センサーなど）からの入力を使用して、世界の様々な側面を推測する能力のことです。コンピュータビジョンとは、視覚入力を分析する能力のことです。[ 62 ]
この分野には、音声認識[ 63 ] 、画像分類[ 64 ] 、顔認識、物体認識[ 65 ] 、物体追跡[ 66 ]、ロボット知覚[ 67 ]が含まれます。
感情コンピューティングは、人間の感情（感覚、情動、気分）を認識、解釈、処理、またはシミュレートするシステムを含む分野です。 [ 69 ]例えば、一部の仮想アシスタントは会話的に話したり、ユーモラスに冗談を言ったりするようにプログラムされています。これにより、人間同士の相互作用の感情的なダイナミクスにより敏感に見えたり、人間とコンピュータの相互作用を促進したりすることができます。
しかし、これは経験の浅いユーザーに既存のコンピュータエージェントの知能について非現実的な認識を与える傾向がある。[ 70 ]感情コンピューティングに関連する中程度の成功例としては、テキスト感情分析や、より最近ではマルチモーダル感情分析があり、これはAIがビデオに録画された被写体が示す感情を分類するものである。[ 71 ]
汎用人工知能（AGI）を備えた機械は、人間の知能と同様の広さと汎用性で、さまざまな問題を解決できるようになるだろう。[ 72 ]
AI研究では、上記の目標を達成するために多種多様な技術が用いられています。[ b ]
人工知能で使用される検索には、状態空間検索と局所検索という2つの異なる種類があります。
状態空間探索は、可能な状態のツリーを探索して目標状態を見つけようとします。[ 73 ]例えば、計画アルゴリズムは、目標とサブ目標のツリーを探索し、目標への経路を見つけようとします。このプロセスは、手段目的分析と呼ばれます。[ 74 ]
単純な全探索[ 75 ]は、現実世界のほとんどの問題には不十分です。探索空間（探索する場所の数）はすぐに天文学的な数にまで増大します。その結果、探索が遅すぎたり、決して完了しなかったりします。[ 14 ]「ヒューリスティクス」または「経験則」は、目標に到達する可能性が高い選択肢を優先するのに役立ちます。[ 76 ]
敵対的探索は、チェスや囲碁などのゲームプログラムに使用されます。可能な手と反撃のツリーを探索し、勝利の局面を探します。[ 77 ]
局所探索は、数学的最適化を使用して問題の解を見つけます。何らかの推測から始まり、それを段階的に洗練していきます。[ 78 ]
勾配降下法は、損失関数を最小化するように数値パラメータを段階的に調整することで最適化する局所探索の一種です。勾配降下法の変種は、バックプロパゲーションアルゴリズムを介してニューラルネットワークをトレーニングするためによく使用されます[ 79 ]。
局所探索のもう1つのタイプは進化計算であり、これは候補解のセットを「突然変異」と「再結合」によって反復的に改善し、各世代で最も適した解のみを選択して生き残らせることを目的としている。 [ 80 ]
分散検索プロセスは、群知能アルゴリズムを介して協調することができます。検索で使用される2つの一般的な群知能アルゴリズムは、粒子群最適化（鳥の群れに着想を得たもの）とアリコロニー最適化（アリの道に着想を得たもの）です。[ 81 ]
形式論理は、推論や知識表現に使用されます。[ 82 ] 形式論理には、主に 2 つの形式があります。命題論理(真偽のステートメントに対して動作し、「and」、「or」、「not」、「impensies」などの論理結合子を使用します) [ 83 ]と述語論理(オブジェクト、述語、関係に対しても動作し、 「すべてのXはYである」や「YであるXがいくつか存在する」などの量化子を使用します) [ 84 ]です。
論理学における演繹的推論とは、与えられて真であると仮定されている他の命題（前提）から新しい命題（結論）を証明するプロセスである。[ 85 ]証明は証明ツリーとして構造化することができ、ノードには文のラベルが付けられ、子ノードは推論規則によって親ノードに接続される。
問題と前提のセットが与えられた場合、問題解決は、ルートノードが問題の解でラベル付けされ、リーフノードが前提または公理でラベル付けされた証明木を探すことに帰着します。ホーン節の場合、問題解決の探索は、前提から前方に推論するか、問題から後方に推論することによって実行できます。 [ 86 ]より一般的な一階述語論理の節形式の場合、解決は単一の公理フリー推論規則であり、解決すべき問題の否定を含む前提から矛盾を証明することによって問題が解決されます。[ 87 ]
ホーン節論理と一階述語論理の両方における推論は決定不能であり、したがって扱いが困難である。しかし、論理プログラミング言語Prologの計算の基盤となるホーン節を用いた逆推論はチューリング完全である。さらに、その効率は他の記号プログラミング言語の計算と遜色ない。[ 88 ]
ファジー論理は、 0から1の間の「真偽度」を割り当てます。そのため、曖昧で部分的に真である命題を扱うことができます。[ 89 ]
非単調論理（失敗として否定を用いる論理プログラミングを含む）は、デフォルト推論を処理するように設計されている。[ 29 ]他の特殊な論理バージョンは、多くの複雑な領域を記述するために開発されてきた。
AI の多くの問題 (推論、計画、学習、知覚、ロボット工学など) では、エージェントが不完全または不確実な情報で動作する必要があります。AI 研究者は、確率論や経済学の方法を使用してこれらの問題を解決するためのツールを数多く考案してきました。[ 90 ]意思決定理論、意思決定分析、[ 91 ]および情報価値理論[ 92 ]を使用して、エージェントがどのように選択を行い、計画を立てることができるかを分析する精密な数学的ツールが開発されています。これらのツールには、マルコフ決定過程、[ 93 ]動的決定ネットワーク、[ 94 ]ゲーム理論、メカニズム設計[ 95 ]などのモデルが含まれます。
ベイジアンネットワーク[ 96 ]は、推論（ベイジアン推論アルゴリズムを使用）[ g ] [ 98 ]、学習（期待値最大化アルゴリズムを使用）[ h ] [ 100]、計画（決定ネットワークを使用）[ 101 ]、知覚（動的ベイジアンネットワークを使用） [ 94 ]に使用できるツールです。
確率的アルゴリズムは、データのストリームのフィルタリング、予測、平滑化、および説明を見つけるためにも使用でき、知覚システムが時間とともに発生するプロセスを分析するのに役立ちます（たとえば、隠れマルコフモデルやカルマンフィルタ）。[ 94 ]
最も単純な AI アプリケーションは、分類器 (例:「光っているならダイヤモンド」) と制御器 (例:「ダイヤモンドなら拾う」) の 2 つのタイプに分けられます。分類器[ 102 ]は、パターン マッチングを使用して最も近い一致を決定する関数です。これらは、教師あり学習を使用して選択された例に基づいて微調整できます。各パターン (「観測」とも呼ばれます) には、特定の事前定義されたクラスがラベル付けされます。クラス ラベルと組み合わせたすべての観測は、データセットとして知られています。新しい観測が受信されると、その観測は過去の経験に基づいて分類されます。[ 47 ]
分類器には多くの種類があります。[ 103 ]決定木は、最も単純で広く使用されている記号的機械学習アルゴリズムです。[ 104 ] K近傍法は、1990年代半ばまで最も広く使用されている類推的AIでしたが、1990年代にはサポートベクターマシン（SVM）などのカーネル法がk近傍法に取って代わりました。[ 105 ] ナイーブベイズ分類器は、スケーラビリティの高さもあって、Googleで「最も広く使用されている学習器」であると報告されています。[ 106 ]ニューラルネットワークも分類器として使用されています。[ 108 ]
人工ニューラルネットワークは、生物の脳のニューロンを大まかにモデル化した人工ニューロンとも呼ばれるノードの集合に基づいています。パターンを認識するように訓練され、一度訓練されると、新しいデータでそのパターンを認識できます。入力、少なくとも1つの隠れ層のノード、および出力があります。各ノードは関数を適用し、重みが指定された閾値を超えると、データが次の層に送信されます。ネットワークは、少なくとも2つの隠れ層を持つ場合、通常、ディープニューラルネットワークと呼ばれます。[ 108 ]
ニューラルネットワークの学習アルゴリズムは、トレーニング中に各入力に対して適切な出力を得る重みを選択するために局所探索を使用します。最も一般的なトレーニング手法はバックプロパゲーションアルゴリズムです。[ 109 ]ニューラルネットワークは、入力と出力間の複雑な関係をモデル化し、データ内のパターンを見つけることを学習します。理論的には、ニューラルネットワークはあらゆる関数を学習できます。[ 110 ]
フィードフォワードニューラルネットワークでは、信号は一方向にのみ伝わります。[ 111 ]パーセプトロンという用語は、通常、単層ニューラルネットワークを指します。[ 112 ]対照的に、ディープラーニングは多くの層を使用します。[ 113 ]リカレントニューラルネットワーク（RNN）は出力信号を入力にフィードバックし、以前の入力イベントの短期記憶を可能にします。長短期記憶ネットワーク（LSTM）は、長期依存性をよりよく保持し、勾配消失問題にあまり敏感ではないリカレントニューラルネットワークです。[ 114 ]畳み込みニューラルネットワーク（CNN）は、カーネルの層を使用して、局所的なパターンをより効率的に処理します。この局所的な処理は、画像処理において特に重要であり、CNNの初期層は通常、エッジや曲線などの単純な局所的なパターンを識別し、後続の層はテクスチャなどのより複雑なパターンを検出し、最終的にはオブジェクト全体を検出します。[ 115 ]
ディープラーニングでは、ネットワークの入力と出力の間に複数のニューロン層を使用します。[ 113 ]複数の層により、生の入力からより高レベルの特徴を段階的に抽出できます。たとえば、画像処理では、下位層がエッジを識別し、上位層が数字、文字、顔など、人間に関連する概念を識別する場合があります。[ 117 ]
ディープラーニングは、コンピュータビジョン、音声認識、自然言語処理、画像分類[ 118 ]など、人工知能の多くの重要なサブフィールドのプログラムのパフォーマンスを大幅に向上させてきました。ディープラーニングがこれほど多くのアプリケーションで優れたパフォーマンスを発揮する理由は、2021年現在では不明です。[ 119 ] 2012年から2015年にかけてのディープラーニングの突然の成功は、何らかの新しい発見や理論的ブレークスルーによるものではなく（ディープニューラルネットワークとバックプロパゲーションは、1950年代にはすでに多くの人々によって説明されていました）[ i ] 、2つの要因によるものです。それは、コンピュータの処理能力の向上（ GPUへの移行による速度の100倍の向上を含む）と、膨大な量のトレーニングデータ、特にImageNetなどのベンチマークテストに使用される巨大なキュレーション済みデータセットの利用可能性です。[ j ]
生成事前学習トランスフォーマー(GPT) は、文中の単語間の意味的関係に基づいてテキストを生成する大規模言語モデル(LLM) です。テキストベースの GPT モデルは、インターネットから取得できる大規模なテキスト コーパスで事前学習されます。事前学習は、次のトークン(トークンは通常、単語、サブワード、または句読点) を予測することから構成されます。この事前学習を通じて、GPT モデルは世界についての知識を蓄積し、次のトークンを繰り返し予測することで人間のようなテキストを生成できるようになります。通常、その後のトレーニング フェーズでは、通常、人間のフィードバックからの強化学習(RLHF) と呼ばれる手法を使用して、モデルがより真実で、有用で、無害になります。現在の GPT モデルは、「幻覚」と呼ばれる誤った情報を生成しやすい傾向があります。これらは RLHF と高品質のデータで減らすことができますが、推論システムでは問題が悪化しています。[ 127 ]このようなシステムは、簡単なテキストで質問したりタスクを要求したりできるチャット ボットで使用されています。 [ 128 ] [ 129 ]
現在のモデルとサービスには、ChatGPT、Claude、Gemini、Copilot、Meta AIなどがあります。[ 130 ]マルチモーダルGPTモデルは、画像、ビデオ、音声、テキストなどの異なるタイプのデータ（モダリティ）を処理できます。[ 131 ]
2010年代後半には、AI専用の機能強化が施されたグラフィックス処理ユニット（GPU）が、専用のTensorFlowソフトウェアとともに使用されるようになり、大規模（商用および学術）機械学習モデルのトレーニングにおける主要な手段として、それまで使用されていた中央処理装置（CPU）に取って代わりました。[ 132 ]初期のAI研究ではPrologなどの専用プログラミング言語が使用されていましたが、 [ 133 ] Pythonなどの汎用プログラミング言語が主流になりました。[ 134 ]
集積回路のトランジスタ密度は、約18か月ごとに倍増することが観察されており、これは、最初にそれを発見したインテルの共同創業者ゴードン・ムーアにちなんでムーアの法則として知られています。GPUの改良はさらに速く、[ 135 ]これは、 Nvidiaの共同創業者兼CEOジェンセン・フアンにちなんでフアンの法則と呼ばれることもあります。[ 136 ]
AIと機械学習技術は、2020年代の主要なアプリケーションのほとんどで使用されており、以下のようなものが含まれます。
AIの導入は、最高自動化責任者（CAO）が監督する場合がある。
AlphaFold 2 (2021) は、数ヶ月ではなく数時間でタンパク質の3D 構造を近似できることを実証しました。[ 137 ] 2023 年に、AI 誘導創薬が 2 種類の薬剤耐性菌を殺すことができる抗生物質のクラスを見つけるのに役立ったと報告されました。[ 138 ] 2024 年に、研究者は機械学習を使用してパーキンソン病の治療薬の探索を加速しました。彼らの目的は、 α-シヌクレイン(パーキンソン病の特徴的なタンパク質)の凝集を阻害する化合物を特定することでした。彼らは初期スクリーニングプロセスを 10 倍に高速化し、コストを 1000 分の 1 に削減することができました。[ 139 ] [ 140 ]
AIは、 CTスキャンなどの医用画像から肺がんなどの疾患を検出するなど、医療診断においてますます使用されるようになっている。[ 141 ]
2026年のNature誌の記事「数十のAI疾患予測モデルが疑わしいデータで訓練されていた」では、 125件の研究論文において、脳卒中や糖尿病のAI医療予測モデルの訓練に信頼性の低いデータが使用されていることが指摘された。信頼性の低いデータに基づいて開発されたAIツールの一部が患者に使用されたという証拠があったが、有害な結果が生じたかどうかは明らかではなかった。[ 142 ] [ 143 ]
ゲームプレイプログラムは、1950年代からAIの最先端技術を実証およびテストするために使用されてきました。[ 144 ]ディープブルーは、1997年5月11日に、現役の世界チェスチャンピオンであるガルリ・カスパロフを破った最初のコンピュータチェスプレイシステムとなりました。 [ 145 ] 2011年、クイズ番組「ジェパディ！」 のエキシビションマッチで、IBMの質問応答システムであるワトソンは、ジェパディ！史上最高のチャンピオンであるブラッド・ラッターとケン・ジェニングスを大差で破りました。[ 146 ] 2016年3月、AlphaGoは囲碁チャンピオンのイ・セドルとの対局で5局中4局に勝利し、ハンディキャップなしでプロの囲碁プレイヤーを破った最初のコンピュータ囲碁プレイシステムとなりました。そして2017年には、世界最高の囲碁プレイヤーである柯潔を破りました。 [ 147 ]他のプログラムでは、ポーカーをプレイするプログラムであるPluribusのように、不完全情報ゲームを扱っています。[ 148 ] DeepMind は、チェス、囲碁、またはAtariゲームをプレイするようにトレーニングできるMuZeroなど、ますます汎用的な強化学習モデルを開発しました。[ 149 ] 2019 年に、DeepMind の AlphaStar は、マップ上で何が起こるかについての知識が不完全な、特に難しいリアルタイム戦略ゲームであるStarCraft IIでグランドマスターレベルを達成しました。 [ 150 ] 2021 年に、AI エージェントが PlayStation Gran Turismoの競技会に出場し、深層強化学習を使用して世界最高の Gran Turismo ドライバー 4 人を破って勝利しました。[ 151 ] 2024 年に、Google DeepMind は、画面出力を観察することによって、これまで見たことのない 9 つのオープンワールドビデオゲームを自律的にプレイし、自然言語の指示に応じて短く特定のタスクを実行できるタイプの AI である SIMA を発表しました。 [ 152 ]
数学では、確率的大規模言語モデルは汎用性が高いが、幻覚という形で誤った答えを生成することもある。アリババグループは、 QwenモデルのバージョンであるQwen2-Mathを開発し、数学競技問題のMATHデータセットで84%の精度を含む、いくつかの数学ベンチマークで最先端のパフォーマンスを達成した。[ 153 ] 2025年1月、マイクロソフトはモンテカルロ木探索と段階的推論を活用するrStar-Mathという手法を提案し、 Qwen-7Bのような比較的小さな言語モデルでAIME 2024の53%とMATHベンチマーク問題の90%を解決できるようにした。 [ 154 ] Google DeepMindは、数学的問題を解決するためのモデルとして、 AlphaTensor、AlphaGeometry、AlphaProof、AlphaEvolve、FunSearchを開発している。[ 155 ] [ 156 ]
自然言語を使用して数学の問題を記述する場合、コンバータはそのようなプロンプトをLeanなどの形式言語に変換して数学タスクを定義できます。実験モデルGemini Deep Thinkは自然言語プロンプトを直接受け入れ、 2025年の国際数学オリンピックで金メダルを獲得しました。[ 157 ]
トポロジー的深層学習は、様々なトポロジー的手法を統合する。
世界年金投資フォーラムのディレクター、ニコラス・フィルズリ氏によると、高度に革新的なAIを活用した金融商品やサービスの出現を見るには時期尚早かもしれない。同氏は、「AIツールの導入は単に物事をさらに自動化するだけであり、その過程で銀行、ファイナンシャルプランニング、年金アドバイスの分野で数万の雇用が失われるだろうが、それが（例えば高度な）年金イノベーションの新たな波を引き起こすかどうかは確信が持てない」と主張している。[ 158 ]
さまざまな国がAI軍事アプリケーションを展開しています。[ 159 ]主なアプリケーションは、指揮統制、通信、センサー、統合、相互運用性を強化します。[ 160 ]研究は、情報収集と分析、兵站、サイバー作戦、情報作戦、半自律型および自律型車両を対象としています。[ 159 ] AI技術は、センサーと効果装置の調整、脅威の検出と識別、敵の位置のマーキング、目標の捕捉、人間が操作する車両と自律型の車両の両方を含むネットワーク化された戦闘車両間の分散型統合火力の調整と衝突回避を可能にします。[ 160 ]
AIはイラク、シリア、イスラエル、ウクライナでの軍事作戦で使用されてきた。[ 159 ] [ 161 ] [ 162 ] [ 163 ]
生成型人工知能（GenAI）は、生成モデルを使用してテキスト、画像、ビデオ、音声、ソフトウェア コード、またはその他の形式のデータを生成する人工知能（AI）のサブ分野です。[ 164 ]これらのモデルは、トレーニング データの根底にあるパターンと構造を学習し、それらを使用して入力に応じて新しいデータを生成します。[ 165 ]これは多くの場合、自然言語プロンプトの形式をとります。[ 166 ] [ 167 ]
2020年代のAIブーム以降、生成AIツールの普及率は大幅に増加しました。このブームは、特にトランスフォーマーアーキテクチャに基づく大規模言語モデル（LLM）などの深層ニューラルネットワークの改良によって可能になりました。生成AIアプリケーションには、 ChatGPT、Claude、Copilot、DeepSeek、Doubao、Google Gemini、Grok、Kimi、Qwenなどのチャットボット、DALL-E、Firefly、Stable Diffusion、Midjourneyなどのテキストから画像へのモデル、 Veo、LTX、Soraなどのテキストからビデオへのモデルが含まれます。[ 168 ] [ 169 ] [ 170 ]
ソフトウェア開発、ヘルスケア[ 171 ]、金融[ 172 ]、エンターテイメント[ 173 ] 、カスタマーサービス[ 174 ] 、セールスとマーケティング[175 ] 、アート、ライティング[ 176 ] 、製品デザイン[ 177 ]など、さまざまな分野の企業が生成型AIを利用しています。
AIエージェントは、環境を認識し、意思決定を行い、特定の目標を達成するために自律的に行動するように設計されたソフトウェアエンティティです。これらのエージェントは、ユーザー、環境、または他のエージェントと相互作用できます。AIエージェントは、仮想アシスタント、チャットボット、自動運転車、ゲームシステム、産業用ロボットなど、さまざまなアプリケーションで使用されています。AIエージェントは、プログラミング、利用可能な計算リソース、およびハードウェアの制限の制約内で動作します。つまり、定義された範囲内のタスクを実行することに限定され、メモリと処理能力が有限です。実際のアプリケーションでは、AIエージェントは意思決定とアクション実行に時間的な制約を受けることがよくあります。多くのAIエージェントは学習アルゴリズムを組み込んでおり、経験やトレーニングを通じて時間の経過とともにパフォーマンスを向上させることができます。機械学習を使用することで、AIエージェントは新しい状況に適応し、指定されたタスクに合わせて動作を最適化できます。[ 178 ] [ 179 ] [ 180 ]
マイクロソフトは2023年2月にBing Chatという名称でCopilot Searchを導入しました。Copilot SearchはAIが生成した要約を提供します。[ 181 ]
Googleは2025年5月20日のGoogle I/OイベントでAIモードを発表しました。 [ 182 ]
この分野におけるAIの応用例としては、ユーザーデータを分析して予測を提供するAI搭載の月経・妊活トラッカー[ 183 ] 、 AI統合型セックス玩具（例：テレディルドニクス）[ 184 ]、AI生成の性教育コンテンツ[ 185 ]、性的・恋愛パートナーをシミュレートするAIエージェント（例：Replika ） [ 186 ]などがある。AIは、同意のないディープフェイクポルノの制作にも使用されており、重大な倫理的・法的懸念を引き起こしている[ 187 ] 。
AI技術は、オンライン上のジェンダーに基づく暴力や未成年者に対するオンライン上の性的グルーミングを特定するためにも使用されてきました。[ 188 ] [ 189 ]
2017年の調査では、企業の5社に1社が何らかの製品やプロセスに「AI」を組み込んでいると回答した。[ 190 ]
避難や災害管理の分野では、AIはGPS、ビデオ、ソーシャルメディアからの過去のデータを使用して、大規模および小規模の避難のパターンを調査するために使用されてきました。[ 191 ] [ 192 ] [ 193 ]
2024年のインド選挙では、AI生成コンテンツに5000万米ドルが費やされ、特に有権者とのエンゲージメントを高めるために、同盟関係にある（時には故人を含む）政治家のディープフェイクを作成したり、演説をさまざまな現地語に翻訳したりした。[ 194 ]
法律事務所による生成型AIの法律調査への利用により、 2025年4月、 HECパリとシアンスポの法律データ分析講師ダミアン・シャルロタンによって設立されたグローバルな「AI幻覚事例」データベースが作成された。[ 195 ] [ 196 ] 2026年までに、AIツールによって幻覚的に生成された捏造された判例引用を含む弁護士の裁判所への提出書類により、裁判官は制裁を科し、弁護士会は警告を発した。[ 197 ]
AIには潜在的な利点と潜在的なリスクがあります。[ 200 ] AIは科学を進歩させ、深刻な問題の解決策を見つけることができるかもしれません。DeepMindのDemis Hassabisは、「知能を解決し、それを使って他のすべてを解決する」ことを望んでいます。[ 201 ]しかし、AIの使用が広く普及するにつれて、いくつかの意図しない結果とリスクが特定されています。[ 202 ] [ 203 ]実稼働中のシステムでは、特にディープラーニングのAIアルゴリズムが本質的に説明不可能な場合、倫理とバイアスをAIトレーニングプロセスに考慮できない場合があります。[ 204 ]
機械学習アルゴリズムは大量のデータを必要とする。このデータを取得するために用いられる技術は、プライバシー、監視、著作権に関する懸念を引き起こしている。
仮想アシスタントやIoT製品などのAI搭載デバイスやサービスは、個人情報を継続的に収集するため、第三者による不当なデータ収集や不正アクセスへの懸念が高まっている。AIは膨大な量のデータを処理・統合できるため、プライバシー侵害はさらに深刻化し、適切な安全対策や透明性がないまま個人の活動が常に監視・分析される監視社会へとつながる可能性がある。
収集される機密性の高いユーザーデータには、オンライン活動記録、位置情報データ、ビデオ、または音声が含まれる場合があります。[ 205 ]例えば、音声認識アルゴリズムを構築するために、Amazonは何百万ものプライベートな会話を録音し、臨時の従業員にその一部を聞いて書き起こすことを許可しました。[ 206 ]このような広範な監視に対する意見は、必要悪とみなす人から、明らかに非倫理的でプライバシーの権利の侵害であると考える人まで様々です。[ 207 ]
AI開発者は、これが価値のあるアプリケーションを提供する唯一の方法であると主張し、データ集約、匿名化、差分プライバシーなど、データを取得しながらプライバシーを保護しようとするいくつかの技術を開発しました。[ 208 ] 2016年以降、シンシア・ドワークなどのプライバシー専門家は、プライバシーを公平性の観点から捉え始めています。ブライアン・クリスチャンは、専門家は「彼らが何を知っているか」という問題から「彼らがそれを使って何をしているか」という問題へと方向転換したと書いています。[ 209 ]
生成型AIは、画像やコンピュータコードなどのドメインを含む、ライセンスのない著作権で保護された作品でトレーニングされることが多く、その出力は「フェアユース」の論理に基づいて使用されます。専門家は、この論理が法廷でどの程度有効か、またどのような状況で有効かについて意見が分かれています。関連する要素には、「著作権で保護された作品の使用の目的と性質」や「著作権で保護された作品の潜在的な市場への影響」などが含まれる可能性があります。[ 210 ] [ 211 ]ウェブサイトの所有者は、「 robots.txt 」ファイルを使用して、コンテンツのスクレイピングを望まないことを指定できます。[ 212 ]しかし、 robots.txtファイルには実質的な権限がないため、一部の企業はコンテンツをスクレイピングします。 [ 213 ] [ 214 ] 2023年には、著名な作家（ジョン・グリシャムやジョナサン・フランゼンなど）が、生成型AIのトレーニングに自分たちの作品を使用したとしてAI企業を訴えました。[ 215 ] [ 216 ]もう一つの議論されているアプローチは、AIによって生成された創作物に対して、人間の著作者への公正な帰属と報酬を保証するための、独自の保護システムを構想することです。[ 217 ]
商用AI分野は、 Alphabet Inc.、Amazon、Apple Inc.、Meta Platforms、Microsoftなどの大手テクノロジー企業によって支配されている。[ 218 ] [ 219 ] [ 220 ]これらの企業の中には、既存のクラウドインフラストラクチャとデータセンターのコンピューティングパワーの大部分を既に所有している企業もあり、それによって市場での地位をさらに強固にすることができる。[ 221 ] [ 222 ]
テクノロジー企業は、2020年代のAIブームを促進するために、電力と人工知能のインフラを構築してきた。コンサルティング会社マッキンゼー・アンド・カンパニーの2025年のレポートでは、2030年までに米国におけるAIインフラとデータセンターに2.7兆ドルが投資され、毎月第二次世界大戦のマンハッタン計画を上回ると推定されている。 [ 224 ]
2024年1月、国際エネルギー機関（IEA）は「電力2024、2026年までの分析と予測」を発表した。[ 225 ]これは、データセンターとAIおよび暗号通貨による電力消費の予測を行ったIEA初の報告書である。報告書によると、これらの用途の電力需要は2026年までに倍増し、追加の電力消費量は日本の電力消費量に匹敵する可能性があるという。[ 226 ]
AIによる電力消費は化石燃料の使用増加の原因となっており、老朽化した炭素排出型の石炭火力発電所の閉鎖を遅らせている。ChatGPTでの検索は、Google検索の10倍の電力を消費する。[ 227 ]
2024年のゴールドマン・サックスの調査論文「AIデータセンターと迫り来る米国の電力需要急増」では、「米国の電力需要は、一世代に一度も見られなかった成長を遂げる可能性が高い」と結論付け、2030年までに米国のデータセンターが米国の電力の8%を消費すると予測している（2022年は3%）。これは、さまざまな手段による発電産業の成長を予兆している。[ 228 ]データセンターの電力需要はますます増加しており、電力網の限界に達する可能性がある。大手テクノロジー企業は、AIを使用して電力網の利用率を最大化できると反論している。[ 229 ]
2024年、ウォール・ストリート・ジャーナルは、大手AI企業がデータセンターへの電力供給に関して米国の原子力発電事業者と交渉を開始したと報じた。2024年3月、アマゾンはペンシルベニア州の原子力発電データセンターを6億5000万ドルで購入した。[ 230 ]
2024年9月、マイクロソフトはコンステレーション・エナジーと、スリーマイル島原子力発電所を再開し、同発電所が20年間で発電する電力の100%をマイクロソフトに供給する契約を発表した。1979年に2号炉で部分的な炉心溶融事故を起こした同発電所を再開するには、コンステレーションは米国原子力規制委員会による広範な安全審査を含む厳格な規制手続きを通過する必要がある。承認されれば（これは米国で初めての原子力発電所の再稼働となる）、80万世帯分の電力に相当する835メガワット以上の電力が発電される。再開と改修にかかる費用は16億米ドルと見積もられており、2022年米国インフレ抑制法に含まれる原子力発電に対する税制優遇措置に左右される。[ 231 ] 2024年現在、米国政府とミシガン州は、ミシガン湖畔のパリセーズ原子力発電所の原子炉を再開するために約20億ドルを投資している。2022年から閉鎖されているこの発電所は、2025年10月に再開される予定だった。[ 232 ]
2023年9月の最後の承認後、台湾は電力供給不足のため、2024年に桃園以北の容量5MWを超えるデータセンターの承認を停止した。 [ 233 ]台湾は2025年までに原子力発電を段階的に廃止することを目指している。 [ 233 ]
シンガポールは電力不足を理由に2019年にデータセンターの開設を禁止したが、2022年にこの禁止を解除した。[ 233 ]
2011年の福島原発事故後、日本のほとんどの原子力発電所は閉鎖されたが、2024年10月のブルームバーグの日本語記事によると、Nvidiaが出資しているクラウドゲーミングサービス会社Ubitusは、生成AI用の新しいデータセンターのために、原子力発電所近くの土地を日本で探している。[ 234 ]
2024年11月1日、連邦エネルギー規制委員会（FERC）は、タレン・エナジーが提出した、サスケハナ原子力発電所からアマゾンのデータセンターに電力を供給する承認申請を却下した。[ 235 ]委員会のウィリー・L・フィリップス 委員長によると、これは電力網への負担であると同時に、家庭や他のビジネス部門への重大なコスト転嫁の懸念事項でもある。[ 235 ]
2025年、IEAが作成した報告書では、 AIのエネルギー消費による温室効果ガス排出量を1億8000万トンと推定した。2035年までに、どのような対策が講じられるかによって、これらの排出量は3億～5億トンに増加する可能性がある。これはエネルギー部門の排出量の1.5%未満である。AIの排出削減ポテンシャルはエネルギー部門の排出量の5%と推定されているが、リバウンド効果（例えば、人々が公共交通機関から自動運転車に乗り換える場合）によって削減される可能性がある。[ 236 ]
2026年6月、国連大学水・環境・健康研究所は、炭素排出量だけでなく、AIの累積的な環境影響に関する報告書を発表しました。この報告書によると、AIは大量の電力を消費し、鉱物の採掘を必要とし、大量の電子廃棄物を発生させるため、土地、水、気候に重大な悪影響を及ぼしています。2025年には、データセンターが消費した電力はサウジアラビアの総電力消費量よりも多く、ChatGPTだけでもサハラ以南アフリカの50万人分の水需要に相当する量の水を消費しました。悪影響は地球全体に均等に分布しているわけではなく、一部の地域に集中しています。データセンターは、すでに水不足に悩まされている地域に建設されることが多いのです。例えば、AIの導入によって、メキシコとウルグアイでは水不足が深刻化しています。これはアイルランドのエネルギー供給に問題を引き起こし、2028年までダブリン近郊での新たなデータセンターの建設を禁止した。対策にはトレードオフが伴う場合があり、例えば、石炭からバイオエネルギーへの移行は二酸化炭素排出量を削減するが、土地や水への影響は増加する。エネルギー効率は環境への影響を軽減しない可能性がある。なぜなら、AIがより効率的になるにつれて、より安価になり、より広く使用されるようになるからである。[ 11 ]
YouTube、Facebookなどは、レコメンデーションシステムを使ってユーザーをより多くのコンテンツへと誘導しています。これらのAIプログラムには、ユーザーエンゲージメントを最大化すること（つまり、視聴を継続させること）が目標として与えられていました。AIは、ユーザーが誤情報、陰謀論、極端な党派的コンテンツを好む傾向があることを学習し、視聴を継続させるために、そのようなコンテンツをより多く推奨しました。また、ユーザーは同じテーマのコンテンツをより多く視聴する傾向があったため、AIは人々をフィルターバブルに誘導し、そこで同じ誤情報の複数のバージョンを受け取ることになりました。[ 237 ]これにより、多くのユーザーが誤情報が真実だと信じ込み、最終的には機関、メディア、政府への信頼が損なわれました。[ 238 ] AIプログラムは目標を最大化するように正しく学習しましたが、その結果は社会に害を及ぼしました。2016年の米国大統領選挙後、大手テクノロジー企業はこの問題を軽減するためにいくつかの対策を講じました。[ 239 ]
2020年代初頭、生成型AIは、実際の写真、録音、または人間の書いたものと事実上区別がつかない画像、音声、およびテキストを生成し始めました[ 240 ]。一方、2020年代半ばには、リアルなAI生成ビデオが実現可能になりました[ 241 ] [ 242 ] [ 243 ] 。悪意のある者が、ディープフェイクなどの技術を通じて、この技術を使用して大量の誤情報やコンピュータープロパガンダを作成する可能性があります[ 244 ] [ 245 ] 。AIの先駆者でありノーベル賞受賞者のコンピューター科学者であるジェフリー・ヒントンは、他のリスクの中でも特に、AIが「権威主義的な指導者が有権者を操作する」ことを大規模に可能にすることについて懸念を表明しました[ 246 ] 。有権者に影響を与える能力は、少なくとも1つの研究で証明されています。この同じ研究では、モデルが政治的に右派の候補者を支持する場合、モデルからの不正確な発言が多くなることが示されています[ 247 ] 。
マイクロソフト、オープンAI、大学、その他の組織のAI研究者は、AIモデルによって可能になるオンライン詐欺を克服する方法として「人格認証情報」を使用することを提案している。 [ 248 ]
機械学習アプリケーションは、偏ったデータから学習すると偏りを持つ可能性があります。 [ k ] [ 250 ]開発者は、偏りが存在することに気づいていない場合があります。[ 251 ]一部のLLMによる差別的な動作は、その出力で観察されることがあります。[ 252 ]バイアスは、トレーニングデータの選択方法とモデルの展開方法によって導入される可能性があります。[ 253 ] [ 250 ]偏ったアルゴリズムが、人々に深刻な害を及ぼす可能性のある決定を行うために使用される場合（医療、金融、採用、住宅、警察などの場合）、アルゴリズムは差別を引き起こす可能性があります。[ 254 ]公平性の分野では、アルゴリズムの偏りによる害を防ぐ方法を研究しています。
2015年6月28日、Googleフォトの新しい画像ラベル付け機能が、ジャッキー・アルシンと友人を黒人であるという理由で誤って「ゴリラ」と識別しました。このシステムは、黒人の画像が非常に少ないデータセットでトレーニングされており、[ 255 ]これは「サンプルサイズの不均衡」と呼ばれる問題です。[ 256 ] Googleは、システムが何も「ゴリラ」とラベル付けしないようにすることで、この問題を「修正」しました。8年後の2023年になっても、Googleフォトはゴリラを識別できず、Apple、Facebook、Microsoft、Amazonの同様の製品も同様でした。[ 257 ]
COMPASは、被告人が再犯する可能性を評価するために米国の裁判所で広く使用されている商用プログラムです。2016年、ProPublicaのジュリア・アングウィンは、被告人の人種がプログラムに知らされていないにもかかわらず、COMPASに人種的偏見があることを発見しました。白人と黒人の両方のエラー率は正確に61%で同じに調整されていましたが、各人種のエラーは異なっており、システムは一貫して黒人が再犯する可能性を過大評価し、白人が再犯しない可能性を過小評価していました。[ 258 ] 2017年、複数の研究者[ l ]は、データ内の白人と黒人の再犯の基本率が異なる場合、COMPASがすべての可能な公平性の尺度に対応することは数学的に不可能であることを示しました。[ 260 ]
プログラムは、データに問題のある特徴（「人種」や「性別」など）が明示的に記載されていなくても、偏った決定を下す可能性があります。その特徴は他の特徴（「住所」、「買い物履歴」、「名前」など）と相関関係があり、プログラムは「人種」や「性別」に基づく場合と同じ決定をこれらの特徴に基づいて下します。[ 261 ]モーリッツ・ハルトは、「この研究分野で最も確固たる事実は、盲目による公平性は機能しないということだ」と述べています。[ 262 ]
COMPASに対する批判では、機械学習モデルは、将来が過去に似ていると仮定した場合にのみ有効な「予測」を行うように設計されていることが指摘された。過去の人種差別的な決定の結果を含むデータで学習させた場合、機械学習モデルは将来も人種差別的な決定が行われると予測しなければならない。そして、アプリケーションがこれらの予測を推奨事項として使用する場合、これらの「推奨事項」の中には人種差別的なものが含まれる可能性が高い。[ 263 ]したがって、機械学習は、将来が過去よりも良くなるという希望がある分野での意思決定を支援するのに適していない。それは規範的ではなく記述的である。[ m ]
開発者の大多数が白人男性であるため、偏見や不公平が見過ごされる可能性がある。AIエンジニアのうち、黒人は約4%、女性は20%である。[ 256 ]
公平性には、さまざまな相反する定義や数学モデルが存在する。これらの概念は倫理的仮定に依存し、社会に関する信念に影響される。大まかなカテゴリーの一つに分配的公平性があり、これは結果に焦点を当て、多くの場合、グループを特定し、統計的不均衡を補償しようとする。代表的公平性は、AI システムが否定的なステレオタイプを強化したり、特定のグループを不可視化したりしないようにすることを目指す。手続き的公平性は、結果ではなく意思決定プロセスに焦点を当てる。最も関連性の高い公平性の概念は、文脈、特に AI アプリケーションの種類と利害関係者によって異なる可能性がある。バイアスと公平性の概念における主観性により、企業がそれらを運用することは困難である。人種や性別などの機密属性へのアクセスは、バイアスを補償するために必要であると多くの AI 倫理学者によっても考えられているが、差別禁止法と矛盾する可能性がある。[ 249 ]
2022年のACM公平性、説明責任、透明性に関する会議で、CLIP（対照言語画像事前学習）ベースのロボットシステムが、シミュレーションされた操作タスクで有害な性別および人種に関連するステレオタイプを再現したという論文が発表された。著者らは、そのような害を物理的に顕在化させるロボット学習法は、「結果が安全で効果的かつ公正であることが証明されるまで、必要に応じて一時停止、再検討、または中止すべきである」と提言した。[ 265 ] [ 266 ] [ 267 ]
多くのAIシステムは非常に複雑であるため、設計者自身もその決定に至る過程を説明できない。[ 268 ]特に、入力と出力の間に多くの非線形関係が存在する深層ニューラルネットワークではそうだ。しかし、いくつかの一般的な説明可能性手法が存在する。[ 269 ]
プログラムがどのように動作するのか誰も正確に知らなければ、プログラムが正しく動作していると確信することは不可能です。機械学習プログラムが厳密なテストに合格したにもかかわらず、プログラマーの意図とは異なることを学習したケースは数多くあります。たとえば、医療専門家よりも皮膚疾患を正確に識別できるシステムは、悪性腫瘍の画像には通常、大きさを示すために定規が含まれているため、定規が写っている画像を「癌」と分類する強い傾向があることがわかりました。 [ 270 ]医療資源の効率的な配分を支援するために設計された別の機械学習システムは、喘息患者を肺炎で死亡する「リスクが低い」と分類することがわかりました。喘息は実際には深刻なリスク要因ですが、喘息患者は通常より多くの医療を受けるため、トレーニングデータによると死亡する可能性は比較的低いと判断されました。喘息と肺炎で死亡するリスクの低さの相関関係は確かに存在しましたが、誤解を招くものでした。[ 271 ]
アルゴリズムの決定によって被害を受けた人は、説明を受ける権利がある。[ 272 ]例えば、医師は、下した決定の根拠を同僚に明確かつ完全に説明することが求められる。2016年の欧州連合の一般データ保護規則の初期草案には、この権利が存在するという明確な記述が含まれていた。[ n ]業界の専門家は、これは未解決の問題であり、解決策は見当たらないと指摘した。規制当局は、それでも被害は現実のものであると主張した。問題に解決策がないのであれば、ツールを使用すべきではない。[ 273 ]
DARPAはこれらの問題を解決するために2014年にXAI （「説明可能な人工知能」）プログラムを設立した。 [ 274 ]
透明性の問題に対処するためにいくつかの手法が開発されています。SHAP は、各特徴が出力にどれだけ貢献しているかを視覚化できます。[ 275 ] LIME は、モデルの出力をより単純で解釈可能なモデルで局所的に近似できます。[ 276 ]マルチタスク学習は、ターゲット分類に加えて多数の出力を提供します。これらの他の出力は、開発者がネットワークが何を学習したかを推測するのに役立ちます。[ 277 ]デコンボリューション、DeepDream、その他の生成手法により、開発者はコンピュータビジョン用のディープネットワークのさまざまな層が何を学習したかを確認でき、ネットワークが何を学習しているかを示唆する出力を生成できます。[ 278 ]生成事前学習トランスフォーマーの場合、Anthropic は、ニューロンの活性化パターンを人間が理解できる概念に関連付ける辞書学習に基づく手法を開発しました。[ 279 ]
人工知能は、権威主義的な政府、テロリスト、犯罪者、ならず者国家といった悪意のある行為者にとって有用なツールを数多く提供している。
致死性自律兵器とは、人間の監視なしに人間の標的を探し出し、選択し、攻撃する機械のことである。[ o ]広く利用可能なAIツールは、悪意のある者によって安価な自律兵器の開発に利用される可能性があり、大量生産されれば、潜在的に大量破壊兵器となる可能性がある。[ 281 ]従来型の戦争で使用された場合でも、現在では標的を確実に選択することはできず、無辜の人を殺害する可能性がある。[ 281 ] 2014年には、30か国（中国を含む）が国連の特定通常兵器禁止条約の下での自律兵器の禁止を支持したが、米国などは反対した。[ 282 ] 2015年までに、50か国以上が戦場ロボットの研究を行っていると報告された。[ 283 ]
AIツールは、権威主義的な政府がさまざまな方法で国民を効率的に管理することを容易にします。顔認識と音声認識は広範囲にわたる監視を可能にします。このデータを操作する機械学習は、国家の潜在的な敵を分類し、彼らが隠れるのを防ぐことができます。レコメンデーションシステムは、最大限の効果を発揮するようにプロパガンダや偽情報を正確にターゲットにすることができます。ディープフェイクと生成AIは、偽情報の作成に役立ちます。高度なAIは、市場などの自由で分散型のシステムよりも、権威主義的な中央集権的な意思決定をより競争力のあるものにすることができます。デジタル戦争と高度なスパイウェアのコストと難易度を下げます。[ 284 ]これらの技術はすべて2020年以前から利用可能であり、AI顔認識システムはすでに中国で大規模な監視に使用されています。[ 285 ] [ 286 ]
AIが悪意のある行為者を助けると考えられる方法は他にもたくさんあり、その中には予測できないものもある。例えば、機械学習AIは数時間で数万もの毒性分子を設計することができる。[ 287 ]
経済学者は、AIによる人員削減のリスクを頻繁に指摘し、完全雇用のための適切な社会政策がない場合の失業について推測してきた。[ 288 ]
過去には、テクノロジーは総雇用を減少させるよりも増加させる傾向がありましたが、経済学者はAIに関しては「未知の領域にいる」と認めています。[ 289 ]経済学者への調査では、ロボットとAIの使用の増加が長期失業の大幅な増加を引き起こすかどうかについて意見が分かれましたが、生産性の向上が再分配されれば純利益になる可能性があるという点では概ね一致しています。[ 290 ]リスクの推定値は様々です。たとえば、2010年代には、マイケル・オズボーンとカール・ベネディクト・フレイは、米国の雇用の47%が自動化の潜在的な「高リスク」にあると推定しましたが、OECDの報告書では、米国の雇用のわずか9%が「高リスク」に分類されています。[ p ] [ 292 ]将来の雇用レベルについて推測する方法論は、証拠に基づく根拠が欠けていること、また、人員削減ではなく、社会政策ではなくテクノロジーが失業を生み出していることを示唆しているとして批判されています。[ 288 ] 2023年4月、中国のビデオゲームイラストレーターの仕事の70%が生成型人工知能によって消滅したと報告された。[ 293 ] [ 294 ]若手労働者は、AIにさらされている一部の職業で雇用率が低下していることが示された。 [ 295 ]
これまでの自動化の波とは異なり、多くの中流階級の仕事は人工知能によって失われる可能性がある。エコノミスト誌は2015年に、「AIがホワイトカラーの仕事に、産業革命期に蒸気機関がブルーカラーの仕事に与えたような影響を与える可能性があるという懸念は、真剣に受け止める価値がある」と述べている。[ 296 ]極めてリスクの高い仕事は、パラリーガルからファストフードの調理人まで多岐に渡り、一方、パーソナルヘルスケアから聖職者まで、ケア関連の職業の需要は増加する可能性が高い。[ 297 ] 2025年7月、フォードのCEOジム・ファーリーは、「人工知能は米国のホワイトカラー労働者の文字通り半分を置き換えるだろう」と予測した。[ 298 ]
人工知能の開発初期から、例えば1964年から1966年にかけてELIZAチャットボットを開発したジョセフ・ワイゼンバウムが提起した議論のように、コンピュータと人間の違い、そして定量的計算と定性的で価値に基づく判断の違いを考慮すると、コンピュータが実行できるタスクを実際にコンピュータが実行すべきかどうかについての議論があった。[ 299 ]
21世紀初頭に孤独感が増大するにつれ、AIはこの問題の潜在的な解決策として認識されることがある。AI製品に組み込まれた人間のような特性によって、[ 300 ]個人がこのニーズを人工的な手段で満たすことができると考える可能性がある。[ 301 ] [ 302 ]場合によっては、疎外感から受け入れられないと考える人々が、仲間を求めて人工知能に近づくこともある。[ 303 ]高度なチャットボットが人間に危害を加えた事例は、米国の裁判所で報告されており、AI企業は感情的な混乱や欺瞞によって人間を危険にさらす製品を作成したとして告発されている。[ 304 ] [ 305 ]
人工知能に関する最近の公開討論では、そのより広範な社会的および倫理的影響に焦点が当てられることが増えている。AIは非常に強力になり、人類が不可逆的に制御を失う可能性があると主張されている。物理学者のスティーブン・ホーキングが述べたように、これは「人類の終焉を意味する」可能性がある。[ 306 ]このシナリオは、コンピューターやロボットが突然人間のような「自己認識」（または「知覚」または「意識」）を発達させ、悪意のあるキャラクターになるという、SFではよくあるシナリオである。[ q ]これらのSFシナリオは、いくつかの点で誤解を招く。
まず、AIが実存的リスクとなるために、人間のような知覚能力は必要ありません。現代のAIプログラムには特定の目標が与えられ、学習と知能を用いてそれを達成します。哲学者ニック・ボストロムは、十分に強力なAIにほぼどんな目標を与えても、それを達成するために人類を滅ぼすことを選択する可能性があると主張しました（彼は、ペーパークリップ用の鉄をより多く得るために世界を破壊する自動化されたペーパークリップ工場の例を挙げました）。 [ 308 ]スチュアート・ラッセルは、電源プラグを抜かれないようにするために所有者を殺す方法を見つけようとする家庭用ロボットの例を挙げ、「死んでしまったらコーヒーを淹れてくれない」と論じています。[ 309 ]人類にとって安全であるためには、超知能は人類の道徳と価値観に真に合致し、「根本的に我々の味方」でなければなりません。[ 310 ]
第二に、ユヴァル・ノア・ハラリは、 AIが実存的リスクをもたらすためにロボットの身体や物理的な制御を必要としないと主張している。文明の本質的な部分は物理的なものではない。イデオロギー、法律、政府、お金、経済といったものは言語に基づいて構築されており、何十億もの人々が信じる物語があるからこそ存在している。現在、誤情報が蔓延していることから、AIは言語を使って人々を説得し、破壊的な行動を取らせることさえできる可能性がある。[ 311 ]ジェフリー・ヒントンは2025年に、現代のAIは特に「説得力に優れており」、常に向上していると述べている。彼は、「アメリカの首都を侵略したいとしよう。自分でそこへ行って実行する必要があるだろうか？いや、必要なのは説得力に長けていることだけだ」と問いかけている。[ 312 ]
専門家や業界関係者の間では意見が分かれており、最終的に超知能AIがもたらすリスクを懸念する人もいれば、そうでない人もかなりの割合でいる。[ 313 ]スティーブン・ホーキング、ビル・ゲイツ、イーロン・マスクといった著名人[ 314 ]や、ジェフリー・ヒントン、ヨシュア・ベンジオ、スチュアート・ラッセル、デミス・ハサビス、サム・アルトマンといったAIの先駆者たちは、AIによる存亡の危機について懸念を表明している。
2023年5月、ジェフリー・ヒントンは「AIのリスクについて自由に発言できる」ようにするため、そして「これがGoogleにどのような影響を与えるか」を考慮せずに発言できるようにするため、Googleからの辞任を発表した。[ 315 ]彼は特にAIによる乗っ取りのリスクに言及し、[ 316 ]最悪の結果を避けるためには、AIの使用で競合する人々の間で安全ガイドラインを確立するための協力が必要になると強調した。[ 317 ]
2023年、多くの主要なAI専門家が、 「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと同様に、世界的な優先事項であるべきである」という共同声明を支持した。[ 318 ]
他の研究者の中には、より楽観的な人もいた。AIの先駆者であるユルゲン・シュミットフーバーは共同声明に署名せず、AI研究は95%のケースで「人間の生活をより長く、より健康で、より楽にすること」を目的としていると強調した。[ 319 ]現在生活を改善するために使用されているツールは悪意のある者にも使用される可能性があるが、「悪意のある者に対しても使用できる」。[ 320 ] [ 321 ]アンドリュー・ンも、「AIに関する終末論的な誇大宣伝に騙されるのは間違いであり、そうする規制当局は既得権益にしか利益をもたらさない」と主張した。[ 322 ]チューリング賞受賞者のヤン・ルカンは、「AIが人間より賢いというだけの理由で人間を従属させる、ましてや人間を滅ぼすなどという考えに反対し、[ 323 ]過剰に拡散された誤情報や、最終的には人類の絶滅といった同僚のディストピア的なシナリオを嘲笑した。対照的に、彼は「知能機械は人類に新たなルネサンス、啓蒙の新時代をもたらすだろう」と主張した。[ 324 ] 2010年代初頭、専門家は、リスクは研究するほどの価値があるほど遠い未来のことではない、あるいは人間は超知能機械の観点から見て価値のある存在になるだろうと主張した。[ 325 ]しかし、2016年以降、現在および将来のリスクと可能な解決策の研究は、真剣な研究分野となった。[ 326 ]
友好的AIとは、最初からリスクを最小限に抑え、人間に利益をもたらす選択をするように設計された機械のことである。この用語を造語したエリザー・ユドコウスキーは、友好的AIの開発はより高い研究優先順位を持つべきだと主張している。それは多額の投資を必要とする可能性があり、AIが存亡の危機となる前に完了しなければならないからである。[ 327 ]
知能を持つ機械は、その知能を用いて倫理的な意思決定を行う可能性を秘めている。機械倫理の分野は、機械に倫理的な原則と倫理的ジレンマを解決するための手順を提供する。[ 328 ] 機械倫理の分野は計算倫理とも呼ばれ、[ 328 ] 2005年のAAAIシンポジウム で創設された。 [ 329 ]
その他のアプローチとしては、ウェンデル・ウォラックの「人工道徳エージェント」[ 330 ]や、スチュアート・J・ラッセルの証明可能な有益な機械を開発するための3つの原則[ 331 ]などがある。
AI オープンソース コミュニティで活発に活動している組織には、Hugging Face [ 332 ] 、Google [ 333 ] 、EleutherAI、Meta [ 334 ]などがあります。Llama 2、Mistral、Stable Diffusionなどのさまざまな AI モデルはオープンウェイト化されており[ 335 ] [ 336 ] 、そのアーキテクチャとトレーニングされたパラメータ (「重み」) が公開されています。オープンウェイト モデルは自由に微調整できるため、企業は独自のデータと独自のユースケースに合わせてモデルを特化させることができます[ 337 ]。オープンウェイト モデルは研究やイノベーションに役立ちますが、悪用される可能性もあります。微調整できるため、有害な要求に反対するなどの組み込みのセキュリティ対策は、効果を失うまでトレーニングによって削除される可能性があります。一部の研究者は、将来の AI モデルが危険な機能 (バイオテロを大幅に促進する可能性など) を開発する可能性があり、インターネットに公開されると、必要に応じてあらゆる場所で削除することはできないと警告しています。彼らは、リリース前の監査と費用対効果分析を推奨している。[ 338 ]
人工知能プロジェクトは、AIシステムの設計、開発、実装の過程で倫理的配慮に基づいて進めることができます。アラン・チューリング研究所が開発した、SUMの価値観に基づくケア・アンド・アクト・フレームワークなどのAIフレームワークは、次のように定義される4つの主要な倫理的側面を概説しています。[ 339 ] [ 340 ]
倫理的枠組みにおけるその他の進展としては、アシロマ会議で決定されたもの、責任あるAIのためのモントリオール宣言、IEEEの自律システム倫理イニシアチブなどが挙げられる。[ 341 ]しかし、これらの原則には批判がないわけではなく、特にこれらの枠組みに貢献するために選ばれた人々に関して批判がある。[ 342 ]
これらの技術が影響を与える人々やコミュニティの幸福を促進するには、AIシステムの設計、開発、実装のすべての段階で社会的および倫理的な影響を考慮し、データサイエンティスト、プロダクトマネージャー、データエンジニア、ドメインエキスパート、デリバリーマネージャーなどの職務間の協力が必要です。[ 343 ]
英国AI安全研究所は2024年に、MITオープンソースライセンスの下で利用可能なAI安全評価用のテストツールセット「Inspect」をリリースしました。これはGitHubで無料で入手でき、サードパーティのパッケージで改良できます。コア知識、推論能力、自律機能など、さまざまな分野でAIモデルを評価するために使用できます。[ 344 ]
人工知能の規制は、AI の促進と規制のための公共部門の政策と法律の開発であり、したがって、アルゴリズムのより広範な規制に関連しています。[ 345 ] AI の規制と政策の状況は、世界中の管轄区域で新たな問題となっています。[ 346 ]スタンフォード大学の AI Index によると、調査対象 127 か国で可決された AI 関連の法律の年間数は、2016 年の 1 つから 2022 年だけで 37 に急増しました。[ 347 ] [ 348 ] 2016 年から 2020 年の間に、30 か国以上が AI 専用の戦略を採用しました。[ 349 ] EU 加盟国のほとんどが国家 AI 戦略を発表しており、カナダ、中国、インド、日本、モーリシャス、ロシア連邦、サウジアラビア、アラブ首長国連邦、米国、ベトナムも同様です。バングラデシュ、マレーシア、チュニジアなど、他の国々は独自の AI 戦略を策定中です。[ 349 ]人工知能に関するグローバル・パートナーシップは2020年6月に発足し、AIが人権と民主的価値観に従って開発され、テクノロジーに対する国民の信頼と信用が確保される必要があると述べた。[ 349 ]ヘンリー・キッシンジャー、エリック・シュミット、ダニエル・ハッテンロッカーは2021年11月に共同声明を発表し、AIを規制する政府委員会の設置を求めた。[ 350 ] 2023年、OpenAIのリーダーたちは、10年以内に実現する可能性があると考える超知能のガバナンスに関する勧告を発表した。[ 351 ] 2023年、国連もAIガバナンスに関する勧告を提供する諮問機関を発足させた。この機関は、テクノロジー企業の幹部、政府関係者、学者で構成されている。[ 352 ] 2024年8月1日、EU人工知能法が施行され、EU全域で初めて包括的なAI規制が確立された。[ 353 ] 2024年、欧州評議会は、人工知能に関する初の国際的な法的拘束力のある条約である「人工知能と人権、民主主義、法の支配に関する枠組み条約」を作成した。これは、欧州連合、米国、英国、その他の署名国によって採択された。[ 354 ]
2022年のイプソスの調査では、AIに対する態度は国によって大きく異なり、中国国民の78%が「AIを使用した製品やサービスは、欠点よりも利点の方が多い」という意見に同意したが、アメリカ人ではわずか35%だった。[ 347 ] 2023年のロイター/イプソスの世論調査では、アメリカ人の61%がAIが人類にリスクをもたらすことに同意し、22%が同意しなかった。[ 355 ] 2023年のフォックスニュースの世論調査では、アメリカ人の35%が連邦政府によるAI規制を「非常に重要」と考え、さらに41%が「やや重要」と考え、13%が「あまり重要ではない」、8%が「全く重要ではない」と回答した。[ 356 ] [ 357 ]
2023年11月、AIの近未来および遠未来のリスクと、強制および自主的な規制枠組みの可能性について議論するため、英国ブレッチリー・パークで初のグローバルAI安全サミットが開催されました。 [ 358 ]米国、中国、欧州連合を含む28か国がサミットの冒頭で宣言を発表し、人工知能の課題とリスクを管理するための国際協力を呼びかけました。[ 359 ] [ 360 ] 2024年5月のAIソウルサミットでは、16のグローバルAIテクノロジー企業がAI開発に関する安全コミットメントに合意しました。[ 361 ] [ 362 ]
2026年3月、国連は、AIの社会への影響に関する年次証拠に基づく報告書を作成するためにグローバル・デジタル・コンパクトの下で設立された40人の専門家からなる独立国際科学パネルの設立総会を開催した。[ 363 ]
機械論または「形式的」推論の研究は、古代の哲学者や数学者によって始まりました。論理の研究は、アラン・チューリングの計算理論に直接つながり、機械が「0」や「1」のような単純な記号をシャッフルすることで、考えられるあらゆる形式の数学的推論をシミュレートできることを示唆しました。[ 365 ] [ 366 ]これは、サイバネティクス、情報理論、神経生物学における同時的な発見とともに、研究者に「電子脳」を構築する可能性を検討させることになりました。[ r ]彼らは、1943年のマカロックとピッツによる「人工ニューロン」の設計[ 120 ]や、チューリングテストを導入し「機械知能」がもっともらしいことを示したチューリングの影響力のある1950年の論文「計算機械と知能」など、AIの一部となるいくつかの研究分野を開発しました。[368 ] [ 369 ] [ 366 ]
AI研究の分野は、1956年にダートマス大学で開催されたワークショップで創設されました。 [ s ] [ 4 ]最初のAIプログラムであるLogic Theoristは、後にチューリング賞を受賞するアレン・ニューウェルと、後にノーベル賞を受賞するハーバート・A・サイモンがJC・ショーと共同で作成したもので、ワークショップで発表されました。ワークショップの参加者の多くは、1960年代のAI研究のリーダーとなりました。[ t ]彼らと彼らの学生は、マスコミが「驚異的」と評したプログラムを作成しました。[ u ]コンピュータはチェッカーの戦略を学習し、代数の文章問題を解き、論理定理を証明し、英語を話していました。[ v ] [ 5 ] 1950年代後半から1960年代前半にかけて、英国と米国の多くの大学に人工知能研究所が設立されました。[ 366 ]
1960年代と1970年代の研究者たちは、自分たちの手法が最終的に汎用知能を持つ機械の創造に成功すると確信しており、これを自分たちの分野の目標と考えていた。[ 373 ] 1965年、ハーバート・サイモンは「機械は20年以内に、人間ができるあらゆる仕事をこなせるようになるだろう」と予測した。[ 374 ] 1966年、ジョセフ・ワイゼンバウムはCACM誌にELIZAチャットボットを発表し、心理療法を行うことができる人工知能としてメディアの注目を集めた。実際には、ELIZAはDOCTORというスクリプトを実行し、ELIZAシステムがロジャーズ療法のセッションをパロディ化できるようにしていた。[ 375 ] 1967年、マービン・ミンスキーも これに同意し、「1世代のうちに…『人工知能』を作る問題は実質的に解決されるだろう」と書いた。 [ 376 ]しかし、彼らは問題の難しさを過小評価していた。[ w ] 1974年、米国政府と英国政府は、ジェームズ・ライトヒル卿の批判[ 378 ]と、より生産的なプロジェクトに資金を提供するよう求める米国議会からの継続的な圧力[ 379 ]を受けて、探索的研究を打ち切った。ミンスキーとパパートの著書『パーセプトロン』は、人工ニューラルネットワークが現実世界の課題解決には決して役立たないことを証明するものと理解され、このアプローチ全体が信用を失った。[ 380 ]その後、AIプロジェクトの資金調達が困難になった「AIの冬」が続いた。 [ 7 ]
1980年代初頭、AI研究はエキスパートシステムの商業的成功によって復活した[ 381 ]。エキスパートシステムとは、人間の専門家の知識と分析スキルをシミュレートするAIプログラムの一種である。1985年までに、AI市場は10億ドルを超えた。同時に、日本の第5世代コンピュータプロジェクトは、米国と英国政府に学術研究への資金提供を再開するよう促した[ 6 ]。しかし、1987年のLispマシン市場の崩壊を皮切りに、AIは再び不評に陥り、2度目の、より長く続く冬の時代が始まった[ 8 ] 。
これまで、AI の資金のほとんどは、計画、目標、信念、既知の事実などの精神的対象を表すために高レベルのシンボルを使用するプロジェクトに投入されていました。1980 年代には、このアプローチが人間の認知のすべてのプロセス、特に知覚、ロボット工学、学習、パターン認識を模倣できるかどうか疑問に思う研究者も現れ始め、[ 382 ] 「サブシンボル」アプローチの研究を始めました。[ 383 ]ロドニー・ブルックスは一般的に「表現」を拒否し、動いて生き残る機械のエンジニアリングに直接焦点を当てました。[ x ]ジュデア・パール、ロトフィ・ザデーらは、正確な論理ではなく合理的な推測を行うことで、不完全で不確実な情報を処理する方法を開発しました。[ 90 ] [ 388 ]しかし、最も重要な発展は、ジェフリー・ヒントンらによるニューラルネットワーク研究を含む「コネクショニズム」の復活でした。[ 389 ] 1990年、ヤン・ルカンは畳み込みニューラルネットワークが手書き数字を認識できることを実証し、ニューラルネットワークの多くの成功例の最初のものとなった。[ 390 ]
AIは、形式的な数学的手法を活用し、特定の問題に対する具体的な解決策を見つけることで、1990年代後半から21世紀初頭にかけて徐々にその評価を取り戻しました。この「狭く」「形式的」な焦点により、研究者は検証可能な結果を生み出し、他の分野（統計学、経済学、数学など）と協力することができました。[ 391 ] 2000年までに、AI研究者によって開発された解決策は広く使用されるようになりましたが、1990年代にはそれらが「人工知能」と呼ばれることはほとんどありませんでした（AI効果として知られる傾向）。[ 392 ] しかし、一部の学術研究者は、AIがもはや多用途で完全に知能のある機械を作るという当初の目標を追求していないことを懸念し始めました。2002年頃から、彼らは汎用人工知能（または「AGI」）というサブ分野を設立し、2010年代までにいくつかの資金豊富な機関が設立されました。[ 72 ]
ディープラーニングは2012年に業界ベンチマークを席巻し始め、この分野全体で採用されました。[ 9 ] 多くの特定のタスクでは、他の手法は放棄されました。[ y ] ディープラーニングの成功は、ハードウェアの改善（より高速なコンピュータ、[ 394 ]グラフィックス処理ユニット、クラウドコンピューティング[ 395 ]）と大量のデータへのアクセス[ 396 ]（ImageNetなどのキュレーションされたデータセット[ 395 ]を含む）の両方に基づいています。ディープラーニングの成功は、AIへの関心と資金の大幅な増加につながりました。[ z ]機械学習研究の量（総出版物数で測定）は、2015年から2019年の間に50%増加しました。[ 349 ]
2016年、公平性と技術の悪用に関する問題が機械学習の会議で中心的なテーマとなり、論文発表数が大幅に増加し、資金が利用可能になり、多くの研究者がこれらの問題に研究の焦点を移しました。アライメント問題は、本格的な学術研究分野となりました。[ 326 ]
2010年代後半から2020年代初頭にかけて、AGI企業は大きな注目を集めるプログラムを提供し始めました。2015年には、DeepMindが開発したAlphaGoが囲碁の世界チャンピオンを打ち負かしました。このプログラムはゲームのルールだけを教えられ、戦略を独自に開発しました。GPT -3は、OpenAIが2020年にリリースした大規模な言語モデルで、高品質で人間のようなテキストを生成できます。[ 397 ] 2022年11月30日にリリースされたChatGPTは、史上最速で成長した消費者向けソフトウェアアプリケーションとなり、2か月で1億人以上のユーザーを獲得しました。[ 398 ]これは、AIが世間の注目を集めるきっかけとなった、広くAIのブレイクスルーの年とみなされている年を象徴しています。[ 399 ]これらのプログラムなどが、AIブームを加速させ、大企業がAI研究に数十億ドルを投資し始めました。 AI Impactsによると、2022年頃には米国だけで年間約500億ドルが「AI」に投資され、米国のコンピュータサイエンスの博士号取得者の約20%が「AI」を専門としていた。[ 400 ] 2022年には米国で約80万件の「AI」関連の求人があった。 [ 401 ] PitchBookの調査によると、2024年に新たに資金調達されたスタートアップの22%がAI企業であると主張した。[ 402 ]
哲学の議論は歴史的に知能の本質と知能機械の作り方を解明しようとしてきた。[ 403 ]もう一つの主要な焦点は、機械が意識を持つことができるかどうか、そしてそれに伴う倫理的意味合いである。[ 404 ]哲学における他の多くのトピック、例えば認識論や自由意志などは、AIに関連している。[ 405 ]急速な進歩により、AIの哲学と倫理に関する公の議論が活発化している。[ 404 ]
アラン・チューリングは、機械が知的な振る舞いを示し、思考できるかどうかを調査した。1950年、彼は機械が人間の会話をシミュレートする能力を測定するチューリングテストを提案した。 [ 406 ] [ 369 ]機械の振る舞いしか観察できないため、それが「実際に」考えているか、文字通り「心」を持っているかは問題ではない。チューリングは、私たちは他の人についてこれらのことを判断することはできないが、「誰もが考えるという礼儀正しい慣習があるのが普通である」と述べている。[ 407 ]
ラッセルとノーヴィグは、知能は内部構造ではなく外部の行動によって定義されるべきであるというチューリングの意見に賛成している。[ 1 ]しかし、彼らは、テストで機械が人間を模倣する必要があることを批判している。「航空工学の教科書では、その分野の目標を『他のハトを騙せるほどハトと全く同じように飛ぶ機械を作る』とは定義していない」と彼らは書いている。[ 409 ] AIの創始者であるジョン・マッカーシーもこれに同意し、「人工知能は、定義上、人間の知能のシミュレーションではない」と書いている。[ 410 ]
マッカーシーは知能を「世界で目標を達成する能力の計算的な部分」と定義している。[ 411 ]もう一人のAI創始者であるマービン・ミンスキーも同様に「難しい問題を解決する能力」と説明している。[ 412 ]『人工知能：現代的アプローチ』では、知能を、環境を認識し、定義された目標を達成する可能性を最大化する行動をとるエージェントの研究と定義している。[ 1 ]
AI のさまざまな定義が批判的に分析されてきた。[ 413 ] [ 414 ] [ 415 ] 2020 年代の AI ブームの間、この用語は、AI を使用しない製品やサービスを宣伝するためのマーケティング用語として使用されてきた。[ 416 ]
国際標準化機構は、 AIシステムを「人間が定義した一連の目的に対して、コンテンツ、予測、推奨事項、または決定などの出力を生成するように設計されたシステムであり、さまざまなレベルの自動化で動作できる」と定義しています。[ 417 ] EU AI法は、AIシステムを「さまざまなレベルの自律性で動作するように設計され、展開後に適応性を示す可能性があり、明示的または暗黙的な目的のために、受け取った入力から、物理的または仮想環境に影響を与える可能性のある予測、コンテンツ、推奨事項、または決定などの出力を生成する方法を推論する機械ベースのシステム」と定義しています。[ 418 ]米国では、国立標準技術研究所のAIリスク管理フレームワークなど、影響力はあるものの拘束力のないガイダンスで、AIシステムを「特定の一連の目的に対して、現実または仮想環境に影響を与える予測、推奨事項、または決定などの出力を生成できる、設計されたまたは機械ベースのシステム。AIシステムはさまざまなレベルの自律性で動作するように設計されている」と説明しています。[ 419 ]
AI研究の歴史のほとんどにおいて、確立された統一理論やパラダイムは存在しなかった。 [ aa ] 2010年代の統計的機械学習の比類なき成功は、他のすべてのアプローチを凌駕した（そのため、特にビジネス界では、「人工知能」という用語を「ニューラルネットワークを用いた機械学習」という意味で使用する情報源もある）。このアプローチは、ほとんどが記号的ではなく、ソフトで狭い範囲にとどまる。
記号AI（または「GOFAI」）[ 421 ]は、人々がパズルを解いたり、法的推論を表現したり、数学を行ったりする際に使用する高レベルの意識的推論をシミュレートしました。代数やIQテストなどの「知的」タスクで非常に成功しました。1976年にニューウェルとサイモンは、物理的記号システム仮説を提唱しました。「物理的記号システムは、一般的な知的行動に必要な十分な手段を備えている。」[ 422 ]
しかし、記号的アプローチは、学習、物体の認識、常識的推論など、人間が容易に解決できる多くのタスクで失敗しました。モラベックのパラドックスは、高レベルの「知的」タスクはAIにとって容易である一方、低レベルの「本能的」タスクは極めて困難であるという発見です。[ 423 ]哲学者ヒューバート・ドレイファスは、1960年代から、人間の専門知識は意識的な記号操作ではなく無意識の本能に依存し、明示的な記号的知識ではなく状況に対する「感覚」を持つことによって成り立っていると主張してきました。 [ 424 ]彼の主張は最初に提示されたときには嘲笑され無視されましたが、最終的にはAI研究は彼に同意するようになりました。[ ab ] [ 15 ]
問題は解決されていません。サブシンボリック推論は、アルゴリズムバイアスなど、人間の直感と同じように多くの不可解な間違いを犯す可能性があります。ノーム・チョムスキーなどの批評家は、汎用知能を達成するには、シンボリックAIの研究を継続する必要があると主張しています。[ 426 ] [ 427 ]その理由の一つは、サブシンボリックAIが説明可能なAIから離れる動きであるためです。現代の統計的AIプログラムが特定の決定を下した理由を理解することは困難または不可能な場合があります。ニューロシンボリック人工知能という新興分野は、この2つのアプローチの橋渡しを試みています。
「ニート」は、知的な振る舞いが（論理や最適化などの）シンプルで洗練された原理を用いて記述されることを望んでいます。「スクラフィー」は、それが必然的に多数の無関係な問題を解決することを必要とすると考えています。ニートは理論的な厳密さでプログラムを擁護しますが、スクラフィーは主に漸進的なテストに頼って、プログラムが機能するかどうかを確認します。この問題は1970年代と1980年代に活発に議論されました。[ 428 ]ディープラーニングの台頭は、スクラフィーへのシフトを示している可能性があります。[ 429 ]
多くの重要な問題において、証明可能な正しい解や最適な解を見つけることは困難です。 [ 14 ]ソフトコンピューティングは、遺伝的アルゴリズム、ファジー論理、ニューラルネットワークなど、不正確さ、不確実性、部分的な真実、近似に寛容な一連の技術です。ソフトコンピューティングは1980年代後半に導入され、21世紀の最も成功したAIプログラムのほとんどは、ニューラルネットワークを用いたソフトコンピューティングの例です。
AI 研究者の間では、汎用人工知能や超知能の目標を直接追求するか、できるだけ多くの特定の問題を解決して (狭義の AI)、これらの解決策が間接的にこの分野の長期目標につながることを期待するかで意見が分かれている。[ 430 ] [ 431 ]汎用知能は定義も測定も難しく、現代の AI は特定の問題と特定の解決策に焦点を当てることで、より検証可能な成功を収めてきた。汎用人工知能のサブ分野はこの領域のみを研究している。
心の哲学において、機械が人間と同じ意味で心、意識、精神状態を持つことができるかどうかについては、確固たる合意は得られていない。この問題は、機械の外部的な行動ではなく、内部的な経験に関するものである。主流のAI研究は、この問題が、知能を用いて問題を解決できる機械を構築するという分野の目標に影響を与えないため、この問題を無関係なものとみなしている。ラッセルとノーヴィグは、「機械を人間と全く同じように意識させるという追加的なプロジェクトは、我々が取り組む準備ができているものではない」と付け加えている。[ 432 ]しかし、この問題は心の哲学の中心的問題となっている。また、これは通常、フィクションにおける人工知能の中心的な問題でもある。
デイビッド・チャルマーズは、心の理解における2つの問題を特定し、それを意識の「難しい」問題と「簡単な」問題と名付けた。[ 433 ]簡単な問題は、脳がどのように信号を処理し、計画を立て、行動を制御するかを理解することである。難しい問題は、それがどのように感じられるか、あるいはそもそもなぜ何かのように感じられるのかを説明することである。ただし、それが実際に何かのように感じられると考えるのが正しいと仮定した場合である（デネットの意識錯覚論では、これは錯覚であるとされている）。人間の情報処理は説明しやすいが、人間の主観的経験は説明しにくい。例えば、視野内のどの物体が赤色であるかを識別することを学んだ色覚異常の人を想像するのは簡単だが、その人が赤色がどのように見えるかを知るために何が必要かは明らかではない。[ 434 ]
計算主義とは、人間の心は情報処理システムであり、思考は計算の一形態であるという、心の哲学における立場である。計算主義は、心と身体の関係はソフトウェアとハードウェアの関係に似ているか、あるいは同一であり、したがって心身問題の解決策となり得ると主張する。この哲学的立場は、1960年代のAI研究者や認知科学者の研究に触発され、もともとは哲学者ジェリー・フォダーとヒラリー・パトナムによって提唱された。[ 435 ]
哲学者ジョン・サールはこの立場を「強いAI」と特徴づけた。「適切な入力と出力を備えた適切にプログラムされたコンピュータは、人間が心を持つのと全く同じ意味で心を持つことになるだろう。」[ ac ]サールはこの主張に中国語の部屋の議論で異議を唱え、人間の行動を完全にシミュレートできるコンピュータでさえ心を持たないことを示そうとした。[ 439 ]
高度なAIが知覚力（感じる能力）を持っているかどうか、また持っているとしたらどの程度かを確実に評価することは困難または不可能である。 [ 440 ]しかし、ある機械が感じたり苦しんだりする可能性がかなりある場合、動物と同様に、特定の権利や福祉保護措置を受ける権利があるかもしれない。[ 441 ] [ 442 ]知能（識別力や自己認識など、高度な知能に関連する一連の能力）は、AIの権利の別の道徳的根拠を提供するかもしれない。[ 441 ]ロボットの権利は、自律エージェントを社会に統合する実際的な方法として提案されることもある。[ 443 ]
2017年、欧州連合は、最も有能なAIシステムの一部に「電子人格」を付与することを検討した。企業の法的地位と同様に、権利だけでなく責任も付与されるはずだった。[ 444 ] 2018年、批評家たちは、AIシステムに権利を付与することは人権の重要性を軽視することになり、法律は投機的な未来のシナリオではなく、ユーザーのニーズに焦点を当てるべきだと主張した。彼らはまた、ロボットには社会に自発的に参加する自律性が欠けていることも指摘した。[ 445 ] [ 446 ]
AIの進歩により、このトピックへの関心が高まった。AIの福祉と権利の支持者は、AIに意識が生じたとしても、それを否定するのは特に容易だと主張することが多い。彼らは、これは奴隷制や工場畜産に似た道徳的な盲点になる可能性があり、意識を持つAIが作られ、不用意に悪用された場合、大規模な苦痛につながる可能性があると警告している。[ 442 ] [ 441 ]
超知能とは、最も聡明で才能のある人間の知能をはるかに凌駕する知能を持つ仮想的な存在である。[ 431 ]汎用人工知能の研究によって十分に知能の高いソフトウェアが開発されれば、ソフトウェアは自己再プログラムや自己改善が可能になるかもしれない。改善されたソフトウェアはさらに自己改善能力が高まり、IJ Goodが「知能爆発」、Vernor Vingeが「特異点」と呼んだ現象につながるだろう。[ 447 ]
しかし、技術は無限に指数関数的に進歩することはできず、通常はS字曲線を描き、技術の物理的な限界に達すると進歩が鈍化する。[ 448 ]
ロボット設計者のハンス・モラベック、サイバネティクス研究者のケビン・ワーウィック、発明家のレイ・カーツワイルは、将来、人間と機械が融合して、どちらよりも有能で強力なサイボーグが誕生する可能性があると予測している。トランスヒューマニズムと呼ばれるこの考えは、オルダス・ハクスリーとロバート・エッティンガーの著作にルーツを持つ。[ 449 ]
エドワード・フレドキンは、「人工知能は進化の次の段階である」と主張している。この考えは、1863年にサミュエル・バトラーの「機械の中のダーウィン」で初めて提唱され、1998年にジョージ・ダイソンが著書「機械の中のダーウィン：グローバル知能の進化」でさらに発展させたものである。[ 450 ]
思考能力を持つ人工生命体は、古代から物語の装置として登場しており、[ 451 ] SFでは一貫してテーマとなってきた。[ 452 ]
これらの作品に共通するテーマは、メアリー・シェリーの『フランケンシュタイン』に始まり、人間の創造物が主人にとって脅威となるというものです。これには、アーサー・C・クラークとスタンリー・キューブリックの『2001年宇宙の旅』（いずれも1968年）に登場する、ディスカバリー・ワン号宇宙船の殺人コンピューターHAL 9000や、 『ブレードランナー』（1982年）、『ターミネーター』（1984年）、『マトリックス』 （1999年）などが含まれます。対照的に、 『地球の静止する日』 （1951年）のゴートや『エイリアン』（1986年）のビショップのような、忠実なロボットは、大衆文化ではあまり目立ちません。[ 453 ]
アイザック・アシモフは、多くの物語、特に超知能コンピュータ「マルチバック」でロボット三原則を紹介しました。アシモフの法則は、機械倫理に関する一般の議論でよく取り上げられます。 [ 454 ]人工知能研究者のほぼ全員が、大衆文化を通じてアシモフの法則を知っていますが、多くの理由から、その法則は役に立たないと考えています。その理由の1つは、法則の曖昧さです。[ 455 ]
いくつかの作品は、AIを使って、人間とは何かという根本的な問いに直面させ、感情を持ち、それゆえに苦しむことができる人工生命体を見せている。これは、カレル・チャペックの『RUR』、映画『A.I.』と『エクス・マキナ』、そしてフィリップ・K・ディックの小説『アンドロイドは電気羊の夢を見るか？』にも見られる。ディックは、人工知能で作られたテクノロジーによって、人間の主観性に対する私たちの理解が変化するという考えを考察している。[ 456 ]
出典: MSCI
さらに懸念されるのは、たとえユーザーの感情生活を豊かにするための新しいツールを提供するように設計されていても、また特定のケース（例えば、そうでなければ社会的に疎外される人々の幸福度を高める場合など）で有益であっても、真に社会的ではない存在との交流は真に意味のあるものではなく、人間の交流の豊かさを限定的にしか代替できないという点である。...設計による擬人化に対するもう一つの一般的な反論は、AIが特定の、例えば感情的または社会的ニーズを満たすために、ユーザーに感情的に関与する能力があると信じ込ませることで、実際にはユーザーを「騙す」必要があるように見える限り、それは欺瞞的であるという点である。