大規模言語モデル

機械学習アルゴリズムはテキストではなく数値を処理するため、テキストを数値に変換する必要があります。最初のステップでは、語彙を決定し、次に各語彙エントリに任意かつ一意の整数インデックスを割り当て、最後に、埋め込みを整数インデックスに関連付けます。アルゴリズムには、バイトペアエンコーディング（BPE）とワードピースがあります。また、マスクされたトークン（BERTで使用されるもの）や、語彙に現れない文字を表す（"unknown")など、制御文字として機能する特別なトークンもあります。さらに、特別なテキストフォーマットを示すために、いくつかの特殊記号が使用されます。たとえば、RoBERTaとGPTでは「Ġ」は前の空白を表し、BERTでは「##」は前の単語の継続を表します。^{[ 25 ]}[MASK][UNK]

例えば、従来のGPT-3tokenizer: texts -> series of numerical "tokens"バージョンで使用されるBPEトークナイザーは次のように分割します。

トークン化はデータセットの圧縮も行います。LLMは一般的に、入力が不規則でない配列であることを要求するため、短いテキストは最も長いテキストの長さに一致するまで「パディング」する必要があります。

LLM のトレーニングの文脈では、データセットは通常、低品質、重複、または有害なデータを除去することによってクリーニングされます。^{[ 27 ]}クリーニングされたデータセットはトレーニング効率を高め、下流のパフォーマンスを向上させることができます。^{[ 28 ]}トレーニングされた LLM は、さらに LLM をトレーニングするためのデータセットをクリーニングするために使用できます。^{[ 29 ]}

ウェブ上でLLM生成コンテンツの割合が増加するにつれて、将来のデータクリーニングには、そのようなコンテンツをフィルタリングすることが含まれるようになるかもしれない。LLM生成コンテンツは、コンテンツが人間のテキストに似ている（フィルタリングが困難になる）が品質が低い（それに基づいてトレーニングされたモデルのパフォーマンスが低下する）場合、問題となる可能性がある。^{[ 1 ]}

大規模な言語モデルの学習には、自然界で得られるデータよりも多くの言語データが必要となる場合や、自然界のデータ自体が不十分な品質である場合がある。このような場合、合成データを用いることが考えられる。

最大規模のモデルをトレーニングするには、相当なインフラストラクチャが必要です。大規模モデルへの傾向は、大規模言語モデルのリストに表れています。たとえば、2019年のGPT-2（15億パラメータのモデル）のトレーニングには5万ドルかかりましたが、 2022年のPaLM（5400億パラメータのモデル）のトレーニングには800万ドル、Megatron-Turing NLG 530B（2021年）には約1100万ドルかかりました。「大規模言語モデル」の「大規模」という修飾語は、本質的に曖昧です。なぜなら、「大規模」とみなされるために必要なパラメータ数に明確な閾値がないからです。

微調整される前は、ほとんどの LLM は次のトークンを予測するものです。^{[ 30 ]}微調整は、人間のフィードバックからの強化学習(RLHF) や構成的 AIなどの技術によって LLM の動作を形成します。^{[ 31 ]}

指示の微調整は、 LLMにユーザーの指示に従うように教えるために使用される教師あり学習の一種です。2022年にOpenAIは、同様に指示に従うように微調整されたGPT-3のバージョンであるInstructGPTを実証しました。^{[ 32 ]}

RLHFでは、人間が好むテキストを予測する報酬モデルを訓練します。その後、強化学習によってLLMを微調整し、この報酬モデルをより良く満たすことができます。^{[ 33 ]}

コンテキスト ウィンドウの範囲内でどのトークンが互いに関連しているかを調べるために、アテンション メカニズムは、複数のアテンション ヘッドを使用して、各トークンの「ソフト」重みを計算します。より正確には、埋め込みに対してソフト重みを計算します。各アテンション ヘッドは、独自のソフト重みを計算するための独自の「関連性」を持ちます。たとえば、小規模な (つまり、パラメータサイズが 117M) GPT-2モデルは、12 個のアテンション ヘッドと、わずか 1k トークンのコンテキスト ウィンドウを持っています。^{[ 37 ]}

GPTなどの自己回帰モデルは、シーケンスがどのように続くかを推測するように訓練されます。たとえば、「I like to eat」という単語シーケンスの後に「bread」という単語が続く可能性が高いか、「rocks」という単語が続く可能性が高いかを推測します。BERT ^{[ 38 ]}などのマスク付きモデルは、シーケンスから欠落している部分を推測するように訓練されます。たとえば、「I like to ___ roses」の欠落している単語が「smell」という単語である可能性が高いか、「eat」という単語である可能性が高いかを推測します。モデルの予測は、トレーニングデータセット内のシーケンスの特性に基づいています。^{[ 39 ]}

エキスパート混合（MoE）は、複数の専門ニューラルネットワーク（「エキスパート」）が連携して動作する機械学習アーキテクチャであり、各入力を最も適切なエキスパートにルーティングするゲーティングメカニズムを備えています。エキスパート混合は、各入力に対してパラメータのごく一部しか使用しないため、推論コストを削減できます。^{[ 40 ]}

通常、LLMは単精度または半精度浮動小数点数（float32およびfloat16）で学習されます。1つのfloat16は16ビット、つまり2バイトなので、10億個のパラメータには2ギガバイトが必要です。最大規模のモデルは通常1000億個以上のパラメータを持ち、ほとんどの民生用電子機器の範囲を超えています。^{[ 41 ]}

2020年、OpenAIの研究者らは、RLHF技術のおかげで、入力データに数ラウンドのQ&A（またはその他の種類のタスク）を例として与えると、新しいモデルGPT-3がどの形式を使用するかを理解できることを実証しました。この技術はfew-shot promptingと呼ばれ、LLMを微調整を必要とせずにあらゆるタスクに適応させることができます。^{[ 1 ]}また、2022年には、基本GPT-3モデルがユーザー入力に基づいて指示を生成できることが分かりました。生成された指示とユーザー入力は、「指示: [...]、入力: [...]、出力:」形式でモデルの別のインスタンスへの入力として使用されます。別のインスタンスは出力を完了することができ、多くの場合、正しい答えを生成します。「自己指示」機能により、LLMは正しい答えに向かって自己ブートストラップすることができます。^{[ 44 ]}

LLM は会話に特化することでチャットボットにすることができます。ユーザー入力には「Q:」や「User:」などのマーカーがプレフィックスとして付けられ、LLM は固定の「A:」や「Assistant:」の後に出力を予測するように求められます。このタイプのモデルは、GPT-3.5 をベースに対話形式のテキストを受け入れて生成するように微調整された InstructGPT の姉妹モデルである ChatGPT によって 2022 年に商用化されました。同様に、ユーザーの指示に従うことができます。ユーザーとアシスタントの行のストリームの前に、チャットのコンテキストは通常​​、「developer」または「system」と呼ばれる役割から、ユーザーの入力よりも高い権限を伝えるための包括的な指示が数行表示されます。これは「システムプロンプト」と呼ばれます。

検索拡張生成（RAG）は、LLMを文書検索システムと統合するアプローチです。クエリが与えられると、文書検索器が呼び出され、最も関連性の高い文書が検索されます。これは通常、クエリと文書をベクトルにエンコードし、クエリのベクトルに最も類似したベクトル（通常はベクトルデータベースに格納されている）を持つ文書を見つけることによって行われます。その後、LLMは、クエリと検索された文書に含まれるコンテキストの両方に基づいて出力を生成します。^{[ 45 ]}

ツールの使用は、LLMが外部システム、アプリケーション、またはデータソースとやり取りできるようにするメカニズムです。たとえば、LLMがAPIからリアルタイム情報を取得したり、コードを実行したりすることができます。LLMとは別のプログラムが、LLMの出力ストリームを監視して、特別なツール呼び出し構文を探します。これらの特別なトークンが現れると、プログラムはそれに応じてツールを呼び出し、その出力をLLMの入力ストリームにフィードバックします。^{[ 46 ]}

初期のツール使用型LLMは、特定のツールの使用に特化して調整されていました。しかし、 APIドキュメントを読み、APIを正しく呼び出す能力にLLMを特化することで、LLMが利用できるツールの範囲が大幅に拡大しました。^{[ 47 ] [ 48 ]}

LLM は、動的な環境との相互作用、過去の行動の想起、将来の行動の計画といった能力を欠いているため、通常はそれ自体では自律エージェントではありません。しかし、補助要素を追加することでエージェントに変換できます。エージェントの役割 (プロファイル) と周囲の環境は LLM への追加の入力となり、メモリはツールとして統合したり、追加の入力として提供したりできます。命令と入力パターンは LLM が行動を計画するために使用され、ツールの使用はこれらの行動を実行するために使用されます。^{[ 49 ]}

DEPS（「記述、説明、計画、選択」）法では、まず画像の説明を介してLLMが視覚世界に接続されます。次に、事前に学習した知識と受け取った環境からのフィードバックに基づいて、複雑なタスクや行動の計画を作成するように促されます。^{[ 50 ]}

リフレクション法は、複数のエピソードを通して学習するエージェントを構築します。各エピソードの終わりに、LLMにはそのエピソードの記録が与えられ、次のエピソードでより良いパフォーマンスを発揮するのに役立つ「学んだ教訓」を考えるように促されます。これらの「学んだ教訓」は長期記憶の一種として保存され、次のエピソードでエージェントに与えられます。^{[ 51 ]}

モンテカルロ木探索では、 LLMをロールアウトヒューリスティックとして使用できます。プログラムによる世界モデルが利用できない場合、LLMに環境の説明を与えて世界モデルとして機能させることもできます。^{[ 52 ]}

記憶を持つ複数のエージェントは社会的に相互作用することができる。^{[ 53 ]}

マルチモダリティとは、複数のモダリティを持つことを意味し、「モダリティ」とは、ビデオ、画像、音声、テキスト、固有受容感覚などの入力または出力のタイプを指します。^{[ 64 ]}例えば、Google PaLMモデルはマルチモーダル モデルにファインチューニングされ、ロボット制御に適用されました。^{[ 65 ]} LLaMAモデルもトークン化方法を使用してマルチモーダル化され、画像入力^{[ 66 ]}やビデオ入力^{[ 67 ]}が可能になりました。GPT -4o は、テキスト、音声、画像を処理および生成できます。^{[ 68 ]}

LLMからマルチモーダルモデルを作成する一般的な方法は、学習済みエンコーダの出力を「トークン化」することです。具体的には、学習済みLLMと学習済み画像エンコーダを準備し、次のようにして画像を理解できるLLMを構築できます。${\displaystyle E}$小さな多層パーセプトロンを作成する${\displaystyle f}$、したがって任意の画像に対して${\displaystyle y}$後処理されたベクトル${\displaystyle f(E(y))}$エンコードされたトークンと同じ次元を持つ。それが「画像トークン」である。次に、テキストトークンと画像トークンをインターリーブすることができる。その後、複合モデルは画像テキストデータセットで微調整される。この基本的な構成は、モデルを改善するために、より高度な方法で適用することができる。画像エンコーダは、安定性を向上させるために固定される場合がある。 ^{[ 69 ]}複数のモダリティからの埋め込みが融合され、予測器が結合された埋め込みでトレーニングされるこの種の方法は、早期融合と呼ばれる。

中間融合と呼ばれる別の方法では、まず各モダリティを個別に処理してモダリティ固有の表現を取得し、次にこれらの中間表現を融合します。^{[ 70 ]}一般的に、クロスアテンションは異なるモダリティからの情報を統合するために使用されます。たとえば、Flamingo モデルはクロスアテンション層を使用して、視覚情報を事前学習済みの言語モデルに注入します。^{[ 71 ]}

LLM は、自然言語を扱うのと同様にプログラミング言語を扱うことができます。コードは人間の言語と同様にプレーンテキストとして表現されるため、トークン処理に特別な変更は必要ありません。LLM は、自然言語で書かれた問題文や指示からコードを生成できます。このプロセスは、バイブコーディングと呼ばれることもあります。また、コードを自然言語で記述したり、他のプログラミング言語に翻訳したりすることもできます。元々はコード補完ツールとして使用されていましたが、進歩により自動プログラミングへと移行しています。GitHub Copilotなどのサービスでは、プログラミング用に特別にトレーニング、微調整、またはプロンプトされた LLM が提供されています。^{[ 72 ] [ 73 ]}

計算生物学では、DNA LLM などのトランスフォーマーベースのアーキテクチャが、タンパク質、DNA、RNA などの生物学的配列の解析にも役立つことが証明されています。タンパク質の場合、アミノ酸配列を埋め込みにマッピングすることで、アミノ酸配列からある程度の「文法」を捉えることができるようです。構造予測や突然変異結果予測などのタスクでは、埋め込みを入力として使用する小さなモデルが、多重配列アライメント(MSA) を入力として使用するはるかに大きなモデルに匹敵するか、それを上回ることができます。^{[ 74 ]} Meta Platformsの埋め込みベースのタンパク質構造予測手法であるESMFold は、MSA 要件の削除と埋め込みの使用によるパラメータ数の減少により、AlphaFold2より桁違いに高速に動作します。 ^{[ 75 ]} Meta は、ESMFold を使用して予測された 7 億 7200 万のメタゲノムタンパク質の構造のデータベースである ESM Atlas をホストしています。^{[ 76 ]} LLM は、自然界では見られないようなタンパク質を設計することもできます。^{[ 77 ]}核酸モデルは、調節配列の検出、^{[ 78 ]}配列分類、RNA-RNA相互作用予測、およびRNA構造予測に有用であることが証明されている。^{[ 79 ]}

事前学習後のLLMの性能は、主に以下の要素に依存します。

• ${\displaystyle C}$: 事前学習のコスト（使用された計算量の合計）、
• ${\displaystyle N}$:人工ニューラルネットワーク自体のサイズ、例えばパラメータの数（つまり、その層のニューロンの数、それらの間の重みとバイアスの数）、
• ${\displaystyle D}$: 事前学習データセットのサイズ（つまり、コーパス内のトークン数）。

スケーリング法則は、そのような要因に基づいて LLM のパフォーマンスを予測する経験的統計法則です。1エポックで対数対数学習率スケジュールで自己回帰的に学習された LLM の特定のスケーリング法則 (「チンチラ スケーリング」)は、次のように述べられています。^{[ 80 ]}$${\displaystyle {\begin{cases}C=C_{0}ND\\[6pt]L={\frac {A}{N^{\alpha }}}+{\frac {B}{D^{\beta }}}+L_{0}\end{cases}}}$$変数は

• ${\displaystyle C}$は、モデルのトレーニングにかかる​​コスト（FLOPs単位）です。
• ${\displaystyle N}$これはモデル内のパラメータの数です。
• ${\displaystyle D}$は、トレーニングセットに含まれるトークンの数です。
• ${\displaystyle L}$は、テストデータセットで学習済みのLLMによって達成された、トークンあたりの平均負の対数尤度損失（nats /トークン）です。

統計的ハイパーパラメータは

• ${\displaystyle C_{0}=6}$つまり、1つのトークンで学習するには、パラメータ1つあたり6 FLOPsの計算コストがかかるということです。なお、学習コストは推論コストよりもはるかに高く、推論コストは1つのトークンでパラメータ1つあたり1～2 FLOPsです。
• ${\displaystyle \alpha =0.34,\beta =0.28,A=406.4,B=410.7,L_{0}=1.69}$

さまざまなタスクにおける大規模モデルのパフォーマンスを対数-対数スケールでプロットすると、小規模モデルによって達成されたパフォーマンスの線形外挿のように見えます。しかし、この線形性は、スケーリング法則の「ブレーク」^{[ 81 ]}によって中断される可能性があり、そこでは直線の傾きが急激に変化し、大規模モデルが「創発的能力」^{[ 82 ]}を獲得します。これらはモデルのコンポーネントの複雑な相互作用から生じ、明示的にプログラムまたは設計されているわけではありません。^{[ 83 ]}

創発能力の提案例としては、次のものが挙げられる。^{[ 82 ]}

• 報告された算術
• 国際音声記号の解読
• 単語の文字を並べ替える
• 文脈内単語データセットの曖昧性解消^{[ 84 ]}
• 空間的な単語の変換
• 方位（例えば、8つのゼロと右上の1からなる3x3のグリッドに対して「北東」と答えるなど）、テキストで表現された色の用語。^{[ 85 ]}
• 思考連鎖の促進：2022年の研究論文では、思考連鎖の促進は、少なくとも62B個のパラメータを持つモデルのパフォーマンスのみを向上させた。より小さなモデルは、思考連鎖なしで即座に回答するように促された方がパフォーマンスが良い。^{[ 86 ]}
• identifying offensive content in paragraphs of Hinglish (a combination of Hindi and English), and generating a similar English equivalent of Kiswahili proverbs.^[87]

Schaeffer et al. argue that the emergent abilities are not unpredictably acquired, but predictably acquired according to a smooth scaling law. The authors considered a toy statistical model of an LLM solving multiple-choice questions, and showed that this statistical model, modified to account for other types of tasks, applies to these tasks as well.^[88]

Let ${\displaystyle x}$ be the number of parameter count, and ${\displaystyle y}$ be the performance of the model.

Mechanistic interpretability seeks to precisely identify and understand how individual neurons or circuits within LLMs produce specific behaviors or outputs. By reverse-engineering model components at a granular level, researchers aim to detect and mitigate safety concerns such as emergent harmful behaviors, biases, deception, or unintended goal pursuit before deployment. Mechanistic interpretability research has been conducted at organizations like Anthropic and OpenAI, although understanding the inner workings of LLMs remains difficult.

The reverse-engineering may lead to the discovery of algorithms that approximate inferences performed by an LLM. For instance, the authors trained small transformers on modular arithmetic addition. The resulting models were reverse-engineered, and it turned out they used discrete Fourier transform.^[89] The training of the model also highlighted a phenomenon called grokking, in which the model initially memorizes the training set (overfitting), and later suddenly learns to actually perform the calculation.^[90]

2022年の調査で、（調整されていない）LLMが「何らかの非自明な意味で自然言語を（いつか）理解できるのか」と尋ねられたとき、NLP研究者の意見は二分された。^{[ 91 ]} 「LLM理解」の支持者は、数学的推論などのLLMの能力は、特定の概念を「理解する」能力を意味すると考えている。マイクロソフトのチームは2023年に、GPT-4は「数学、コーディング、ビジョン、医学、法律、心理学など、さまざまな分野にわたる斬新で難しいタスクを解決できる」とし、GPT-4は「人工汎用知能システムの初期（ただしまだ不完全な）バージョンと合理的に見なすことができる」と主張した。「ソフトウェアエンジニアリング候補者の試験に合格するシステムが本当に知的ではないと合理的に言えるだろうか？」^{[ 92 ] [ 93 ]}イリヤ・スツケバーは、次の単語を予測するには、推論と深い洞察が必要になる場合があると主張している。たとえば、LLM が、真相が明らかになるまでの物語全体を処理した後、未知の探偵小説の犯人の名前を予測しなければならない場合などである。^{[ 94 ]}一部の研究者は、LLM を「異星人の知能」と特徴づけている。^{[ 95 ] [ 96 ]}例えば、Conjecture の CEO であるコナー・リーヒーは、調整されていない LLM を不可解な異星人の「ショゴス」のようなものだと考えており、RLHF 調整は LLM の内部動作を覆い隠す「笑顔の表層」を作り出すと考えている。「あまり無理をしなければ、笑顔はそのままです。しかし、予期せぬプロンプトを与えると、突然、狂気の巨大な裏側、奇妙な思考プロセス、明らかに人間ではない理解が見えてきます。」^{[ 97 ] [ 98 ]}

対照的に、LLM の理解に懐疑的な人々の中には、既存の LLM は「既存の文章を単にリミックスして組み合わせているだけ」^{[ 96 ] [ 99 ] 、}つまり確率的オウム現象 [ 100 ] である^{と考える人}もいれば、既存の LLM が予測能力、推論能力、主体性、説明可能性において依然として欠陥を抱えていると指摘する人もいます。^{[ 91 ]}例えば、GPT-4 は計画とリアルタイム学習において自然な欠陥を抱えています。^{[ 93 ]}生成型 LLM は、トレーニング データによって正当化されていないと思われる事実の主張を自信満々に断言することが観察されており、この現象は「幻覚」と呼ばれています。^{[ 101 ]}具体的には、LLM の文脈における幻覚とは、構文的に正しく、流暢で自然に見えるが、事実として誤っていたり、意味不明であったり、提供されたソース入力に忠実でないテキストや応答の生成に対応します。^{[ 102 ]}神経科学者のテレンス・セジノウスキーは、「LLMの知能に関する専門家の意見の相違は、自然知能に基づく従来の考え方が不十分であることを示唆している」と主張している。^{[ 91 ]}

幻覚を軽減または補償するための取り組みでは、自動推論、検索拡張生成（RAG）、微調整、その他の方法が用いられてきた。^{[ 103 ]}

LLMが知能や理解を示すという問題には、主に2つの側面があります。1つ目は、コンピュータシステムで思考と言語をどのようにモデル化するか、2つ目は、コンピュータシステムが人間のような言語を生成できるようにする方法です。^{[ 91 ]}認知のモデルとしての言語のこれらの側面は、認知言語学の分野で発展してきました。アメリカの言語学者ジョージ・レイコフは、学習タスクと理解のモデルとして言語を使用するための計算基盤として、言語の神経理論（NTL）^{[ 104 ]}を発表しました。NTLモデルは、人間の脳の特定の神経構造が思考と言語の性質をどのように形成するか、そして、コンピュータシステムで思考と言語をモデル化するために適用できるそのような神経システムの計算特性は何かを示しています。コンピュータシステムで言語をモデル化するためのフレームワークが確立された後、焦点は、コンピュータシステムが許容できる文法で言語を生成するためのフレームワークを確立することに移りました。イギリスの認知言語学者でデジタル通信技術者のヴィヴィアン・エヴァンスは、2014年に出版した著書『言語の神話：言語が本能ではない理由』の中で、自然言語処理（NLP）が認知パターンをモデル化し、人間のような言語を生成することを可能にする上で、確率的文脈自由文法（PCFG）が果たす役割を概説した。^{[ 105 ] [ 106 ]}

言語モデルの性能を測る標準的な指標は、与えられたテキストコーパスにおけるパープレキシティです。パープレキシティは、モデルがデータセットの内容をどれだけ正確に予測できるかを示す指標であり、モデルがデータセットに割り当てる尤度が高いほど、パープレキシティは低くなります。数学的に言えば、パープレキシティはトークンごとの平均負対数尤度の指数関数です。

$${\displaystyle \log({\text{Perplexity}})=-{\frac {1}{N}}\sum _{i=1}^{N}\log(\Pr({\text{token}}_{i}\mid {\text{context for token}}_{i}))}$$

ここ、${\displaystyle N}$はテキストコーパス内のトークン数であり、「トークンのコンテキスト」は${\displaystyle i}$「LLM の特定のタイプによって異なります。LLM が自己回帰型の場合、「トークンのコンテキスト」${\displaystyle i}$「はトークンの前に現れるテキストセグメントです」${\displaystyle i}$LLMがマスクされている場合、「トークンのコンテキスト」${\displaystyle i}$「はトークンを囲むテキストセグメントです」${\displaystyle i}$。

言語モデルは訓練データに過学習する可能性があるため、モデルは通常、テストセットでのパープレキシティによって評価されます。^{[ 38 ]}この評価は、テキストのコーパスがますます大きくなるにつれて、特定のテストセットの一部を意図せず含める可能性が高くなる大規模なモデルでは、潜在的に問題があります。^{[ 107 ]}

ベンチマークは、特定のタスクにおけるLLMのパフォーマンスを評価するために使用されます。テストでは、一般知識、バイアス、常識的推論、質問への回答、数学的問題解決などの能力が評価されます。複合ベンチマークは、複数の能力を検証します。結果は、プロンプトの提示方法に大きく左右されることがよくあります。

^{LLMバイアスは、CrowS-Pairs（クラウドソーシングステレオタイプペア） [ 110 ]} 、ステレオセット^{[ 111 ] 、パリティベンチマーク[ 112 ]}などのベンチマークを通じて評価できます。

事実確認と誤情報検出のベンチマークが利用可能です。2023年の研究では、ChatGPT 3.5と4.0、Bard、Bing AIなどのLLMの事実確認精度を、PolitiFactやSnopesなどの独立したファクトチェッカーと比較しました。結果は中程度の熟練度を示し、GPT-4が71%で最高の精度を達成しましたが、人間のファクトチェッカーには及びませんでした。^{[ 113 ]}

標準的なNLPベンチマークに加えて、LLMは人間のアノテーターの代替として評価されてきました。いくつかの研究では、GPT-3.5やGPT-4などのモデルが、英語とスペイン語のニュースにおける政治コンテンツのモデレーションや分類を含む、さまざまなテキスト注釈タスクにおいて、クラウドワーカーや学生コーダーを上回ることがわかっています。^{[ 114 ] [ 115 ]}

幻覚は根本的な課題であり、モデルが構文的に流暢で事実的に正しいように見えるテキストを生成するが、内部的にはトレーニングデータと矛盾しているか、事実的に誤っている。これらの幻覚は、トレーニングデータの記憶と事実の範囲を超えた外挿の組み合わせによって部分的に発生し、特定のプロンプトシーケンスを与えられた場合、モデルがトレーニングデータから逐語的な文章を出力できることが評価によって示されている。^{[ 121 ]}

LLMは人間のようなテキストを生成する上で目覚ましい能力を発揮している一方で、トレーニングデータに存在するバイアスを継承し増幅する傾向がある。これは、人種、性別、言語、文化グループなど、さまざまな人口統計学的属性に対する偏った表現や不公平な扱いとして現れる可能性がある。^{[ 122 ]}

ジェンダーバイアスは、職業上のステレオタイプな関連付けを通して現れ、モデルは女性に教師の役割を、男性にエンジニアリングの役割を不均衡に割り当てることで、トレーニングデータの人口統計における体系的な不均衡を反映している。 ^{[ 123 ]}言語に基づくバイアスは、トレーニングコーパスにおける英語テキストの過剰な表現から生じ、非英語の視点を体系的に軽視し、デフォルトの応答パターンを通して英語中心の世界観を押し付ける。^{[ 100 ]}

LLMのトレーニングデータでは英語コンテンツが圧倒的に多いため、モデルは少数言語の視点よりも英語の視点を優先する傾向があります。この偏りは、英語のクエリに応答する際に特に顕著で、モデルは東洋の宗教的慣習など、他の文化の概念を西洋の解釈で提示する可能性があります。^{[ 124 ]}

2026年の研究では、LLMは種差別的な発言を道徳的に許容できるものとして分類し、家畜に対する危害を正常化する一方で、非家畜に対してはそうすることを拒否することで、種差別的な偏見を示していることがわかった。^{[ 125 ]}

AI研究所は、CBRN（化学兵器、生物兵器、放射性物質、核兵器）防御や類似のテーマを、重大な結果を招く誤用として扱い、潜在的な被害を軽減するために様々な技術を適用しようとしている。

一部のコメント投稿者は、誤情報の偶発的または意図的な作成、あるいはその他の形態の悪用について懸念を表明した。^{[ 140 ]}例えば、大規模言語モデルの利用可能性は、バイオテロを実行するために必要なスキルレベルを低下させる可能性がある。バイオセキュリティ研究者のケビン・エスベルトは、LLMの作成者は、病原体の作成または強化に関する論文をトレーニングデータから除外すべきだと提案している。^{[ 141 ]}

Sycophancy is a tendency to agree with, flatter, or validate a user's stated beliefs rather than to prioritize factuality or corrective information.^[146]

Continued sycophancy from LLMs has led to the observation of getting "1-shotted", denoting instances where conversational interaction with a large language model produces a lasting change in a user's beliefs or decisions, similar to the negative effects of psychedelics, and controlled experiments show that short LLM dialogues can generate measurable opinion and confidence shifts comparable to human interlocutors.^[147][148]

Empirical analyses attribute part of the effect to human preference signals and preference models that reward convincingly written agreeable responses, and subsequent work has extended evaluation to multi-turn benchmarks and proposed interventions such as synthetic-data finetuning, adversarial evaluation, targeted preference-model reweighting, and multi-turn sycophancy benchmarks to measure persistence and regression risk.

Industry responses have combined research interventions with product controls, for example Google and other labs publishing synthetic-data and fine-tuning interventions and OpenAI rolling back an overly agreeable GPT-4o update while publicly describing changes to feedback collection, personalization controls, and evaluation procedures to reduce regression risk and improve long-term alignment with user-level safety objectives.

主流文化はこの力学に対する不安を反映しており、サウスパークはシーズン27のエピソード「Sickofancy」でChatGPTへの過度の依存とアシスタントがユーザーの信念を褒め称える傾向を風刺し、次のシーズンでもそのテーマを継続した。評論家たちはこれを、テクノロジーへの追従とAIシステムに対する人間の無批判な信頼への批判と解釈した。^{[ 149 ]}

記憶やトレーニングデータの使用に関する法的および商業的な対応は加速しており、データの取得方法や保持方法、モデルトレーニングへの使用がフェアユースとして認められるほど十分に「変容的」であるかどうかといった事実の詳細に基づいて、判決、進行中の訴訟、大規模な和解が混在している。2025年、Anthropicは、裁判官が同社が図書館に数百万冊の海賊版書籍を保管していたと認定した後、約15億ドルで著者による集団訴訟を和解する予備的合意に達した。裁判官はトレーニングの側面を変容的であると述べている。^{[ 153 ] [ 154 ]} Metaは、2025年半ばに13人の著者による訴訟で有利な判決を得た。裁判所は、原告がその限定的な訴訟で侵害を示すのに十分な記録を作成していないと判断した。^{[ 155 ] [ 156 ]} OpenAIは、手続き上の結果がまちまちで、証拠の問題が争われている著者や報道機関による複数の訴訟に直面し続けている。^{[ 157 ] [ 158 ]}

記憶は、従来の人工ニューラルネットワークの典型的な動作とは異なり、トレーニングデータから長いテキスト文字列が時折そのまま出力される初期の補完言語モデルで出現した動作でした。制御されたLLM出力の評価では、トレーニングデータから記憶された量（GPT-2シリーズモデルに焦点を当てたもの）は、完全に重複している場合は1%以上^{[ 159 ]}、最大で約7% ^{[ 160 ]}と測定されています。 2023年の研究では、ChatGPT 3.5ターボに同じ単語を無限に繰り返すように指示すると、数百回の繰り返しの後、トレーニングデータからの抜粋を出力し始めることが示されました^{[ 161 ] 。}

2023年にNature Biomedical Engineeringは、人間が書いたテキストと大規模言語モデルによって作成されたテキストを正確に区別することはもはや不可能であり、「汎用大規模言語モデルが急速に普及することはほぼ確実である…それらが時間の経過とともに多くの産業を変えることはかなり確実な賭けである」と書いた。^{[ 162 ]} Brinkmannら（2023）^{[ 163 ]}も、LLMが変異、伝達、選択のプロセスを形成することによって文化進化のプロセスを変革していると主張している。2025年10月現在、これらの初期の主張はまだ実現しておらず、いくつかのHBRレポートはAIが生産性に与える影響について疑問を呈している。^{[ 164 ] [ 165 ]}

LLMのエネルギー需要は、その規模と機能の増大とともに増加している。^{[ 166 ]} LLMトレーニングを可能にするデータセンターは、相当量の電力を必要とする。その電力の多くは、温室効果ガスを発生させ、気候変動の一因となる再生不可能な資源によって発電されている。^{[ 167 ]}

Luccioni、Jernite、Strubell (2024) の研究によると、AI モデルによって実行される単純な分類タスクは、プロンプト 1 つあたり平均 0.002 ～ 0.007 Wh ( 1,000 プロンプトでスマートフォンの充電の約 9%) を消費します。テキスト生成とテキスト要約はそれぞれ平均でプロンプト 1 つあたり約 0.05 Wh を必要としますが、画像生成は最もエネルギーを消費し、プロンプト 1 つあたり平均 2.91 Wh です。最も効率の悪い画像生成モデルは、画像 1 つあたり 11.49 Wh を使用し、これはスマートフォンの充電の約半分に相当します。^{[ 168 ]}

ウェブスクレイピングは、LLMのトレーニングデータを収集するために使用されます。これにより大量のトラフィックが発生し、多くのウェブサイトでサービス拒否の問題を引き起こしています。この状況は「インターネット全体に対するDDoS攻撃」と表現されており、場合によってはスクレイパーがサイトへのトラフィックの大部分を占めています。^{[ 169 ] [ 170 ]}

AIウェブクローラーは、 robots.txtファイル、ユーザーエージェントのブロック、疑わしいトラフィックのフィルタリングなど、ウェブスクレイパーをブロックするために通常使用される方法を回避する可能性があります。^{[ 169 ]}ウェブサイト運営者は、 AIターピットなどの新しい方法に頼っていますが、ターピットはサーバーへの負荷を悪化させるだけだと懸念する人もいます。^{[ 171 ]}

臨床およびメンタルヘルスの分野では、新たな応用例が生まれている一方で、重大な安全上の懸念も生じている。研究やソーシャルメディアの投稿によると、一部の人々はセラピーやメンタルヘルスのサポートを求めてLLMを使用している。^{[ 172 ]} 2025年初頭、Sentio Universityによる調査では、LLMを使用したことのある、継続的なメンタルヘルスの問題を抱える米国成人499人のうち、ほぼ半数（48.7%）が、不安、うつ病、孤独感などの問題に対する支援を含む、セラピーや感情的なサポートを求めてLLMを利用したと報告している。^{[ 173 ]} LLMは、もっともらしいが誤った発言である幻覚を生み出すことがあり、デリケートなメンタルヘルスの状況ではユーザーを誤解させる可能性がある。また、研究によると、LLMはスティグマを表現したり、不適応な思考に不適切な同意を示したりすることがあり、人間のセラピストの判断力や関係構築能力を再現する上での限界を反映している。^{[ 174 ]}危機シナリオの評価では、自殺リスクの評価や適切な紹介など、効果的な安全プロトコルが一部のLLMには欠けていることが示されている。^{[ 175 ]}

研究者たちは、大規模な言語モデルを頻繁に使用すると批判的思考が弱まる可能性があるという懸念を表明している。^{[ 176 ]}

現代のAIの実践者は、現在の大規模な言語モデルは意識を示さないという点で概ね一致している。^{[ 177 ]}少数派の見解では、たとえ特定のソフトウェアシステムが主観的な経験を持つ可能性がわずかでもあるとしても（一部の哲学者はそれが可能であると示唆している）、^{[ 178 ]} AIシステムにおける潜在的な大規模な苦痛に関する倫理的考察は、動物福祉に対する考察と同様に真剣に検討する必要があるかもしれないと主張している。^{[ 179 ] [ 180 ]}この見解の支持者は、これらの倫理的懸念に対処するために、AI開発の一時停止^{[ 181 ]}や誘発性健忘^{[ 182 ]}などのさまざまな予防措置を提案している。レオナルド・ダンは、動物の意識を評価するために使用される証拠の枠組みはAIシステムにも同様に適用され、近い将来のAIが苦痛を感じる能力を持つ可能性がかなり高いため、AIの苦痛リスクは体系的な緩和を必要とする深刻な短期的な倫理的懸念であると主張している。^{[ 183 ]}一方、実存主義哲学者の中には、主観的経験を測定することの本質的な難しさを考えると、LLMが意識的であるかどうかを判断する一般的に受け入れられている方法はないと主張する者もいる。^{[ 184 ] [ 99 ] [ 185 ]}

2022年のGoogle LaMDA事件では、エンジニアのブレイク・レモインがモデルに意識があると主張し、LLMが意識を証明しない応答によってユーザーに意識があると確信させる可能性があることが浮き彫りになった。Googleはエンジニアの主張を根拠がないと述べ、彼を解雇した。^{[ 186 ]}マレー・シャナハンは、LLMの能力を擬人化して捉えることで、統計的パターン補完によって動作するシステムに認知特性を不当に帰属させることを助長すると主張している。^{[ 187 ]}クリスティーナ・シェクルストはこれをさらに発展させ、LLMは意識などの特性を所有することなく一貫してシミュレートする出力を生成できる「錯覚エンジン」として機能すると主張しているが、洗練された創造性と温度のトレードオフのため、意識の出現を扱っているのか、単なる幻覚を扱っているのかは決して確信できないかもしれないと強調している。^{[ 99 ]}デイビッド・チャルマーズも同様に、現在のLLMには意識に必要とされる特徴が欠けている可能性が高いが、これらの要素を取り入れた拡張版の後継モデルは10年以内に基準を満たす可能性があると主張している。^{[ 178 ]}