ディープシーク

2015年6月、High-Flyerは、浙江大学に通いながら2008年の金融危機以来取引を行っていたAI愛好家の梁文峰氏によって共同設立された。^{[ 25 ]}同社は2016年10月21日にGPU依存の深層学習モデルを使用して株式取引を開始した。それ以前はCPUベースの線形モデルを使用していた。2017年末までに、取引の大部分はAIによって行われるようになった。^{[ 26 ]}

2023年4月14日、^{[ 33 ]} High-Flyerは、同社の金融事業とは無関係なAIツールの開発に重点を置く新しい汎用人工知能（AGI）研究ラボの設立を発表した。 ^{[ 34 ] [ 35 ]} 2か月後の2023年7月17日、^{[ 1 ]}そのラボは独立した会社としてスピンオフされた。そのラボはDeepSeekと名付けられ、High-Flyerが主要投資家および支援者となった。^{[ 28 ] [ 35 ] [ 36 ]}当初、ベンチャーキャピタル投資家は、ベンチャーがすぐに出口（投資の所有権）を生み出すことは難しいと考え、資金提供に消極的だった。 ^{[ 28 ]}

DeepSeekは、研究に注力しており、当面は商業化の計画はないと述べている。^{[ 41 ]}この姿勢は、消費者向け技術を対象とした中国のAI規制の特定の条項を回避できることを意味する。^{[ 12 ]}

DeepSeekの採用方針は、長い職務経験よりもスキルを重視しており、その結果、大学を卒業したばかりの人材が多く採用されている。^{[ 12 ] [ 35 ]}同社は同様に、コンピュータサイエンスのバックグラウンドを持たない人材も採用し、例えば詩や高度な数学な​​ど、モデルに組み込まれる専門知識の範囲を広げている。^{[ 12 ] [ 14 ]}ニューヨーク・タイムズによると、DeepSeekの研究者の数十人が、人民解放軍の研究所や国防七子と関係があった、または現在関係がある。^{[ 42 ]}

米国のチップ規制のため、DeepSeekは計算効率を最大化するためにアルゴリズムを継続的に改良し、古いハードウェアを活用し、エネルギー消費を削減してきた。^{[ 43 ]： 19}

DeepSeekは、より手頃な価格で電力消費の少ないAIソリューションを提供することで、アフリカ大陸でも事業を拡大しました。同社はアフリカの言語モデルを強化し、ナイロビなどで数多くのスタートアップを生み出しました。ファーウェイのストレージおよびクラウドコンピューティングサービスと相まって、サハラ以南アフリカのテクノロジーシーンへの影響は大きいものです。DeepSeekは、西洋のAIプラットフォームと比較して、ローカルなデータ主権とより高い柔軟性を提供します。^{[ 44 ]}

DeepSeekは2023年11月2日に最初のモデルであるDeepSeek Coderを発売した。DeepSeek-Coder V2シリーズはその後すぐに発売され、続いて2023年11月29日にDeepSeek-LLMシリーズが発売された。 ^{[ 48 ]：セクション5}

2024年1月、DeepSeekは2つのDeepSeek-MoEモデルをリリースした。^{[ 49 ]} 2024年4月3日には、3つのDeepSeek-Mathモデルをリリースした。^{[ 50 ]}

DeepSeek-V2は2024年5月にリリースされました。^{[ 51 ]} 2024年9月にはDeepSeek-V2.5が導入され、12月に改訂されました。^{[ 52 ]}

2025年12月、DeepSeek-V3-BaseとDeepSeek-V3（チャット）がリリースされました。^{[ 31 ]} 2025年3月24日、DeepSeekはMITライセンスの下でV3の改訂版であるDeepSeek-V3-0324をリリースしました。^{[ 53 ] [ 54 ]}

2025年8月21日、DeepSeekはMITライセンスの下でDeepSeek V3.1をリリースしました。^{[ 55 ]}このモデルは、思考モードと非思考モードを備えたハイブリッドアーキテクチャを特徴としています。また、SWE-benchやTerminal-benchなどの特定のベンチマークで、V3やR1などの以前のモデルを40%以上上回っています。^{[ 56 ]} 2025年9月22日にはV3.1-Terminusにアップデートされ、複数の言語アーティファクトが修正され、全体的なインテリジェンスが向上しました。^{[ 57 ]}

DeepSeek V3.2-Exp は 2025 年 9 月 29 日にリリースされました。これは、2 月に発表された以前の研究に基づく、より効率的な注意機構である DeepSeek Sparse Attention を使用しています。これは DeepSeek V3.1 Terminus をベースにしています。 ^{[ 58 ] [ 59 ]} DeepSeek-V3.2 は、推論に焦点を当てた DeepSeek-V3.2-Speciale バリアントとともに、2025 年 12 月 1 日にリリースされました。^{[ 60 ] [ 61 ]}

2024年11月20日、DeepSeek-R1-Liteのプレビューがチャットで利用可能になった。これは独自のモデルで、これまでAPIとWeb経由でのみリリースされていた。^{[ 62 ] [ 63 ]} 2025年1月20日、DeepSeekはiOSとAndroid向けに無料のDeepSeek-R1モデルをリリースした。1月27日までに、DeepSeekは米国iOS App Storeで最もダウンロードされたフリーウェアアプリとしてChatGPTを上回り、 ^{[ 14 ]} Nvidiaの株価が18%下落するきっかけとなった。^{[ 64 ] [ 65 ]}その後、DeepSeekは15億パラメータから700億パラメータまでのDeepSeek R1の複数の蒸留版をリリースした。^{[ 66 ]}

2025年5月28日、DeepSeekはMITライセンスの下でDeepSeek-R1-0528をリリースした。これはR1のマイナーアップデートである。また、特定のベンチマークでは、DeepSeek R1（1月）とDeepSeek V3-0324の両方を上回るスコアを記録した。^{[ 67 ]}

2026年4月24日、DeepSeekは、2840億パラメータのDeepSeek-V4-Flashと1.6兆パラメータのDeepSeek-V4-Proを含むV4シリーズのプレビュー版をリリースしました。どちらもMITライセンスの下で100万トークンのコンテキストウィンドウを備えています。 ^{[ 68 ] [ 69 ] [ 70 ]}コンテキストウィンドウは、AIモデルのコンテキストのトークン制限です。V4は、 HuaweiやCambricon Technologiesなどの半導体メーカーに採用されています。^{[ 71 ]}

^{最初の DeepSeek モデルは基本的に Llama [ 48 ]}と同じで、密なデコーダのみのトランスフォーマーでした。後のモデルでは、マルチヘッド潜在アテンション (MLA)、MoE、および KV キャッシングが組み込まれました。^{[ 49 ] [ 51 ]}

デコーダのみのトランスフォーマーは、複数の同一のデコーダ層で構成されています。これらの各層は、アテンション層とフィードフォワードネットワーク（FFN）層の 2 つの主要コンポーネントを備えています。^{[ 51 ]} V2 では、標準のマルチヘッドアテンションメカニズム（MHA）がマルチヘッド潜在アテンション（MLA）に置き換えられました。これにより、圧縮された潜在ベクトルが導入され、キー値（KV）キャッシュサイズが削減され、メモリ使用量が削減されます。^{[ 51 ]}

標準的な Mixture of Experts Transformer は、一般的にFFN レイヤーで疎にゲートされた MoEレイヤーを使用します。このような MoE レイヤーでは、複数の FFN モジュールが並列に (ルーティングされたエキスパート) あり、小さな分類器 (ゲート) が各トークンに対してこれらのモジュールすべてのスコアを計算します。最も高いスコアのモジュールのみがアクティブになります。DeepSeekMoE 以降、DeepSeek は常にアクティブになる共有エキスパートを追加するバリアントを採用しました。^{[ 49 ]}

DeepSeek Coder は 8 つのモデルから構成され、4 つの事前学習済みモデル ( Base) と 4 つの指示ファインチューニング済みモデル ( Instruct) があります。^{[ c ]} すべて 16K のコンテキスト長を持っています。^{[ 89 ]}このモデルは、オープンで責任ある下流での使用などの制限を含む DeepSeek ライセンスの下でオープンウェイトとして作成されました。^{[ 90 ]}

トレーニングプログラムは以下の通りでした：^{[ 91 ] [ 92 ] [ 93 ]}

1. 事前学習：1.8Tトークン（ソースコード87%、コード関連の英語（GitHubマークダウンとStack Exchange）10%、コードとは無関係な中国語3%）。
2. 長コンテキスト事前学習：2000億トークン。これにより、コンテキスト長が4Kから16Kに拡張されます。これによりBaseモデルが生成されました。
3. 教師ありファインチューニング（SFT）：20億トークンの命令データ。これによりInstructモデルが生成されました。

これらは、 InfiniBand、NVLink、NVSwitchで接続されたA100およびH800 Nvidia GPUのクラスター上でトレーニングされました。^{[ 91 ]}

DeepSeek-LLM シリーズは 2023 年 11 月にリリースされました。Base 形式と Chat 形式の両方で 7B と 67B のパラメータがあります。DeepSeek の付随する論文では、当時のLlama 2およびほとんどのオープンソース LLM よりも高いベンチマーク結果が主張されています。 ^{[ 48 ] :セクション 5}モデル コードはソースが利用可能な DeepSeek ライセンスの下にあります。^{[ 95 ]}

アーキテクチャは基本的にLlamaシリーズと同じだった。^{[ d ]}どちらも語彙サイズは102,400（バイトレベルBPE）で、コンテキスト長は4096だった。Common Crawl から重複排除して得られた2兆トークンの英語と中国語のテキストで学習した。^{[ 48 ]}

2 つの基本モデルのチャット バージョンは、教師ありファインチューニング (SFT) によるトレーニング ベースに続いて直接ポリシー最適化 (DPO) を行うことで同時にリリースされました。DPO は、人間のフィードバックからの強化学習としても知られています。^{[ 48 ]}

DeepSeek-MoE モデル (Base と Chat) はそれぞれ 16B 個のパラメータ (トークンごとに 2.7B 個のパラメータがアクティブ化され、コンテキストの長さは 4K) を持ちます。トレーニングは基本的に DeepSeek-LLM 7B と同じで、トレーニングデータセットの一部でトレーニングされました。DeepSeek は、7B の非 MoE で 16B MoE と同等のパフォーマンスを実現したと主張しています。これは、常にクエリされる共有エキスパートと、クエリされない可能性のあるルーティングエキスパートを備えた、標準的な疎ゲートMoEのバリアントです。同社は、エキスパートのバランス調整に役立つことを発見しました。標準 MoE では、一部のエキスパートが過剰に使用される一方で、他のエキスパートはほとんど使用されないため、スペースが無駄になります。エキスパートの使用をバランス調整しようとすると、エキスパートが同じ容量を複製することになります。彼らは、共有エキスパートが頻繁に使用されるコア容量を学習し、ルーティングエキスパートがほとんど使用されない周辺容量を学習することを提案しました。^{[ 49 ]}

DeepSeek-Mathには、Base、Instruct、RLの3つのモデルが含まれています。Mathは次のようにトレーニングされました。^{[ 50 ]}

1. 事前に学習済みのDeepSeek-Coder Base v1.5 7Bを使用して初期化します。
2. さらに、5000億トークン（DeepSeekMath Corpus 6%、AlgebraicStack 4%、arXiv 10%、GitHubコード 20%、Common Crawl 10%）で事前学習を行った。これによりBaseが生成された。
3. SFT Base を使用して、776K の数学問題とツール使用が統合されたステップバイステップのソリューションを使用して、指示に従うモデルをトレーニングします。これにより Instruct が生成されます。
4. 強化学習(RL) 報酬モデルは、Math-Shepherd 法に従って Base からトレーニングされたプロセス報酬モデル(PRM) でした。 ^{[ 96 ]}この報酬モデルは、 GSM8K と MATHに関連する 144K の数学の問題のデータセットでグループ相対ポリシー最適化(GRPO)を使用して Instruct をトレーニングするために使用されました。報酬ハッキングを避けるために、報酬モデルはトレーニング中に継続的に更新されました。これにより、RL が実現しました。

2024 年 5 月に、DeepSeek は DeepSeek-V2 シリーズをリリースしました。このシリーズには 4 つのモデルが含まれており、2 つの基本モデル (DeepSeek-V2、DeepSeek-V2 Lite) と 2 つのチャットボット (チャットバリアント) があります。2 つの大型モデルは次のようにトレーニングされました。^{[ 97 ]}

1. 8.1Tトークンのデータセットで事前学習を行い、英語トークンよりも中国語トークンを12%多く使用します。
2. YaRNを使用してコンテキスト長を4Kから128Kに拡張します。^{[ 98 ]}これによりDeepSeek-V2が実現しました。
3. SFTは、利便性に関するインスタンスが120万件、安全性に関するインスタンスが30万件という構成だった。その結果、Chat SFTが開発されたが、リリースには至らなかった。
4. GRPO を使用した RL を 2 段階で実行しました。第 1 段階では、数学とコーディングの問題を解決するようにトレーニングしました。この段階では、コンパイラのフィードバック (コーディング用) と正解ラベル (数学用) に基づいてトレーニングされた 1 つの報酬モデルを使用しました。第 2 段階では、役に立つこと、安全であること、ルールに従うことをトレーニングしました。この段階では、3 つの報酬モデルを使用しました。役に立つことと安全に関する報酬モデルは、人間の好みデータに基づいてトレーニングしました。ルールベースの報酬モデルは手動でプログラミングしました。トレーニングされたすべての報酬モデルは、Chat (SFT) から初期化されました。これが、Chat のリリース バージョンとなりました。

彼らは2段階強化学習を選択した。なぜなら、推論データに対する強化学習は、一般的なデータに対する強化学習とは異なる独自の特性を持っていることがわかったからである。例えば、推論データに対する強化学習は、より多くのトレーニングステップで改善する可能性がある。^{[ 97 ]}

2 つの V2-Lite モデルはより小さく、同様にトレーニングされました。DeepSeek-V2 Lite-Chat は SFT のみを受け、RL は受けませんでした。彼らは、MLA と DeepSeekMoE のさらなる研究開発を支援するために Lite バージョンをトレーニングしました。^{[ 97 ]}

アーキテクチャ的には、V2 モデルは DeepSeek LLM シリーズとは大きく異なっていた。標準的な注意機構をマルチヘッド潜在注意(MLA)と呼ばれる低ランク近似に変更し、以前に発表された MoE のバリアントを使用した。^{[ 49 ]}

フィナンシャル・タイムズ紙は、100万トークンあたり2人民元の価格で、同業他社よりも安価であると報じた。 ^{[ 36 ]}

DeepSeek-Coder V2 シリーズには、V2-Base、V2-Lite-Base、V2-Instruct、および V2-Lite-Instruct が含まれていました。トレーニング プロセス: ^{[ 51 ] [注 3 ]}

1. ベースモデルは、4.2Tトークンでの事前学習後（事前学習終了時のバージョンではない）、対応する中間チェックポイントから初期化され、その後6Tトークンでさらに事前学習され、コンテキスト長が128Kに拡張されました。
2. DeepSeek-CoderとDeepSeek-Mathを使用して、コード関連の命令データ2万件と数学関連の命令データ3万件を生成し、3億トークンの命令データセットと組み合わせました。これはSFTに使用されました。
3. GRPOを用いた強化学習。数学問題の報酬は、正解ラベルとの比較によって算出された。コード問題の報酬は、プログラムが単体テストに合格するかどうかを予測するように訓練された報酬モデルによって生成された。

DeepSeek-V2.5は、DeepSeek-V2-ChatとDeepSeek-Coder-V2-Instructを組み合わせることによって作成されました。^{[ 52 ]}

DeepSeek-V3-Base および DeepSeek-V3 (チャットバリアント) は、基本的に V2 と同じアーキテクチャを使用していますが、オプションで追加のトークンをより高速にデコードしますが、精度は低下します。トレーニングプロセス: ^{[ 31 ]}

1. 主に英語と中国語からなる14.8Tトークンの多言語コーパスで事前学習を行った。このデータセットは、V2の事前学習データセットよりも数学とプログラミングの比率が高かった。
2. YaRNを使用してコンテキストの長さを4Kから32K、そして128Kへと2回拡張します。^{[ 98 ]}これによりDeepSeek-V3-Baseが生成されました。
3. 推論データ（数学、プログラミング、論理）と非推論データ（創作、ロールプレイ、簡単な質問応答）の計150万サンプルに対し、2エポックのSFT（空間機能テスト）を実施した。推論データはエキスパートモデルによって生成され、非推論データはDeepSeek-V2.5によって生成され、人間によって検証された。
   • エキスパートモデルは、まず未指定の基本モデルから始め、次に<問題、元の応答>データと、内部のDeepSeek-R1-Liteモデルによって生成された合成<システムプロンプト、プロンプト、問題、R1応答>データの両方に対してSFT（空間関数変換）を行うことで学習されました。システムプロンプトは、R1に思考中に振り返り、検証するように求めました。その後、エキスパートモデルは、非公開の報酬関数を使用して強化学習されました。
   • 各エキスパートモデルは、特定の領域（数学、プログラミング、論理）における合成推論データのみを生成するように訓練された。
   • R1自体の出力は、考えすぎ、フォーマットの不備、長すぎるといった問題があったため、R1の代わりに専門家モデルが使用された。
4. モデルベースの報酬モデルは、SFTチェックポイントV3から開始し、最終報酬と最終報酬に至る思考過程の両方を含む人間の嗜好データに基づいて微調整することで作成されました。この報酬モデルは、客観的だが自由形式の回答が可能な質問と、客観的な回答が不可能な質問（創作文など）の両方に対して報酬シグナルを生成しました。
5. V3のSFTチェックポイントは、報酬モデルとルールベース報酬の両方を用いてGRPOによって学習された。ルールベース報酬は、最終的な答え（枠内に記入される）がある数学問題と、単体テストによって算出されるプログラミング問題に対して適用された。これによりDeepSeek-V3が生成された。

DeepSeekは、V3と同じアーキテクチャを使用したDeepSeek-V3-0324モデルをMITライセンスの下で2025年3月24日にリリースしました。^{[ 101 ]}

DeepSeek チームは、混合精度演算などの効率改善のための低レベル エンジニアリングを実施しました。順伝播の大部分は、標準の32 ビットではなく8 ビット浮動小数点数(5E2M: 5 ビット指数部と 2 ビット仮数部) で実行され、正確に累積するために特別なGEMMルーチンが必要でした。注意モジュール後の線形層への入力には、カスタム 12 ビット浮動小数点数 (E5M6) のみを使用しました。オプティマイザの状態は 16 ビット ( BF16 ) でした。計算と通信を広範囲にオーバーラップさせることで通信遅延を最小限に抑え、例えば H800 あたり 132 個のストリーミング マルチプロセッサのうち 20 個を GPU 間通信専用に割り当てました。各エキスパートが使用するマシンを (10 分ごとに) 再配置して特定のマシンへのクエリ頻度を他よりも少なくすることを避け、トレーニング損失関数に補助的な負荷分散損失を追加し、その他の負荷分散技術を使用することで通信を削減しました。^{[ 31 ]}

トレーニング後、H800 GPU のクラスタに展開されました。クラスタ内の 8 つの H800 GPU は NVLink で接続され、クラスタは InfiniBand で接続されました。^{[ 31 ]}

費用については議論があり、実際の費用の一部しかカバーしていないため誤解を招くと指摘されている。^{[ 103 ] [ 104 ] [ 105 ] [ 106 ]}

ベンチマークテストでは、V3 はLlama 3.1 とQwen 2.5 を上回り、GPT-4oとClaude 3.5 Sonnet と同等の性能を示した。^{[ 35 ] [ 107 ] [ 108 ] [ 109 ]}

2025年1月、DeepSeekはMITライセンスの下でDeepSeek-R1モデルをリリースした。^{[ 110 ]}

DeepSeek-R1-Lite-Preview ^{[ 62 ] [ 63 ] [注 4 ]}は、論理推論、数学的推論、およびリアルタイムの問題解決のためにトレーニングされました。DeepSeek は、American Invitational Mathematics Examination (AIME) や MATHなどのベンチマークでOpenAI o1のパフォーマンスを上回ったと主張しました。 ^{[ 111 ]}しかし、ウォール ストリート ジャーナルは、 2024 年版 AIME の 15 問で、o1 モデルの方がより速く解に到達したと報じました。^{[ 112 ]}

DeepSeek-R1とDeepSeek-R1-Zero ^{[ 66 ]}はDeepSeek-V3-Baseから初期化され、そのアーキテクチャを共有しています。DeepSeek-R1-Distillモデルは、LLaMAやQwenなどの他の事前学習済みオープンウェイトモデルから初期化され、その後R1によって生成された合成データでファインチューニングされました。^{[ 82 ]}

DeepSeek-R1-Zero は SFT を使用せずに GRPO RL のみを使用してトレーニングされました。以前のバージョンとは異なり、モデルベースの報酬は使用されていません。すべての報酬関数はルールベースであり、主に 2 つのタイプ (他のタイプは指定されていません) がありました。精度報酬とフォーマット報酬です。精度報酬は、ボックス内の回答が正しいかどうか (数学の場合) またはコードがテストに合格するかどうか (プログラミングの場合) をチェックします。フォーマット報酬は、モデルが思考のトレースを <think>...</think> タグ内に配置しているかどうかをチェックします。^{[ 82 ]}

R1-Zeroには読みやすさと言語の混在に関する問題があります。R1はこれらの問題に対処し、推論をさらに改善するように訓練されました。^{[ 82 ]}

1. SFT DeepSeek-V3-Baseは、標準フォーマットの数千のコールドスタート|special_token|<reasoning_process>|special_token|<summary>データに基づいており、モデル出力の可読性を向上させるように設計されています。
2. R1-Zeroと同じGRPO強化学習プロセスを適用し、言語の一貫性に対する報酬を追加することで、単一言語での応答を促します。これにより、未公開の内部モデルが生成されました。
3. 内部モデルから60万件の推論データを合成します。この際、棄却サンプリング（生成された推論の最終回答が間違っている場合は削除する）を行います。また、DeepSeek-V3を使用して、20万件の非推論データ（文章作成、事実に関する質疑応答、自己認識、翻訳）を合成します。
4. SFT DeepSeek-V3-Baseは、2エポック分の80万の合成データに基づいています。
5. R1-Zeroと同じGRPO強化学習プロセスを適用し、ルールベースの報酬（推論タスク用）に加え、モデルベースの報酬（非推論タスク、有用性、無害性用）も適用します。これによりDeepSeek-R1が生成されました。

ステップ3と同様の方法で、DeepSeek-R1から合成された80万のデータでSFTにより蒸留モデルがトレーニングされました。RLによるトレーニングは行われませんでした。^{[ 82 ]}

2026年4月、DeepSeekはMITライセンスの下で新しいV4モデルシリーズのプレビューを公開した。^{[ 68 ] [ 113 ]}

DeepSeek V4 モデルは、以前の V3/R1 アーキテクチャを以下の点で改良しました。^{[ 113 ]}

• このモデルは、DeepSeekが従来の残差接続を強化すると主張する、独自の多様体制約ハイパー接続（mHC）アーキテクチャを採用している。

• 彼らは、V3.2で導入された以前のDeepSeek Sparse Attentionアーキテクチャに基づいて、Transformerモデル内で使用されるアテンションメカニズムの改良版であるConstrained Sparse Attention（CSA）とHeavily Compressed Attention（HCA）を導入しました。

• ほとんどの層では、収束速度の向上と学習の安定性向上を目的として、Muonオプティマイザが使用されました。

同社はV4-FlashとV4-Proの2種類のモデルを発売した。どちらのモデルも、非推論モード、推論モード、そして「Max」拡張推論モードで動作させることができる。