グロク

株式会社グロク

会社種別	プライベート
業界	半導体産業 人工知能 クラウドコンピューティング
設立	2016 ; 8年前 （2016年）
創設者	ジョナサン・ロス
本部	カリフォルニア州マウンテンビュー 、 私たち
主要人物	ジョナサン・ロス（CEO）、アンドリュー・S・ラパポート（取締役）、チャマス・パリハピティヤ（投資家）
製品	言語処理ユニット (LPU)
収益	320万米ドル（2023年）[1]
純利益	8,800万米ドル（2023年）[1]
従業員数	250（2023）
Webサイト	groq.com

Groq, Inc. は、 AI ワークロードの推論パフォーマンスを高速化するために、言語処理ユニット (LPU) と呼ばれるAI アクセラレータ特定用途向け集積回路(ASIC) と関連ハードウェアを構築するアメリカの人工知能(AI ) 企業です。

GroqのLPUで実行されるAIワークロードの例として、大規模言語モデル（LLM）^{[2] [3]} 画像分類[ ^4] 異常検出^[5] [ ^6]予測分析^{[7] [8]などが挙げられます。}

Groq はカリフォルニア州マウンテンビューに本社を置き、カリフォルニア州サンノゼ、ワシントン州リバティーレイク、カナダのトロント、イギリスのロンドンにオフィスを構え、北米とヨーロッパ全域にリモート従業員を擁しています。

Groqは、AIアクセラレータASICであるTensor Processing Unit （TPU）の設計者の一人であるジョナサン・ロスと、起業家でありGoogle X（ X Developmentとして知られる）の元エンジニアで同社の初代CEOを務めたダグラス・ワイトマンが率いる元Googleエンジニアのグループによって2016年に設立されました。^{[9] [1]}

Groqは、2017年にSocial CapitalのChamath Palihapitiyaか​​ら1,000万ドルのシード資金を受け取り^[10]、その後すぐに追加資金を確保しました。

2021年4月、GroqはTiger Global ManagementとD1 Capital Partnersが主導するシリーズCラウンドで3億ドルを調達しました。^[11]現在の投資家には、The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital 、Tru Arrow Partnersが含まれ、 TDK Ventures、XTX Ventures、Boardman Bay Capital Management、Infinitum Partnersからの追加投資もあります。 ^{[12] [13]} GroqのシリーズC資金調達ラウンド後、評価額は10 億ドルを超え、このスタートアップはユニコーンになりました。^[14]

2022年3月1日、Groqはデータフローシステム技術で知られるMaxeler Technologiesを買収した。^[15]

2023年8月16日、Groqは、サムスンの4ナノメートル（nm）プロセスノードで次世代チップを製造するために、テキサス州テイラーにあるサムスン電子のファウンドリーを選択しました。これは、この新しいサムスンチップ工場での最初の注文でした。^[16]

2024年2月19日、Groqは開発者プラットフォームGroqCloudをソフトローンチし、開発者にGroq APIの使用とチップへのアクセスのレンタルを促しました。^{[17] [1]} 2024年3月1日、Groqはクラウドプラットフォームの支援のため、ビジネス指向のAIソリューションを幅広く提供していることで知られるスタートアップ企業Definitive Intelligenceを買収しました。^[18]

Groqは2024年8月にブラックロック・プライベート・エクイティ・パートナーズが主導するシリーズDラウンドで6億4000万ドルを調達し、企業価値は28億ドルに達した。^{[1] [19]}

GroqのASICの最初の名前はTensor Streaming Processor (TSP)でしたが、後にTSPはLanguage Processing Unit (LPU)に改名されました。^{[2] [20] [21]}

LPUは機能的にスライスされたマイクロアーキテクチャを特徴としており、メモリユニットがベクトルおよび行列計算ユニットとインターリーブされています。^{[22] [23]この設計により、AI計算グラフでの}データフロー局所性の活用が容易になり、実行パフォーマンスと効率が向上します。LPUは、次の2つの重要な観察に基づいて設計されました。

1. AIワークロードは、専用のハードウェアにマッピングできる実質的なデータ並列性を示し、パフォーマンスの向上につながります。^{[22] [23]}
2. 決定論的なプロセッサ設計と生産者-消費者 プログラミングモデルを組み合わせることで、ハードウェアコンポーネントを正確に制御および推論できるようになり、パフォーマンスとエネルギー効率が最適化されます。^{[22] [23]}

機能的にスライスされたマイクロアーキテクチャに加えて、LPUはシングルコアの決定論的アーキテクチャによっても特徴付けられます。^{[22] [24]} LPUは、従来の反応型ハードウェアコンポーネント（分岐予測器、アービター、並べ替えバッファ、キャッシュ）の使用を回避し、すべての実行をコンパイラによって明示的に制御することで、決定論的な実行を実現し、LPUプログラムの実行における決定論を保証します。 [ ^{23 ]}

第1世代のLPU（LPU v1）は、25×29 mmの14nmチップで、公称クロック周波数900MHzで動作し、シリコン1平方mmあたり1TeraOp/s以上の計算密度を実現します。^[22]第2世代のLPU（LPU v2）は、サムスンの4nmプロセスノードで製造されます。^[16]

Groqは、MetaのLlama2-70Bパラメータモデルを実行しながら、1秒あたり100トークンの生成速度を突破した最初のAPIプロバイダーとして登場しました。 ^[25]

Groqは現在、LPU上で実行されるさまざまなオープンソースの大規模言語モデルを一般公開しています。^[26]これらのデモにはGroqのウェブサイトからアクセスできます。これらのオープンソースLLMを実行しているときのLPUのパフォーマンスは、他のLLMプロバイダーと比較して、ArtificialAnalysis.aiによって独立してベンチマークされています。^[27] LPUの測定されたパフォーマンスを下の表に示します。

• 中央処理装置
• グラフィックス処理ユニット

• 公式サイト