トレリス量子化

トレリス量子化は、DCTベースのエンコード方式でデータ圧縮を改善できるアルゴリズムです。 Xvidやx264などの非可逆ビデオ圧縮エンコーダで動き推定後の残差DCT係数を最適化するために使用されます。 トレリス量子化は、一部の DCT 係数のサイズを縮小し、他の係数を復元してその位置に配置します。 トレリスによって選択された係数はレート歪み比が最も低いため、このプロセスにより品質が向上します。 トレリス量子化は、各ブロックの最適な量子化を効果的に見つけ、ビットレートに対するPSNR を最大化します。 入力データと圧縮方法によって有効性が異なります。

• トレリス量子化について言及しているVirtualDub/Xvidガイド
• FFMPEGx オプションのドキュメント
• x264-author による Trellis の説明と擬似コード