適応アルゴリズム

適応型アルゴリズムとは、実行時に利用可能な情報と事前に定義された報酬メカニズム（または基準）に基づいて動作を変更するアルゴリズムです。 ^[1]このような情報には、最近受信したデータのストーリー、利用可能な計算リソースに関する情報、または動作環境に関連する実行時に取得された（または事前に知られている）その他の情報が含まれます。

最もよく使用される適応アルゴリズムの 1 つに、Widrow-Hoff の最小平均二乗法 (LMS)があります。これは、適応フィルタリングと機械学習で使用される確率的勾配降下法アルゴリズムの一種です。適応フィルタリングでは、LMS を使用して、エラー信号 (目的の信号と実際の信号の差) の最小平均二乗値を生成することに関連するフィルター係数を見つけ、目的のフィルターを模倣します。

たとえば、安定したパーティションは、追加のメモリを使用しない場合はO ( n lg n ) ですが、O ( n ) のメモリが与えられている場合は、時間的にはO ( n )になる可能性があります。C ++ 標準ライブラリで実装されているstable_partition は適応型であるため、取得できる限りのメモリ (最大で必要な量まで) を取得し、その使用可能なメモリを使用してアルゴリズムを適用します。もう 1 つの例は適応ソートで、その動作は入力の事前ソートの有無に応じて変化します。

レーダーシステムにおける適応アルゴリズムの一例としては、一定誤警報率(CFAR) 検出器があります。

機械学習と最適化では、多くのアルゴリズムが適応型であるか、適応型の変種を持っています。これは通常、学習率などのアルゴリズムパラメータが、これまでの最適化に関する統計（収束率など）に応じて自動的に調整されることを意味します。 ^[2]例としては、適応型シミュレーテッドアニーリング、適応型座標降下法、適応求積法、AdaBoost、Adagrad、Adadelta、RMSprop、Adamなどがあります。^[3]

データ圧縮では、適応型ハフマン符号化や部分一致による予測などの適応型符号化アルゴリズムは、データストリームを入力として受け取り、すでに遭遇したシンボルに基づいて圧縮技術を適応させることができます。^[4]

信号処理において、ミニディスクレコーダーで使用されるAdaptive Transform Acoustic Coding (ATRAC) コーデックは、圧縮されるサウンドの性質に応じてウィンドウの長さ (オーディオの「チャンク」のサイズ) を変更し、最高の音質の圧縮戦略を実現しようとするため、「アダプティブ」と呼ばれます。

参照

参考文献

^ アンソニー・ザクニッチ（2005年4月25日）。適応フィルタと自己学習システムの原理。Springer Science & Business Media。ISBN 978-1-85233-984-5。
^ Goodfellow, Ian ; Bengio, Yoshua ; Courville, Aaron (2016). ディープラーニング. MIT Press. ISBN 978-0-26203561-3。
^ マーフィー、ケビン（2021年）。確率的機械学習：入門。MITプレス。2021年4月10日閲覧。 {{cite book}}:|website=無視されました (ヘルプ)
^ Ze-Nian Li、Mark S. Drew、Jiangchuan Liu (2014 年 4 月 9 日)。マルチメディアの基礎 。Springer Science & Business Media。ISBN 978-3-319-05290-8。

[Zaknich2005-1] アンソニー・ザクニッチ（2005年4月25日）。適応フィルタと自己学習システムの原理。Springer Science & Business Media。ISBN 978-1-85233-984-5。

[2] Goodfellow, Ian ; Bengio, Yoshua ; Courville, Aaron (2016). ディープラーニング. MIT Press. ISBN 978-0-26203561-3。

[3] マーフィー、ケビン（2021年）。確率的機械学習：入門。MITプレス。2021年4月10日閲覧。 {{cite book}}:|website=無視されました (ヘルプ)

[LiDrew2014-4] ^ Ze-Nian Li、Mark S. Drew、Jiangchuan Liu (2014 年 4 月 9 日)。マルチメディアの基礎 。Springer Science & Business Media。ISBN 978-3-319-05290-8。