Loading article…
情報理論、量子情報理論、統計物理学、データ圧縮、誤り訂正符号、および関連分野に関する出来事のタイムライン。
–ルートヴィヒ・ボルツマンがH定理を発表し、それとともに単一気体粒子のエントロピーを表す式 Σ p i log p i を導出– J.ウィラード・ギブスがギブスエントロピーを定義：エントロピーの公式における確率は、システム全体の状態の確率として扱われるようになった。–ハリー・ナイキストは「知能」の定量化と、通信システムによる情報伝達速度について論じた。–ジョン・フォン・ノイマンがフォン・ノイマンエントロピーを定義し、ギブスエントロピーを量子力学に拡張した。–ラルフ・ハートレーは、可能なメッセージ数の対数としてハートレー情報を導入し、受信者が（関連する意味に関係なく）ある記号列を他の記号列と区別できる場合に情報が伝達されると定義した。–レオ・シラードはマクスウェルの悪魔を分析し、シラードエンジンが情報を有用な仕事の抽出に変換できる場合があることを示した。–アラン・チューリングは、バンブリズムス過程によってドイツのエニグマ暗号機の設定について推測された情報量を表す尺度としてデシバンを導入した。–クロード・シャノンの情報理論がほぼ完成する–リチャード・W・ハミングが誤り検出・訂正のためのハミング符号を発明（特許権保護のため、その成果は1950年まで公表されなかった）。–クロード・E・シャノンが『通信の数学的理論』を出版–クロード・E・シャノンが『雑音下における通信–ナイキスト・シャノン標本化定理とシャノン・ハートレーの法則』を出版–クロード・E・シャノンの「秘密システムの通信理論」が機密解除される– ロバート・M・ファノが『情報の伝達』を出版。MIT Press、マサチューセッツ州ケンブリッジ –シャノン・ファノ符号化– レオン・G・クラフトがクラフトの不等式を発見。これは接頭辞符号の限界を示すものである。–マルセル・J・E・ゴレイが前方誤り訂正のためのゴレイ符号を発表–リチャード・ハミングがハミング符号に関する論文を発表し、符号理論という新たな研究分野を創設する。–ソロモン・クルバックとリチャード・ライブラーがクルバック・ライブラー発散を導入–デビッド・A・ハフマンがハフマン符号化を発明。これは、ロスレスデータ圧縮のための最適なプレフィックスコードを見つける方法である。、アルバート・サルディナスとジョージ・W・パターソンは、与えられた可変長コードが一意に復号可能かどうかを判定する手順であるサルディナス・パターソンアルゴリズムを考案した。–アービング・S・リードとデビッド・E・ミュラーがリード・ミュラー符号を提案–ピーター・エリアスが畳み込み符号を発表–ユージン・プランジが初めて循環符号について論じる–アレクシス・ホッケンゲム、そして翌年、ラージ・チャンドラ・ボースとドウィジェンドラ・クマール・レイ・チョードゥリがそれぞれ独立してBCHコードを発見–アービング・S・リードとギュスターヴ・ソロモンがリード・ソロモン符号を提案–ロバート・G・ギャラガーが低密度パリティチェック符号を提案。技術的な制約のため、30年間使用されなかった。–デイブ・フォーニーが連結コードについて論じる–板倉文忠（名古屋大学）と斎藤修三（日本電信電話）が音声符号化の一形態である線形予測符号化（LPC）を開発[ 1 ]–アンドリュー・ビタビがビタビアルゴリズムを発表し、畳み込み符号の復号を実用化。–エルウィン・バーレカンプがバーレカンプ・マッセイ・アルゴリズムを発明。翌年、ジェームズ・L・マッセイがBCH符号とリード・ソロモン符号の復号への応用を指摘した。–クリス・ウォレスとデビッド・M・ボルトンは、最小メッセージ長（MML）統計的推論と帰納的推論に関する最初の論文を発表した。–ヴァレリー・デニソヴィッチ・ゴッパがゴッパコードを導入– Jørn Justesen が、リード・ソロモン符号の改良版であるJustesen コードを提案–ナシル・アーメドは離散コサイン変換（DCT）を提案し、 1973年にT・ナタラジャンとKR・ラオと共にこれを発展させた。 [ 2 ] DCTは後に最も広く使用される非可逆圧縮アルゴリズムとなり、 JPEG、MPEG、MP3などのマルチメディアフォーマットの基礎となった。–デビッド・スレピアンとジャック・ウルフが分散ソース符号化のスレピアン・ウルフ符号化限界を発見し証明した[ 3 ]–ゴットフリート・ウンガーベックがトレリス変調に関する最初の論文を発表。1982年のより詳細な解説により、アナログモデムPOTSの速度が9.6kbit /sから33.6kbit /sに向上した。– リチャード・パスコとヨルマ・J・リッサネンが効果的な算術符号化技術を開発– Abraham LempelとJacob Ziv がLempel-Ziv 圧縮 ( LZ77 )を開発–ヴァレリー・デニソヴィチ・ゴッパが代数幾何学コードを発表–フィル・カッツがDEFLATE （LZ77 + ハフマン符号化）を含むフォーマット.zipを発表。後に最も広く使用されるアーカイブコンテナとなる。– Claude Berrou、Alain Glavieux、Punya Thitimajshimaがターボ コードを導入–マイケル・バロウズとデビッド・ウィーラーがバロウズ・ウィーラー変換を発表。これは後にbzip2で使用されることになる。–ベンジャミン・シューマッハーが「キュービット」という用語を造語し、量子無雑音符号化定理を証明した。–デビッド・J・C・マッケイは著書の中で、情報理論、推論、機械学習の関連性を示した。–ヤロスワフ・ドゥダが最初の非対称数値システムエントロピー符号化を導入：2014年以降、 Facebook Zstandard、Apple LZFSE、CRAM、JPEG XLなどの圧縮ツールにおいて、ハフマン符号化や算術符号化の代替として広く利用されるようになった。–エルダル・アリカンが極符号を発表。これは、幅広いチャネルの容量を実現する最初の実用的な符号構成である。