MNISTテストデータセットからのサンプル画像 MNISTデータベース （修正版米国標準技術研究所 データベース [ 1 ] 画像処理 システムのトレーニング によく使用される手書き数字の大規模データベースです。 [ 2 ] [ 3 ] このデータベースは、機械学習 の分野でのトレーニングとテストにも広く使用されています。[ 4 ] [ 5 ] [ 6 ] 国勢調査局の 職員から、テストデータセットは米国の 高校生 から取得されているため、機械学習の実験には適していないと考えました。[ 1 ] 正規化され、 アンチエイリアス処理が施さ れ、グレースケールレベルが導入されました。[ 1 ]
MNISTデータベースには、60,000枚のトレーニング画像と10,000枚のテスト画像が含まれています。[ 7 ] [ 8 ] [ 1 ] サポートベクターマシン を使用して0.8%のエラー率を取得しています。[ 9 ]
元のMNISTデータセットには少なくとも4つの誤ったラベルが含まれています。[ 10 ]
歴史
USPSデータベース 1988 年、米国郵政公社 から数字のデータセットが構築されました。このデータセットには、ニューヨーク州バッファローの 郵便局を通過する米国の郵便物に手書きで書かれた郵便番号 からデジタル化された 16×16 のグレースケール画像が含まれていました。トレーニング セットには 7291 枚の画像があり、テスト セットには 2007 枚の画像があり、合計 9298 枚でした。トレーニング セットとテスト セットの両方に、曖昧なデータ、分類できないデータ、誤分類されたデータが含まれていました。このデータセットは、1989 年のLeNet の トレーニングとベンチマークに使用されました。[ 11 ] [ 12 ]
このタスクはかなり難しい。テストセットでは、2人の人間が平均2.5%の割合でエラーを犯した。[ 13 ]
特別データベース HSF の例。これは NIST 特別データベース 19 からのもので、ファイル名は ですf1002_33.png。 1980 年代後半、国勢調査局は 手書きの国勢調査用紙の自動デジタル化に関心を持っていたため、NIST の画像認識グループ (IRG) にOCR システムの評価を依頼しました。[ 14 ] [ 15 ] [ 16 ] [ 17 ] です。これらはISO-9660 CD-ROM でリリースされました。[ 6 ]
各HSFには複数の入力欄があり、そこに記入するよう求められた。入力欄は全部で34箇所あり、氏名と日付の入力欄、市区町村／都道府県の入力欄、28個の数字入力欄、大文字入力欄、小文字入力欄、そして制約のない憲法条文の段落入力欄である。各HSFは 300dpi （11.8dpi）の解像度でスキャンされた。
SD-1とSD-3は、 1990年の米国国勢調査 の一環として、常勤の国勢調査フィールドワーカー3400人のうち2100人によって同じHSFセットから構築されました。[ 14 ] ：
SD-7 または TD-1 はテスト セットで、メリーランド州ベセスダ の高校生 500 名が作成した 58,646 枚の 128×128 バイナリ 画像が含まれていました。これらは「高校の数学と科学の生徒が授業中に短時間の演習として作成したもの」と説明されています。[ 14 ] : [ 18 ]
SD-3の画像はSD-7の画像よりもはるかに鮮明で認識しやすかった。[ 1 ] 7 ）はSD-3よりもSD-7に多く見られる。[ 19 ] [ 14 ] ： [ 20 ] [ 14 ] ：
1992年、NISTと国勢調査局は、この業界の最先端技術を決定するためのコンテストと会議を主催しました。コンテストでは、各チームに3月23日までにトレーニングセットとしてSD-3、4月13日までにテストセットとしてSD-7が与えられ、4月27日までにSD-7を分類するための1つ以上のシステムを提出することになっていました。[ 14 ] : [ 13 ] メリーランド州ゲイザースバーグ で 開催された第1回国勢調査OCRシステム会議に集まりました。FBI 、IRS 、USPS のオブザーバーが出席しました。[ 14 ] : した 25 件のエントリーのうち、優勝したのはユークリッド変換 に対して不変な手作りのメトリックを使用した 最近傍分類器 でした。[ 13 ]
SD-19は、SD-1、SD-3、SD-7、およびその他のいくつかのデータをまとめたものとして1995年に公開されました。これには、英数字のバイナリ画像814,255枚と、SD-7の生成に使用された500個のHSFを含む4169個のHSFのバイナリ画像が含まれていました。2016年に更新されました。[ 6 ]
MNIST MNISTは1994年の夏より前に構築されました。[ 21 ] バイナリ画像を 混合して構築されました。具体的には、まずSD-7のすべての画像を取得し、それぞれ250人の筆者からトレーニングセットとテストセットに分割しました。これにより、各セットに約30000枚の画像ができました。次に、各セットに正確に60000枚の画像が含まれるまでSD-3からさらに画像を追加しました。[ 20 ]
各画像は、縦横比を維持したまま20x20ピクセルのボックスに収まるようにサイズ正規化され、グレースケールにアンチエイリアス処理されました。その後、ピクセルの重心が画像の中央に来るように平行移動することで、28x28の画像に変換されました。ダウンサンプリングの進行状況の詳細は再構築されました。[ 21 ]
トレーニングセットとテストセットはどちらも元々6万個のサンプルを含んでいたが、テストセットの5万個のサンプルが破棄され、インデックス24476から34475のサンプルのみが使用され、テストセットにはわずか1万個のサンプルしか残らなかった。[ 22 ]
その他のバージョン 2019年に、MNISTの6万枚のテストセット全体が復元され、トレーニングセットに6万枚、テストセットに6万枚の画像を含むQMNISTが構築されました。[ 23 ] [ 21 ]
Extended MNIST (EMNIST) は、2017 年にリリースされた MNIST の (最終的な) 後継として NIST が開発およびリリースした新しいデータセットです。[ 24 ] [ 25 ] [ 26 ] [ 27 ]
Fashion MNISTは 、MNISTのより難易度の高い代替データセットとして2017年に作成されました。このデータセットは、10のカテゴリのファッション製品の70,000枚の28x28グレースケール画像で構成されています。[ 28 ]
一部の研究者は、ニューラルネットワーク の委員会を使用して、MNISTデータベースで「人間に近いパフォーマンス」を達成しました。同じ論文では、著者らは他の認識タスクで人間の2倍のパフォーマンスを達成しています。[ 29 ] データベースの元の ウェブ パーセント 線形分類器を使用して達成されています。 [ 9 ]
2004年、ローゼンブラットのパーセプトロン 原理に基づいた3つのニューロン層を持つニューラル分類器であるLIRAと呼ばれる新しい分類器を使用した研究者によって、データベース上で0.42パーセントという最良のエラー率が達成されました。[ 30 ]
いくつかの研究では、データ拡張 を使用してトレーニングデータセットのサイズを増やし、それによってパフォーマンスを向上させています。これらの場合のシステムは通常ニューラルネットワークであり、使用される歪みはアフィン歪み または弾性歪み のいずれかです。[ 1 ] [ 31 ]
2011年、同様のニューラルネットワークシステムを使用した研究者らは、以前の最良の結果を改善した0.27パーセントのエラー率を報告した。[ 32 ] 2013年には、 DropConnect を使用したニューラルネットワークの正則化 に基づくアプローチにより、0.21パーセントのエラー率を達成したと主張されている。[ 33 ] 畳み込みニューラルネットワークの 最良のパフォーマンスは、0.25パーセントのエラー率であった。[ 34 ] データ拡張 なしでMNISTトレーニングデータでトレーニングされた単一の畳み込みニューラルネットワークの最良のパフォーマンスは、0.25パーセントのエラー率である。[ 34 ] [ 35 ] [ 36 ] [ 37 ]
参考文献 1 2 3 4 5 6 7 LeCun, Yann; Cortez, Corinna; Burges, Christopher CJ 「MNIST手書き数字データベース」。Yann LeCunのウェブサイト yann.lecun.com 。 2020年4月30日にオリジナルからアーカイブ済み。 ↑ 「サポートベクターマシンによるパターン認識の高速化 - Vision Systems Design」 。Vision Systems Design 。2004年9月。 2013年 8月17日 取得 。 ↑ ガンガプトラ、サチン。 「手書き数字データベース」 。 2013 年 8 月 17 日 に取得 。 ↑ Qiao, Yu (2007). "手書き数字のMNISTデータベース" . 2013年 8月18日 取得 。 ↑ Platt, John C. (1999). "Using analytic QP and sparseness to speed training of support vector machines" (PDF) . Advances in Neural Information Processing Systems : 557– 563. 2016年3月4日に オリジナル (PDF)からアーカイブ済み。 2013年 8月18日 に取得 。 1 2 3 Grother, Patrick J. 「NIST 特別データベース 19 - 手書きフォームおよび文字データベース」 (PDF) 。 米国国立標準技術研究所 。 ↑ Kussul, Ernst; Baidyk, Tatiana (2004). "MNISTデータベースでテストされた手書き数字認識の改良法". Image and Vision Computing . 22 (12): 971–981 . doi : 10.1016/j.imavis.2004.03.008 . ↑ Zhang, Bin; Srihari, Sargur N. (2004). "Fast k -Nearest Neighbor Classification Using Cluster-Based Trees" (PDF) . IEEE Transactions on Pattern Analysis and Machine Intelligence . 26 (4): 525– 528. Bibcode : 2004ITPAM..26..525Z . doi : 10.1109/TPAMI.2004.1265868 . PMID 15382657 . S2CID 6883417 . 2020年 4月20日 取得 . 1 2 3 4 LeCun, Yann; Léon Bottou; Yoshua Bengio; Patrick Haffner (1998). "Gradient-Based Learning Applied to Document Recognition" (PDF) . Proceedings of the IEEE . 86 (11): 2278– 2324. Bibcode : 1998IEEEP..86.2278L . doi : 10.1109/5.726791 . S2CID 14542261 . 2016年11月30日に オリジナル (PDF) からアーカイブ済み。 2013年 8月18日 に取得 。 ↑ Muller, Nicolas M.; Markert, Karla (2019年7月). 分類データセットにおける誤ラベル付けされたインスタンスの識別 . 2019 International Joint Conference on Neural Networks (IJCNN). IEEE. pp. 1–8 . arXiv : 1912.05283 . doi : 10.1109/IJCNN.2019.8851920 . ISBN 978-1-7281-1985-4 。↑ Denker, John; Gardner, W.; Graf, Hans; Henderson, Donnie; Howard, R.; Hubbard, W.; Jackel, LD; Baird, Henry; Guyon, Isabelle (1988). "手書き郵便番号のニューラルネットワーク認識器" . Advances in Neural Information Processing Systems . 1 . Morgan-Kaufmann. ↑ LeCun, Y.; Boser, B.; Denker, JS; Henderson, D.; Howard, RE; Hubbard, W.; Jackel, LD (1989 年 12 月). "手書き郵便番号認識へのバックプロパゲーションの適用". Neural Computation . 1 (4): 541– 551. doi : 10.1162/neco.1989.1.4.541 . ISSN 0899-7667 . S2CID 41312633 . 1 2 3 Simard, Patrice; LeCun, Yann; Denker, John (1992). "新しい変換距離を用いた効率的なパターン認識" . Advances in Neural Information Processing Systems . 5 . Morgan-Kaufmann. 1 2 3 4 5 6 7 Wilkinson, R Allen; Geist, Jon; Janet, Stanley; Grother, Patrick J; Burges, Christopher JC; Creecy, Robert; Hammond, Bob; Hull, Jonathan J; Larsen, Norman L (1992). 第 1 回国勢調査光学文字認識システム会議。NIST 機関間/内部レポート (NISTIR) - 4912 (PDF) (レポート)。メリーランド州ゲイザースバーグ : 国立標準技術研究所。doi : 10.6028/nist.ir.4912 。 ↑ CL Wilson および MD Garris。手書き文字データベース。技術報告書特別データベース 1、HWDB、米国国立標準技術研究所、1990 年 4 月。 ↑ MD Garris および RA Wilkinson。手書きセグメント文字データベース。技術報告書特別データベース 3、HWSC、米国国立標準技術研究所、1992 年 2 月。 ↑ RA Wilkinson。手書きセグメント文字データベース。技術報告書テストデータベース1、TST1、米国国立標準技術研究所、1992年4月。 ↑ Smith, SJ; Bourgoin, MO; Sims, K.; Voorhees, HL (1994 年 9 月) 「大規模データベースにおける最近傍法を用いた手書き文字分類」 IEEE Transactions on Pattern Analysis and Machine Intelligence 16 (9): 915–919 . Bibcode : 1994ITPAM..16..915S . doi : 10.1109/34.310689 . ↑ Grother, Patrick J. (1993-01-01). "NIST OCR データベースの相互検証比較" . NIST . 1906 : 296. Bibcode : 1993SPIE.1906..296G . doi : 10.1117/12.143632 . 1 2 Bottou, Léon; Cortes, Corinna; Denker, John S.; Drucker, Harris; Guyon, Isabelle; Jackel, LD; LeCun, Y.; Muller, UA; Sackinger, E.; Simard, P.; Vapnik, V. (1994). "分類器手法の比較：手書き数字認識の事例研究". 第12回IAPR国際パターン認識会議議事録（カタログ番号94CH3440-5） . 第2巻. エルサレム、イスラエル. pp. 77–82 . doi : 10.1109/ICPR.1994.576879 . ISBN 0-8186-6270-0 。{{cite book}}: CS1メンテナンス: 場所の発行元が見つかりません (リンク)1 2 3 Yadav, Chhavi; Bottou, Leon (2019). "Cold Case: The Lost MNIST Digits" . Advances in Neural Information Processing Systems . 32 . arXiv : 1905.10498 . この記事には、破棄されたテストセットの詳細な履歴と再構築が記載されています。 ↑ Decoste, Dennis; Schölkopf, Bernhard (2002). "不変サポートベクターマシンのトレーニング" . Machine Learning . 46 (1/3): 161– 190. doi : 10.1023/A:1012454411458 . ↑ facebookresearch/qmnist 、メタリサーチ、2024年9月23日、 2024年10月25日 取得 ↑ Cohen, G.; Afshar, S.; Tapson, J.; van Schaik, A. (2017). "EMNIST: 手書き文字へのMNISTの拡張". arXiv : 1702.05373 [ cs.CV ]. ↑ NIST (2017年4月4日)。 「EMNISTデータセット」 。NIST 。 2022年 4月11日 取得 。 ↑ NIST (2010年8月27日)。 「NIST特別データベース19」 。NIST 。 2022年 4月11日 取得 。 ↑ Grother, Patrick J.、および KK Hanaoka。「 NIST 特別データベース 19」。手書きのフォームと文字のデータベース、米国国立標準技術研究所 10 (1995): 69。 ↑ Xiao, Han; Rasul, Kashif; Vollgraf, Roland (2017-09-15). "Fashion-MNIST: 機械学習アルゴリズムのベンチマークのための新しい画像データセット". arXiv : 1708.07747 [ cs.LG ]. 1 2 Cires¸an, Dan; Ueli Meier; Jürgen Schmidhuber (2012). "Multi-column deep neural networks for image classification" (PDF) . 2012 IEEE Conference on Computer Vision and Pattern Recognition . pp. 3642– 3649. arXiv : 1202.2745 . CiteSeerX 10.1.1.300.3283 . doi : 10.1109/CVPR.2012.6248110 . ISBN 978-1-4673-1228-8 . S2CID 2161592 . ↑ Kussul, Ernst; Tatiana Baidyk (2004). "MNISTデータベースでテストされた手書き数字認識の改良法" (PDF) . Image and Vision Computing . 22 (12): 971– 981. doi : 10.1016/j.imavis.2004.03.008 . 2013年9月21日に オリジナル (PDF) からアーカイブ済み。 2013年 9月20日 に取得 。 ↑ Ranzato, Marc'Aurelio; Christopher Poultney; Sumit Chopra; Yann LeCun (2006). "Efficient Learning of Sparse Representations with an Energy-Based Model" (PDF) . Advances in Neural Information Processing Systems . 19 : 1137– 1144. 2016年3月22日に オリジナル (PDF) からアーカイブ済み。 2013年 9月20日 に取得 。 ↑ Ciresan, Dan Claudiu; Ueli Meier; Luca Maria Gambardella; Jürgen Schmidhuber (2011). "手書き文字分類のための畳み込みニューラルネットワーク委員会" (PDF) . 2011 International Conference on Document Analysis and Recognition (ICDAR) . pp. 1135– 1139. CiteSeerX 10.1.1.465.2138 . doi : 10.1109/ICDAR.2011.229 . ISBN 978-1-4577-1350-7 . S2CID 10122297 . 2016年2月22日にオリジナル（PDF）からアーカイブされました 。 2013年 9月20日 ↑ Wan, Li; Matthew Zeiler; Sixin Zhang; Yann LeCun; Rob Fergus (2013). DropConnect を使用したニューラルネットワークの正則化 。国際機械学習会議 (ICML)。 1 2 3 SimpleNet (2016). "シンプルに保とう、シンプルなアーキテクチャを使用して、より深く複雑なアーキテクチャを凌駕する" . arXiv : 1608.06037 . 2020年 12月3日 取得 。 ↑ SimpNet (2018). "深層畳み込みネットワークの原理に基づいた設計に向けて: SimpNet の紹介" . Github . arXiv : 1802.06205 . 2020 年 12 月 3 日 取得 . 1 2 Romanuke, Vadim. 「並列コンピューティングセンター（ウクライナ、フメリニツキー）は、MNISTで0.21パーセントのエラー率で動作する5つの畳み込みニューラルネットワークのアンサンブルを表しています」 。 2016年 11月24日 取得 。 1 2 Romanuke, Vadim (2016). "MNISTデータセットのエラー率を低減するための畳み込みニューラルネットワークのトレーニングデータ拡張とブースティング" . NTUU「キエフ工科大学」研究速報 . 6 (6): 29– 34. doi : 10.20535/1810-0546.2016.6.84115 . ↑ Lindblad, Joakim; Nataša Sladoje (2014 年 1 月). "ファジィ集合間の線形時間距離とパターンマッチングおよび分類への応用". IEEE Transactions on Image Processing . 23 (1): 126– 136. Bibcode : 2014ITIP...23..126L . doi : 10.1109/TIP.2013.2286904 . PMID 24158476. S2CID 1908950 . ↑ Keysers, Daniel; Thomas Deselaers; Christian Gollan; Hermann Ney (2007年8月)「画像認識のための変形モデル」 IEEE Transactions on Pattern Analysis and Machine Intelligence . 29 ( 8): 1422– 1435. Bibcode : 2007ITPAM..29.1422K . CiteSeerX 10.1.1.106.3963 . doi : 10.1109/TPAMI.2007.1153 . PMID 17568145. S2CID 2528485 . ↑ Kégl, Balázs; Róbert Busa-Fekete (2009). "Boosting products of base classifiers" (PDF) . Proceedings of the 26th Annual International Conference on Machine Learning . pp. 497–504 . doi : 10.1145/1553374.1553439 . ISBN 9781605585161 . S2CID 8460779 . 2013年 8月27日 ↑ 「RandomForestSRC: 生存、回帰、分類のための高速統合ランダムフォレスト (RF-SRC)」 。2020年1月21日。 ↑ 「Mehrad Mahmoudian / MNIST with RandomForest」 。 ↑ Decoste, Dennis; Schölkopf, Bernhard (2002). "Training Invariant Support Vector Machines" . Machine Learning . 46 ( 1– 3): 161– 190. doi : 10.1023/A:1012454411458 . ISSN 0885-6125 . OCLC 703649027 . 1 2 3 Patrice Y. Simard; Dave Steinkraus; John C. Platt (2003). 「視覚文書解析に適用される畳み込みニューラルネットワークのベストプラクティス」 . 第7回国際文書解析・認識会議議事録 . 第 1巻. 電気電子学会 . p. 958. doi : 10.1109/ICDAR.2003.1227801 . ISBN 978-0-7695-1960-9 . S2CID 4659176 . 1 2 Ciresan, Claudiu Dan; Ueli Meier; Luca Maria Gambardella; Juergen Schmidhuber (2010 年 12 月). "Deep Big Simple Neural Nets Excel on Handwritten Digit Recognition". Neural Computation . 22 (12): 3207–20 . arXiv : 1003.0358 . doi : 10.1162/NECO_a_00052 . PMID 20858131. S2CID 1918673 . ↑ 「ビジュアルトランスフォーマーとMNISTデータセット」 . itp.uni-frankfurt.de . 2026年 7月17日 取得 。 ↑ "GitHub - asnelt/mnistvit: MNIST でトレーニングするためのビジョン トランスフォーマーの PyTorch 実装" . Github . 2026 年 7 月 17 日 取得 . ↑ Romanuke, Vadim. 「ウクライナ、フメリニツキーの並列コンピューティングセンターにおける拡張トレーニングデータでの18エポックにおける単一の畳み込みニューラルネットワークの最高のパフォーマンス」 。 2016年 11月16日 取得 。 ↑ Romanuke, Vadim. 「並列コンピューティングセンター（ウクライナ、フメリニツキー）は、MNISTデータセットで0.27パーセントのエラー率を達成する単一の畳み込みニューラルネットワークを提供します」 。 2016年 11月24日 取得 。 ↑ Hu, Jie; Shen, Li; Albanie, Samuel; Sun, Gang; Wu, Enhua (2019). "Squeeze-and-Excitation Networks". IEEE Transactions on Pattern Analysis and Machine Intelligence . 42 ( 8): 2011–2023 . arXiv : 1709.01507 . doi : 10.1109/TPAMI.2019.2913372 . PMID 31034408. S2CID 140309863 . ↑ "GitHub - Matuzas77/MNIST-0.17: 平均誤差0.17%のMNIST分類器" . GitHub . 2020年2月25日。 ↑ An, Sanghyeon; Lee, Minjun; Park, Sanglee; Yang, Heerin; So, Jungmin (2020-10-04). "An Ensemble of Simple Convolutional Neural Network Models for MNIST Digit Recognition". arXiv : 2008.10400 [ cs.CV ].
外部リンク 公式サイト MNISTデータベースの可視化– GitHub上のMNIST手書き数字の画像群
