Loading article…
確率的プログラミング（PP）は、確率モデルが指定され、これらのモデルの推論が自動的に実行されるプログラミングパラダイムです。 [1]これは、確率モデリングと従来の汎用プログラミングを統合して、前者をより簡単に、より広く適用できるようにする試みです。[2] [3]これは、不確実性に直面した際に意思決定を支援するシステムを作成するために使用できます。
確率的プログラミングに使用されるプログラミング言語は、「確率的プログラミング言語」(PPL) と呼ばれます。
アプリケーション
確率的推論は、株価の予測、映画の推薦、コンピュータの診断、サイバー侵入の検出、画像の検出など、さまざまなタスクに使用されてきました。[4]しかし、最近まで（部分的には計算能力の限界により）、確率的プログラミングの範囲は限られており、ほとんどの推論アルゴリズムはタスクごとに手動で記述する必要がありました。
それにもかかわらず、2015年には、50行の確率的コンピュータビジョンプログラムが、人間の顔の2D画像に基づいて3Dモデルを生成するために使用されました。このプログラムは、逆グラフィックスを推論方法の基礎として使用し、JuliaのPictureパッケージを使用して構築されました。[4]これにより、「以前は数千行かかっていたものが50行のコードで」可能になりました。[5] [6]
Gen確率プログラミングライブラリ（これもJuliaで書かれている）は、ビジョンやロボット工学のタスクに適用されている。[7]
最近では、確率的プログラミングシステムTuring.jlが様々な製薬[8]や経済学のアプリケーションに応用されています。[9]
Juliaの確率的プログラミングは、JuliaパッケージZygote.jlとTuring.jlを組み合わせることで微分可能プログラミングと統合されました。 [10]
確率的プログラミング言語は、ベイズ認知科学において認知モデルの開発と評価によく使用されます。 [11]
確率的プログラミング言語
PPLは多くの場合、基本言語から拡張されています。たとえば、Turing.jl [12]はJuliaに基づいており、Infer.NETは.NET Framework [13]に基づいています。一方、PRISMはProlog [14]から拡張されています。ただし、 WinBUGSなどの一部のPPLは、統計モデルの数学的表現に密接にマッピングされ、他のプログラミング言語に由来していない自己完結型の言語を提供しています。[15] [16]
WinBUGS の言語は、ギブス サンプリングと関連アルゴリズムを使用してベイジアン計算を実行するために実装されました。比較的知られていないプログラミング言語 (Component Pascal) で実装されていますが、この言語は、柔軟な計算アプローチを使用して、さまざまな統計モデルに対してベイジアン推論を可能にします。同じ BUGS 言語を使用して、スタンドアロン プログラム WinBUGS (または関連する R パッケージ、rbugs および r2winbugs) と JAGS (Just Another Gibbs Sampler、rjags、R2jags、runjags などの関連する R パッケージを含む別のスタンドアロン プログラム) を使用して、さまざまな計算選択 (「サンプラー」) と規則またはデフォルトを介して推論用のベイジアン モデルを指定できます。最近では、ベイジアン モデルの指定と推論をサポートする他の言語により、基礎となるベイジアン計算に対して異なる、またはより効率的な選択が可能になり、R データ分析およびプログラミング環境からアクセスできるようになりました (例: Stan、NIMBLE、NUTS)。 BUGS 言語の影響はこれらの後続の言語にも明らかであり、モデル仕様のいくつかの側面で同じ構文が使用されています。
いくつかのPPLは現在開発中であり、ベータテスト中のものもいくつかある。2つの人気ツールはStanとPyMCである。[17]
リレーショナル
確率的リレーショナル プログラミング言語(PRPL) は、確率的リレーショナル モデル(PRM)を記述および推論するために特別に設計された PPL です。
PRM は通常、関係する分布の削減、推論、および発見のための一連のアルゴリズムを使用して開発され、対応する PRPL に埋め込まれます。
確率的論理プログラミング
確率的論理プログラミングは、確率を使用して論理プログラミングを拡張するプログラミング パラダイムです。
確率論理プログラミングへのアプローチのほとんどは分布意味論に基づいており、これはプログラムを確率的事実の集合と論理プログラムに分割する。これはプログラムのエルブラン宇宙の解釈に関する確率分布を定義する。 [18]
確率的プログラミング言語のリスト
このリストは、現在利用可能なさまざまな PPL を要約し、その起源を明らかにします。
困難
- 変数を確率分布として推論することは初心者プログラマーにとって困難を伴いますが、これらの困難は、ソースコードエディタ内に埋め込まれたベイジアンネットワークの視覚化と変数分布のグラフを使用することで解決できます。[52]
- 多くのPPLは関心のある変数の事前分布の指定に依存しているため、情報に基づく事前分布を指定することは初心者にとって難しいことがよくあります。場合によっては、PyMCなどのライブラリが情報に基づく事前分布のパラメータ化を見つけるための自動化された方法を提供します。[53]
参照
注記
- ^ 「確率的プログラミングでは、これまで数千行かかっていた処理を 50 行のコードで実行」。phys.org 2015年 4 月 13 日。2015 年4 月 13 日閲覧。
- ^ 「確率的プログラミング」。probabilistic -programming.org。2016年1月10日時点のオリジナルよりアーカイブ。2013年12月24日閲覧。
- ^ Pfeffer, Avrom (2014)、実践的確率プログラミング、Manning Publications、p.28。ISBN 978-1 6172-9233-0
- ^ abc 「短い確率的プログラミング機械学習コードが、コンピュータービジョンタスクの複雑なプログラムを置き換える」KurzweilAI 2015年4月13日。 2017年11月27日閲覧。
- ^ Hardesty, Larry (2015年4月13日). 「Graphics in river」.
- ^ 「MIT、不気味な頭を作る機械学習スクリプトを披露」The Register。
- ^ 「MITのGenプログラミングシステムはAIプロジェクトの学習曲線を平坦化します」。VentureBeat。2019年6月27日。 2019年6月27日閲覧。
- ^ Semenova, Elizaveta; Williams, Dominic P.; Afzal, Avid M.; Lazic, Stanley E. (2020年11月1日). 「毒性予測のためのベイジアンニューラルネットワーク」.計算毒性学. 16 : 100133. doi :10.1016/j.comtox.2020.100133. ISSN 2468-1113. S2CID 225362130.
- ^ ウィリアムズ、ドミニク P.; ラジック、スタンレー E.; フォスター、アリソン J.; セメノバ、エリザベータ; モーガン、ポール (2020)、「ベイジアン機械学習による薬物誘発性肝障害の予測」、化学毒性学研究、33 (1): 239–248、doi :10.1021/acs.chemrestox.9b00264、PMID 31535850、S2CID 202689667
- ^ Innes, Mike; Edelman, Alan; Fischer, Keno; Rackauckas, Chris; Saba, Elliot; Viral B Shah; Tebbutt, Will (2019). 「∂P: 機械学習と科学計算をつなぐ微分可能プログラミングシステム」. arXiv : 1907.07587 [cs.PL].
- ^ グッドマン、ノア・D; テネンバウム、ジョシュア・B; ブックスバウム、ダフナ; ハーツホーン、ジョシュア; ホーキンス、ロバート; オドネル、ティモシー・J; テスラー、マイケル・ヘンリー。「認知の確率モデル」。認知の確率モデル - 第2版。 2023年5月27日閲覧。
- ^ ab 「確率的プログラミングのためのチューリング言語」。GitHub 。 2021年12月28日。
- ^ ab "Infer.NET". microsoft.com . Microsoft.
- ^ ab "PRISM: 統計モデリングにおけるプログラミング". rjida.meijo-u.ac.jp . 2015年3月1日時点のオリジナルよりアーカイブ。2015年7月8日閲覧。
- ^ ab 「The BUGS Project - MRC Biostatistics Unit」。cam.ac.uk。2014年3月14日時点のオリジナルよりアーカイブ。2011年1月12日閲覧。
- ^ ab "Stan". mc-stan.org . 2012年9月3日時点のオリジナルよりアーカイブ。
- ^ 「確率的プログラミングの背後にあるアルゴリズム」。2017年3月10日閲覧。
- ^ De Raedt, Luc; Kimmig, Angelika (2015 年 7 月 1 日). 「確率的 (論理的) プログラミングの概念」.機械学習. 100 (1): 5–47. doi :10.1007/s10994-015-5494-z. ISSN 1573-0565.
- ^ 「Analytica - 確率的モデリング言語」lumina.com。
- ^ 「bayesloop - 確率的プログラミングフレームワーク」。bayesloop.com。
- ^ “GitHub -- bayesloop”. GitHub . 2021年12月7日.
- ^ 「Bean Machine - 高速かつ正確なベイズ分析を可能にする汎用確率プログラミング言語」beanmachine.org。
- ^ 「Venture -- 汎用確率的プログラミングプラットフォーム」。mit.edu。2016年1月25日時点のオリジナルよりアーカイブ。2014年9月20日閲覧。
- ^ 「SQLite 上の BayesDB。SQL データベースがデータ自体をクエリするのと同じくらい簡単に、データの可能性のある意味をクエリするためのベイジアン データベース テーブル」。GitHub。2021年12 月 26 日。
- ^ “diff-SAT (確率的SAT/ASP)”。GitHub。2021年10月8日。
- ^ Dey, Debabrata; Sarkar, Sumit (1998). 「PSQL: 確率的リレーショナルデータ用のクエリ言語」.データ&ナレッジエンジニアリング. 28 : 107–120. doi :10.1016/S0169-023X(98)00015-9.
- ^ 「Dyna」www.dyna.org。 2016年1月17日時点のオリジナルよりアーカイブ。2011年1月12日閲覧。
- ^ 「Charles River Analytics - 確率モデル化サービス」。cra.com。2017年2月9日。
- ^ 「ProbLog: 確率的プログラミング」. dtai.cs.kuleuven.be .
- ^ プロバそうです。 「ProbaYes - アンサンブル、価値を高めるためのアンサンブル」。probayes.com。 2016 年 3 月 5 日のオリジナルからアーカイブ。2013 年11 月 26 日に取得。
- ^ “はかるホームページ”. hakaru-dev.github.io/。
- ^ 「BAli-Phyホームページ」bali-phy.org。
- ^ 「ProbCog」。GitHub。
- ^ PyMC 開発者。「PyMC」。pymc-devs.github.io。
- ^ stripe/rainier、Stripe、2020年8月19日、 2020年8月26日閲覧
- ^ 「Rainier · Scala のベイジアン推論」。samplerainier.com。2020年8 月 26 日閲覧。
- ^ 「 greta : R でのシンプルでスケーラブルな統計モデリング」。GitHub。2018年10 月 2 日閲覧。
- ^ 「ホーム — pomegranate 0.10.0 ドキュメント」pomegranate.readthedocs.io . 2018年10月2日閲覧。
- ^ 「Lea ホームページ」. bitbucket.org .
- ^ 「WebPPL ホームページ」。github.com/probmods /webppl 。
- ^ 「Gen: プログラム可能な推論を備えた汎用確率プログラミング言語」。2024年6月11日閲覧。
- ^ 「Edward – Home」. edwardlib.org . 2017年1月17日閲覧。
- ^ TensorFlow (2018 年 4 月 11 日)。「TensorFlow Probability の紹介」。TensorFlow。2018年10月 2 日閲覧。
- ^ 「'Edward2' TensorFlow Probability モジュール」。GitHub。2024年6 月 11 日閲覧。
- ^ “Pyro”. pyro.ai. 2018年2月9日閲覧。
- ^ “NumPyro”. pyro.ai. 2021年7月23日閲覧。
- ^ 「Birch での確率的プログラミング」。birch-lang.org 。 2018 年4 月 20 日閲覧。
- ^ 「PSI Solver - 確率的プログラムの正確な推論」psisolver.org 。 2019年8月18日閲覧。
- ^ 「ホーム」www.stat.ubc.ca .
- ^ Perov, Yura; Graham, Logan; Gourgoulias, Kostis; Richens, Jonathan G.; Lee, Ciarán M.; Baker, Adam; Johri, Saurabh (2020 年 1 月 28 日)、MultiVerse: 確率的プログラミングにおける重要度サンプリングを使用した因果推論、arXiv : 1910.08091
- ^ 「The Anglican Probabilistic Programming System」. probprog.github.io . 2024年10月7日閲覧。
- ^ Gorinova, Maria I.; Sarkar, Advait; Blackwell, Alan F.; Syme, Don (2016 年 1 月 1 日)。「初心者向けのライブの複数表現の確率的プログラミング環境」。2016年CHI コンピューティング システムにおけるヒューマン ファクターに関する会議の議事録。CHI '16。ニューヨーク、ニューヨーク、米国: ACM。pp. 2533–2537。doi : 10.1145 /2858036.2858221。ISBN 9781450333627. S2CID 3201542。
- ^ 「pymc.find_constrained_prior — PyMC dev ドキュメント」。www.pymc.io 。2024年10 月 23 日閲覧。
外部リンク
- 確率モデルミニ言語ツールキットのリスト
- 確率的プログラミング ウィキ