フェデレーテッドラーニング

連合学習（協調学習とも呼ばれる）は、複数のエンティティ（多くの場合クライアントと呼ばれる）がデータを分散したまま協力してモデルをトレーニングする設定に重点を置いた機械学習手法です。^[1]これは、データが集中的に保存される機械学習設定とは対照的です。連合学習の主な定義特性の1つは、データの異質性です。クライアントのデータは分散されているため、各クライアントが保持するデータサンプルが独立して同一に分散されているという保証はありません。

フェデレーテッド ラーニングは、一般的に、データのプライバシー、データの最小化、データのアクセス権などの問題に関係し、その動機となっています。その応用分野には、防衛、電気通信、モノのインターネット、医薬品など、さまざまな研究分野が含まれます。

フェデレーテッド ラーニングは、データ サンプルを明示的に交換することなく、ローカル ノードに含まれる複数のローカル データセットで機械学習アルゴリズム (ディープ ニューラル ネットワークなど) をトレーニングすることを目的としています。一般的な原則は、ローカル データ サンプルでローカル モデルをトレーニングし、これらのローカル ノード間で一定の頻度でパラメーター (ディープ ニューラル ネットワークの重みやバイアスなど) を交換して、すべてのノードで共有されるグローバル モデルを生成することです。

連合学習と分散学習の主な違いは、ローカルデータセットの特性に関する仮定にあります。 ^[2]分散学習はもともとコンピューティングパワーの並列化を目的としているのに対し、連合学習はもともと異種データセットのトレーニングを目的としています。分散学習も複数のサーバーで単一のモデルをトレーニングすることを目的としている一方で、共通の根底にある仮定は、ローカルデータセットが独立かつ同一に分散(iid) されており、ほぼ同じサイズであるということです。これらの仮説はいずれも連合学習用ではありません。代わりに、データセットは通常異種であり、そのサイズは数桁に及ぶ可能性があります。さらに、連合学習に関与するクライアントは、分散学習と比較して、より低性能の通信メディア ( Wi-Fiなど) とバッテリー駆動のシステム (スマートフォンや IoT デバイスなど) に依存するため、障害やドロップアウトが発生しやすく、信頼性が低い可能性があります。分散学習では、ノードは通常、強力な計算能力を持ち、高速ネットワークで相互に接続されたデータセンターです。^[3]

連合学習の目的関数は次のとおりです。

${\displaystyle f(\mathbf {x} _{1},\dots ,\mathbf {x} _{K})={\dfrac {1}{K}}\sum _{i=1}^{K}f_{i}(\mathbf {x} _{i})}$

ここで、はノードの数、はノードから見たモデルの重み、 はノードのローカル目的関数であり、モデルの重みがノードのローカル データセット にどのように準拠するかを示します。${\displaystyle K}$${\displaystyle \mathbf {x} _{i}}$${\displaystyle i}$${\displaystyle f_{i}}$${\displaystyle i}$${\displaystyle \mathbf {x} _{i}}$${\displaystyle i}$

フェデレーテッド ラーニングの目標は、すべてのノードのローカル データセットで共通モデルをトレーニングすることです。言い換えると、

• 目的関数を最適化します。${\displaystyle f(\mathbf {x} _{1},\dots ,\mathbf {x} _{K})}$
• についての合意を達成する。言い換えれば、トレーニング プロセスの最後に何らかの共通点に収束するということです。${\displaystyle \mathbf {x} _{i}}$${\displaystyle \mathbf {x} _{1},\dots ,\mathbf {x} _{K}}$${\displaystyle \mathbf {x} }$

集中型連合学習設定では、中央サーバーを使用してアルゴリズムのさまざまなステップを調整し、学習プロセス中に参加するすべてのノードを調整します。サーバーは、トレーニングプロセスの開始時にノードを選択し、受信したモデルの更新を集約する役割を担います。選択されたすべてのノードが単一のエンティティに更新を送信する必要があるため、サーバーがシステムのボトルネックになる可能性があります。^[3]

分散型連合学習の設定では、ノードはグローバルモデルを取得するために自ら調整することができます。この設定では、モデルの更新は中央サーバーのオーケストレーションなしで相互接続されたノード間でのみ交換されるため、単一障害点が防止されます。ただし、特定のネットワークトポロジは学習プロセスのパフォーマンスに影響を与える可能性があります。^[3]ブロックチェーンベースの連合学習^[4]とその中の参考文献を参照してください。

携帯電話やIoTデバイスなど、異種クライアントの大規模なセットを伴うアプリケーションドメインが増えています。^[5]既存の連合学習戦略のほとんどは、ローカルモデルが同じグローバルモデルアーキテクチャを共有することを前提としています。最近、非常に異なる計算機能と通信機能を備えた異種クライアントに対応するために、HeteroFLという新しい連合学習フレームワークが開発されました。^{[6] HeteroFL技術は、動的に変化する計算と非}IIDデータの複雑さを持つ異種ローカルモデルのトレーニングを可能にしながら、単一の正確なグローバル推論モデルを生成します。^{[6] [7]}

最終的な中心的な機械学習モデルの良好なタスクパフォ​​ーマンスを確保するために、連合学習は、連合学習ラウンドと呼ばれるクライアントとサーバーの相互作用の原子セットに分割された反復プロセスに依存しています。このプロセスの各ラウンドは、現在のグローバルモデルの状態を参加ノードに送信し、これらのローカルノードでローカルモデルをトレーニングして各ノードで潜在的なモデル更新のセットを作成し、これらのローカル更新を集約して処理し、単一のグローバル更新にしてグローバルモデルに適用することから構成されます。^[3]

以下の手法では、集約には中央サーバーが使用され、ローカルノードは中央サーバーの指示に応じてローカルトレーニングを実行します。ただし、他の戦略では、中央サーバーを使用せずに、ゴシップ^[8]またはコンセンサス手法^[9]を使用してピアツーピアアプローチで同じ結果をもたらします。

学習プロセスの1回の反復で構成される連合ラウンドを想定すると、学習手順は次のように要約できます。^[10]

1. 初期化: サーバーの入力に応じて、機械学習モデル (例:線形回帰、ニューラル ネットワーク、ブースティング) が選択され、ローカル ノードでトレーニングされ、初期化されます。次に、ノードがアクティブ化され、中央サーバーが計算タスクを与えるのを待機します。
2. クライアントの選択: ローカル ノードの一部が選択され、ローカル データのトレーニングが開始されます。選択されたノードは現在の統計モデルを取得し、他のノードは次のフェデレーション ラウンドを待機します。
3. 構成: 中央サーバーは、選択されたノードに対して、事前に指定された方法(たとえば、勾配降下法のミニバッチ更新など)でローカルデータ上でモデルのトレーニングを実行するように指示します。
4. レポート: 選択された各ノードは、集約のためにローカル モデルをサーバーに送信します。中央サーバーは受信したモデルを集約し、モデルの更新をノードに送り返します。また、切断されたノードの障害やモデルの更新の損失も処理します。次のフェデレーション ラウンドが開始され、クライアント選択フェーズに戻ります。
5. 終了: 事前に定義された終了基準が満たされると (たとえば、最大反復回数に達した場合や、モデルの精度がしきい値を超えた場合など)、中央サーバーは更新を集約し、グローバル モデルを最終決定します。

これまで検討した手順は、同期モデル更新を前提としています。最近の連合学習の発展により、トレーニングプロセス中の非同期性、つまり動的に変化するモデルでのトレーニングに対処するための新しい手法が導入されました。^{[6]ニューラルネットワークのすべての層で計算が実行されるとローカルモデルが交換される同期アプローチと比較して、非同期アプローチはニューラルネットワークの特性を利用して、特定の層の計算が利用可能になるとすぐにモデル更新を交換します。これらの手法は一般に分割学習とも呼ばれ、 [11] [12]}集中型または分散型の連合学習設定に関係なく、トレーニング時と推論時の両方に適用できます。^{[3] [6]}

ほとんどの場合、ローカルノード間でサンプルが独立かつ同一に分布しているという仮定は、フェデレーテッドラーニングの設定には当てはまりません。この設定では、トレーニングプロセスのパフォーマンスは、ローカルノードに保存されているトレーニング例（つまり、特徴とラベル）の特定の確率分布だけでなく、不均衡なローカルデータサンプルによっても大きく変わる可能性があります。非IIDデータの影響をさらに調査するために、以下の説明では、2019年のPeter Kairouzらによるプレプリントで提示された主なカテゴリを考慮します。^[3]

非IIDデータの記述は、各ノードの特徴とラベル間の結合確率の分析に依存しています。これにより、ローカルノードで利用可能な特定の分布に従って、各寄与を分離することができます。非IIDデータの主なカテゴリは次のようにまとめることができます。^[3]

• 共変量シフト：ローカルノードは、他のノードと比較して異なる統計分布を持つ例を格納する場合があります。例としては、自然言語処理データセットで、人々は通常、同じ数字/文字を異なる線幅や傾きで書きます。^[3]
• 事前確率シフト：ローカルノードは、他のノードと比較して異なる統計分布を持つラベルを格納する場合があります。これは、データセットが地域的および/または人口統計的に分割されている場合に発生する可能性があります。たとえば、動物の画像を含むデータセットは、国によって大きく異なります。^[3]
• 概念ドリフト（同じラベル、異なる特徴）：ローカルノードは同じラベルを共有する場合がありますが、その一部は異なるローカルノードの異なる特徴に対応します。たとえば、特定のオブジェクトを描写した画像は、撮影された気象条件によって異なる場合があります。^[3]
• 概念シフト（同じ特徴、異なるラベル）：ローカルノードは同じ特徴を共有するが、その一部は異なるローカルノードで異なるラベルに対応する。例えば、自然言語処理では、同じテキストが観察されても感情分析によって異なる感情が生じることがある。^[3]
• 不均衡：ローカルノードで利用可能なデータ量のサイズは大きく異なる可能性がある。^{[3] [6]}

非IIDデータによる精度の低下は、バッチ正規化ではなく、より洗練されたデータ正規化方法を使用することで制限することができます。^[13]

統計的なローカル出力をプールする方法とノードが互いに通信する方法は、前のセクションで説明した集中型モデルから変更することができます。これにより、さまざまな連合学習アプローチが生まれます。たとえば、中央オーケストレーションサーバーがない場合や、確率的な通信がある場合などです。^[14]

特に、オーケストレーターレス分散ネットワークは重要なバリエーションの1つです。この場合、ローカルノードにクエリをディスパッチしてローカルモデルを集約する中央サーバーは存在しません。各ローカルノードは、ランダムに選択された他のノードに出力を送信し、その結果をローカルに集約します。これによりトランザクション数が抑制され、トレーニング時間と計算コストが削減されることがあります。^[15]

ノード ネットワークのトポロジを選択すると、機械学習モデル独自のハイパーパラメータに加えて、フェデレーテッド ラーニング プロセスのさまざまなパラメータを制御して、学習を最適化できます。

• 連合学習ラウンドの数:${\displaystyle T}$
• プロセスで使用されるノードの合計数:${\displaystyle K}$
• 各ノードの各反復で使用されるノードの割合:${\displaystyle C}$
• 各学習反復で使用されるローカルバッチ サイズ:${\displaystyle B}$

次のようなモデルに依存するその他のパラメータも調整できます。

• プーリング前のローカルトレーニングの反復回数:${\displaystyle N}$
• ローカル学習率:${\displaystyle \eta }$

これらのパラメータは、機械学習アプリケーションの制約（利用可能な計算能力、利用可能なメモリ、帯域幅など）に応じて最適化する必要があります。たとえば、各反復で限られた数のノードを確率的に選択すると、計算コストが削減され、過剰適合を防ぐことができます^{[引用が必要]}。これは、確率的勾配降下法が過剰適合を軽減できるのと同じです。 ${\displaystyle C}$

フェデレーテッド ラーニングでは、学習プロセス中にノード間で頻繁に通信する必要があります。そのため、十分なローカル コンピューティング パワーとメモリだけでなく、機械学習モデルのパラメータを交換できる高帯域幅接続も必要です。ただし、このテクノロジでは、集中型機械学習を開始する前に大量のリソースが必要になる可能性のあるデータ通信も回避できます。ただし、フェデレーテッド ラーニングで一般的に使用されるデバイスは通信に制約があり、たとえば IoT デバイスやスマートフォンは通常 Wi-Fi ネットワークに接続されているため、モデルの送信コストが生データに比べて一般的に安価であっても、フェデレーテッド ラーニング メカニズムは一般的な形式では適さない可能性があります。^[3]

連合学習では、いくつかの統計上の課題が生じます。

• 異なるローカルデータセット間の異質性：各ノードは一般集団に対して何らかの偏りを持つ可能性があり、データセットのサイズは大幅に異なる可能性があります。^[6]
• 時間的異質性: 各ローカル データセットの分布は時間とともに変化する可能性があります。
• 各ノードのデータセットの相互運用性が前提条件です。
• 各ノードのデータセットには定期的なキュレーションが必要になる場合があります。
• トレーニングデータを隠すと、攻撃者がグローバルモデルにバックドアを挿入できる可能性がある。 ^[16]
• グローバルなトレーニング データにアクセスできないと、年齢、性別、性的指向など、トレーニングに含まれる不要な偏見を特定することが難しくなります。
• ノード障害によりモデル更新が部分的または完全に失われ、グローバルモデルに影響する。^[3]
• クライアント側に注釈やラベルがない。^[17]
• 処理プラットフォーム間の異質性^[18]

連合最適化のためのさまざまなアルゴリズムが提案されています。

ディープラーニングのトレーニングは主に、確率的勾配降下法のバリエーションに依存しており、勾配はデータセット全体のランダムなサブセットで計算され、勾配降下法の 1 ステップの作成に使用されます。

フェデレーテッド確率的勾配降下法^[19]は、このアルゴリズムをフェデレーテッド設定に直接転置したものですが、ランダムなノードの一部を使用し、このノード上のすべてのデータを使用します。勾配は、各ノードのトレーニングサンプルの数に比例してサーバーによって平均化され、勾配降下ステップの作成に使用されます。 ${\displaystyle C}$

フェデレーテッド平均化 (FedAvg) は FedSGD の一般化であり、ローカルノードがローカルデータに対して複数のバッチ更新を実行し、勾配ではなく更新された重みを交換できるようにします。この一般化の背後にある理論的根拠は、FedSGD では、すべてのローカルノードが同じ初期化から開始する場合、勾配を平均化することは重み自体を平均化することと厳密に同等であるということです。さらに、同じ初期化から得られる調整された重みを平均化しても、結果として得られる平均モデルのパフォーマンスが必ずしも損なわれるわけではありません。^[20] ADAMやAdaGradなどの適応型オプティマイザーに基づく FedAvg のバリエーションが提案されており、一般的に FedAvg よりも優れています。^[21]

フェデレーテッドラーニング法は、デバイスデータセットが不均一に分散されている場合に問題が生じます。不均一に分散されたデバイス設定における基本的なジレンマは、デバイス損失関数を最小化することと、グローバル損失目標を最小化することとは同じではないということです。2021年に、Acarら^[22]は、不均一なデータセット設定の解決策としてFedDyn法を導入しました。FedDynは、各デバイスの損失関数を動的に正規化して、変更されたデバイス損失が実際のグローバル損失に収束するようにします。ローカル損失が揃っているため、FedDynはさまざまな不均一性レベルに対して堅牢であり、各デバイスで安全に完全な最小化を実行できます。理論的には、FedDynは不均一性レベルにとらわれずに、最適値（非凸損失の定常点）に収束します。これらの主張は、さまざまなデータセットでの広範な実験によって検証されています。^[22]

通信回数を最小限に抑えることは、連合学習における比較のゴールドスタンダードです。また、各ラウンドでデバイスあたりのローカル計算レベルを下げることもできます。FedDynOneGD ^[22]は、ローカル計算要件が少ない FedDyn の拡張です。FedDynOneGD は、各ラウンドでデバイスごとに 1 つの勾配のみを計算し、勾配の正規化バージョンでモデルを更新します。したがって、計算の複雑さはローカルデータセットのサイズに比例します。さらに、勾配計算は各デバイス内で並列化でき、これは連続する SGD ステップとは異なります。理論的には、FedDynOneGD は、ローカル計算が少ない FedDyn と同じ収束保証を実現します。^[22]

フェデレーテッドラーニング法は、非IID設定では良好なグローバルパフォーマンスを達成できないため、参加クライアントはフェデレーションでパーソナライズされたモデルを生成するよう動機付けられます。最近、Vahidianら^[23]は、通信効率、リソース制約、パーソナライズされたモデルの精度を同時に処理するクライアントの描画されたサブネットワークの交差点で平均化するハイブリッドプルーニング（構造化プルーニング+非構造化プルーニング）を提案することで、新しいパーソナライズされたFLアルゴリズムパラダイムを開くSub-FedAvgを導入しました。^[23]

Sub-FedAvgは、実験を通じて連合学習におけるクライアント向けのパーソナライズされた当選券の存在を示した最初の研究です。^[23] さらに、パーソナライズされたサブネットワークを効果的に描画する方法に関する2つのアルゴリズムも提案しています。^[23] Sub-FedAvgは、集中的にトレーニングされたニューラルネットワーク向けの「宝くじ券仮説」を連合学習でトレーニングされたニューラルネットワークに拡張し、「連合学習でトレーニングされているクライアントのニューラルネットワークに当選券は存在するのか？存在する場合、各クライアントのパーソナライズされたサブネットワークを効果的に描画するにはどうすればよいのか？」という未解決の研究課題につながります。

IDA（逆距離集約）は、不均衡なデータや非IIDデータを処理するメタ情報に基づいたクライアント向けの新しい適応型重み付けアプローチです。モデルパラメータの距離を戦略として使用して、外れ値の影響を最小限に抑え、モデルの収束率を向上させます。^[24]

クライアントが特徴とサンプルの両方のサブセットのみを保持するハイブリッド連合学習の方法はほとんどありません。しかし、このシナリオは実際の設定で非常に重要です。ハイブリッド連合デュアル座標上昇（HyFDCA）^[25]は、2024年に提案された、ハイブリッドFL設定で凸問題を解決する新しいアルゴリズムです。このアルゴリズムは、Jaggiら（2014）^[26]とSmithら（2017）^[27]によって導入された主双対分散最適化アルゴリズムであるCoCoAを、サンプルと特徴の両方がクライアント間で分割されている場合に拡張します。

HyFDCA は、既存のアルゴリズムに比べていくつかの点で改善されていると主張しています。

• HyFDCA は、少なくとも以下の設定において、ハイブリッド FL の収束が証明可能な主双対アルゴリズムです。
  • 完全なクライアント参加によるハイブリッドフェデレーション設定
  • 利用可能なクライアントのランダムなサブセットによる水平フェデレーション設定
    • 著者らは、 HyFDCAの収束率はO ( 1⁄t )であり、これはFedAvgの収束率と一致することを示している（下記参照）。^[28]
  • 不完全なクライアント参加による垂直連合設定
    • 著者らは、HyFDCAの収束率はO ( log(t) ⁄t )であるのに対し、FedBCD ^[29]はO ( 1⁄sqrt (t) )と収束率が遅く、クライアントの完全な参加が必要であることを示している。
• HyFDCA は、プライマルデュアル設定でクライアント データのプライバシーを保証するプライバシー手順を提供します。これらの原則は、FL のプライマルデュアル アルゴリズムを開発する将来の取り組みに適用されます。
• HyFDCA は、多数の問題設定とデータセットにわたって、損失関数の値と検証精度において HyFEM および FedAvg よりも経験的に優れています (詳細については以下を参照)。著者らは、多目的最適化のアイデアを使用して、競合するメトリックを備えた FL のハイパーパラメータ選択フレームワークも紹介しています。

ハイブリッド FL に焦点を当てたアルゴリズムは他に 1 つだけあり、Zhang ら (2020) が提案した HyFEM です。^[30]このアルゴリズムは、クライアントが正確なローカル モデルを構築することと、サーバーが正確なグローバル モデルを学習することのバランスをとる特徴マッチング定式化を使用します。これには、ユーザーの目標に基づいて調整する必要があるマッチング正則化定数が必要であり、ローカル モデルとグローバル モデルが異なります。さらに、HyFEM に提供される収束結果は、元のグローバル問題の収束ではなく、マッチング定式化の収束のみを証明しています。この作業は、ローカル クライアントのデータを使用して、モデルが中央でトレーニングされた場合と同じソリューションに収束するグローバル モデルを構築する HyFDCA のアプローチとは大きく異なります。さらに、ローカル モデルとグローバル モデルは同期されており、ローカル モデルとグローバル モデル間のマッチング パラメーターの調整は必要ありません。ただし、HyFEM はディープラーニング アーキテクチャを含むさまざまなアーキテクチャに適していますが、HyFDCA はロジスティック回帰やサポート ベクター マシンなどの凸問題向けに設計されています。

HyFDCA は、いくつかの一般的なデータセット (MNIST、Covtype、News20) の凸問題 (具体的には分類問題) を解く際に、前述の HyFEM および一般的な FedAvg に対して実験的にベンチマークされています。著者らは、調査した 36 の比較のうち 33 件、外部反復回数に関して調査した 36 の比較のうち 36 件で、HyFDCA がより低い損失値とより高い検証精度に収束し、全体的な時間が短いことを発見しました。^[25]最後に、HyFDCA では、FedAvg (3 回の調整が必要) や HyFEM (4 回の調整が必要) とは異なり、内部反復回数という 1 つのハイパーパラメータの調整のみが必要です。FedAvg と HyFEM はハイパーパラメータを最適化するのが非常に難しく、それが収束に大きく影響することに加えて、HyFDCA の単一のハイパーパラメータにより、より単純な実用的な実装とハイパーパラメータ選択方法が可能になります。

^{フェデレーテッド ラーニングは、2015 年[2]}と 2016 年^[31]に重要な研究トピックとして浮上し始め、通信環境におけるフェデレーテッド平均化に関する最初の出版物が発表されました。それ以前は、「適応型重みによるマルチソース プリフェッチのフレームワーク」と題された論文^[32]で、要求応答サイクルの 3 つの場所でトレーニングされた複数のモデルからの予測を集約するアプローチが提案されました。活発な研究のもう 1 つの重要な側面は、フェデレーテッド ラーニング プロセス中の通信負荷の軽減です。2017 年と 2018 年の出版物では、リソース割り当て戦略の開発、特にゴシップアルゴリズム^[34 ]を使用したノード間の通信^[20]要件[ ^33]の軽減、および差分プライバシー攻撃に対する堅牢性の特性評価に重点が置かれています。^[35]その他の研究活動は、スパース化および量子化法^[33]によるトレーニング中の帯域幅の削減に焦点を当てています。これらの方法では、機械学習モデルが他のノードと共有される前にスパース化および/または圧縮されます。超軽量DNNアーキテクチャの開発はデバイス/エッジ学習に不可欠であり、最近の研究では将来の連合学習におけるエネルギー効率の要件^[36]と、特に学習中の深層学習の圧縮の必要性の両方が認識されています。^[37]

最近の研究の進歩は、以前の実装では理想的なチャネルが想定されていたのに対し、現実世界の伝播チャネル^[38]を考慮し始めています。研究のもう一つの活発な方向性は、計算の複雑さが異なる異種のローカルモデルをトレーニングし、単一の強力なグローバル推論モデルを生成するための連合学習を開発することです。^[6]

アシスト学習と呼ばれる学習フレームワークは、最近、プライベートデータ、モデル、さらには学習目標を送信することなく、各エージェントの学習能力を向上させるために開発されました。^{[39]学習と最適化を調整するために}中央コントローラを必要とすることが多いフェデレーテッドラーニングと比較して、アシスト学習は、グローバルモデルなしでエージェントが自分たちで最適化および学習するためのプロトコルを提供することを目的としています。

フェデレーテッドラーニングは、通常、個々のアクターが自分のものよりも大きなデータセットでモデルをトレーニングする必要があるが、そのデータを他者と共有する余裕がない場合（たとえば、法的、戦略的、または経済的理由により）に適用されます。このテクノロジーでは、ローカルサーバー間の良好な接続と各ノードの最小限の計算能力が必要です。^[3]

自動運転車は、障害物を分析するためのコンピュータービジョン、環境（道路の凹凸など）に合わせてペースを適応させるための機械学習など、多くの機械学習技術をカプセル化して機能します。自動運転車の潜在的台数の増加と、実際の状況に迅速に対応する必要性により、従来のクラウドアプローチでは安全上のリスクが生じる可能性があります。フェデレーテッドラーニングは、データ転送量を制限し、学習プロセスを加速するためのソリューションとなります。^{[40] [41]}

インダストリー4.0では、高い安全性を保証しながら産業プロセスの効率と有効性を向上させるために、機械学習技術^[42]が広く採用されています。しかし、産業や製造会社にとって機密データのプライバシーは最も重要です。連合学習アルゴリズムは機密データを開示しないため、これらの問題に適用できます。 ^[31]さらに、FLはスマートシティセンシングアプリケーションをサポートするためにPM2.5予測にも実装されています。^[43]

フェデレーテッド ラーニングは、データ自体を交換せずにアルゴリズムを共同でトレーニングすることで、データ ガバナンスとプライバシーの問題に対処しようとしています。複数のセンターからデータを一元化する今日の標準的なアプローチは、患者のプライバシーとデータ保護に関する重大な懸念を犠牲にしています。この問題を解決するには、データを移動せずに複数の医療機関で機械学習モデルを大規模にトレーニングする機能が重要なテクノロジーです。Nature Digital Medicine は 2020 年 9 月に「フェデレーテッド ラーニングによるデジタル ヘルスの未来」^[44]という論文を発表しました。この論文で著者らは、フェデレーテッド ラーニングがデジタル ヘルスの未来にどのようにソリューションを提供できるかを探り、対処する必要がある課題と考慮事項を強調しています。最近、世界中の 20 の異なる機関が協力して、フェデレーテッド ラーニングを使用した AI モデルのトレーニングの有用性を検証しました。Nature Medicine に掲載された論文「COVID-19 患者の臨床転帰を予測するためのフェデレーテッド ラーニング」^[45]では、 COVID-19 感染患者の酸素必要量を予測するためのフェデレーテッド AI モデルの精度と一般化可能性が示されました。さらに、公開された論文「ヘルスケア分野における連合学習の体系的レビュー：データ特性とアプリケーションの観点から」では、著者らは医療データ中心の観点からのFLの課題に関する一連の課題を提示しようとしている。^[46]

産業界と学界の連合がMedPerf ^[47]を開発しました。これは、医療AIモデルの実世界データでの検証を可能にするオープンソースプラットフォームです。このプラットフォームは、技術的には患者のプライバシーの懸念を軽減することを目的としたAIモデルの連合評価に依存しており、概念的には中立的で臨床的に影響力のあるベンチマークの仕様を構築するための多様なベンチマーク委員会に依存しています。^[48]

ロボティクスには、知覚や意思決定から制御まで、機械学習手法の幅広いアプリケーションが含まれます。ロボット技術が単純で反復的なタスク（反復操作など）から複雑で予測不可能なタスク（自律ナビゲーションなど）にますます導入されるにつれて、機械学習の必要性が高まっています。Federated Learningは、従来の機械学習トレーニング方法を改善するソリューションを提供します。論文^[49]では、移動ロボットがFLベースの方法を使用してさまざまな環境でのナビゲーションを学習し、一般化を支援しました。論文^[50]では、 Federated Learningは、実際の学習ベースのロボットタスクにおける現在の課題である、通信帯域幅が限られたシナリオでのマルチロボットナビゲーションを改善するために適用されています。論文^[51]では、 Federated Learningはビジョンベースのナビゲーションを学習するために使用され、シミュレーションから現実への転送を改善します。

• 「2016年4月27日の欧州議会および理事会の規則（EU）2016/679」eur-lex.europa.eu。2019年10月18日閲覧。
• 「AI システムにおけるデータ最小化とプライバシー保護技術」英国情報コミッショナー事務局のWayback Machineに 2020 年 7 月 23 日にアーカイブ。2020 年 7 月 22 日に閲覧
• 「R3 の EyA と Conclave でプライバシーを保護しながらデータの可能性を実現する」eya.global。2022 年 3 月 31 日に閲覧。