Secure Aggregation

概要

• 各利用環境で共有モデルが再訓練される
• 各環境はは共有モデルからの差分を共有する
  • 予め指定されたzero-sumのマスク(+M or -M)を差分モデルに加える
  • マスク化された差分モデルをコーディネーションサーバーに送る
• コーディネーションサーバーは、差分モデルを集約し、共有モデルを更新する
  • 予め指定された数のマスク済み差分モデルが収集された後、集約を行う
  • 集約し、差分の平均をアンマスクされた形で求める(個々の差分モデルをアンマスクせずに)

Intent

利用者のプライバシーデータを反映したモデルを共有時に保護する

Problem

機能性(セキュリティ)の向上

Solution

• 予測モデルを再訓練し得られた差分モデルをマスク化する
• コーディネーションサーバーに差分モデルが一定数集まった後に予測モデルを更新する

Context

• フェーズ：全体設計、予測モデルの運用
• MLアプリケーションの利用環境：個人利用のデバイス（スマートフォンなど）で動くアプリケーション

Discussion

共有の予測モデルの更新は任意のタイミングで行われること