跳至主要內容

Enhancing IoT Security with Asynchronous Federated Learning for Seismic Inversion

原创Xenny2025/9/2约 4589 字大约 19 分钟FWIFWI联邦学习

Enhancing IoT Security with Asynchronous Federated Learning for Seismic Inversion

  • DOI：10.1109/ICCWorkshops59551.2024.10615411

  • 地震数据/图像对于理解地下结构至关重要。然而，地震图像需要转换为能够识别地下层深度和厚度的速度图像才能进行准确的结构分析，这一转换通常通过地震全波形反演（FWI）实现。近年来，各种深度神经网络（DNN）被提出用于替代FWI，经过良好训练的DNN通常计算成本更低，但能生成与FWI相似的速度图像。然而，DNN模型的训练需要将现场地震接收器采集的地震数据传输到集中式数据中心，这会带来数据隐私和安全问题。地震现场测试通常在偏远地区进行，这些地方缺乏数据中心和互联网基础设施，因此无法实时训练DNN并实现地震反演。本文提出了一种用于地震反演的异步联邦学习（AsyncFedInv）框架，该框架利用多台边缘计算板等物联网设备，通过新颖的异步联邦学习方法协同实时训练紧凑的UNet模型。其中，1）引入了陈旧度函数以缓解模型陈旧问题，2）对于生成相似本地模型的客户端，将暂停其训练，从而降低通信成本和能耗。仿真结果表明，AsyncFedInv在收敛速度与基线算法FedAvg相当的同时，训练损失更低，测试性能更优。

介绍

  • 联邦学习地震反演
    联邦学习地震反演

    图1展示了地震收集与联邦学习训练过程，由可控震源车产生可控低频振动声波传至地下界层，这些波将被地下界层反射，再由部署在地面的一组地震接收机接收得到地震波。

    然而，这些地震波还需经由FWI才可得到地下界层的深度和厚度。

  • FWI可以看作是最小化正演算子ff的MSE过程，即min⁡∥d−f(m)∥2\min \lVert \mathbf{d} - f(\mathbf{m})\rVert ^2，其中d\mathbf{d}为地震波记录，m\mathbf{m}为速度模型，f(m)f(\mathbf{m})为m\mathbf{m}通过ff得到的模拟地震记录。

    目前，FWI的两个主要问题为：

    1. 计算成本高，每次FWI迭代中需要大量地震波场模拟和重建来最小化MSE；
    2. 对数据中的噪声和误差高度敏感，地震记录或初始模型的微小误差会在FWI生成的速度图像结果中产生重大偏差。

  • 为了解决上述问题，深度神经网络（DNN）被应用与地震领域，其已被证明拥有较低的计算成本与较高的抗噪性。

    包括：

    1. 使用FCN implement seismic inversion；
    2. 使用GAN transforms raw seismic waveform into velocity images；
    3. 使用DNN introduced a velocity prediction technique；
    4. SeisInvNet perform end-to-end velocity inversion mapping。

  • 但上述所有方法都基于集中式方式进行训练，同地震接收器采集的数据必须传输到数据中心，这带来了数据隐私和安全问题。

    并且地震测试通常在农村地区进行，缺乏数据中心和互联网基础设施。大量地震数据需要人工运输到数据中心，无法实现实时训练和测试。

    本文引入联邦学习（FL）和边缘计算来解决这些问题，如图1所示，该设备以计算板（computing board）的形式上传其地震数据，每个IoT设备作为FL中的客户端存储和处理其接收的地震数据。 在此，FL允许不同客户端协作训练ML模型，而无需共享其地震数据，从而确保IoT数据隐私和安全。

    整个训练过程分类一系列全局轮次，每个轮次分为四步：

    1. FL服务器（可以是测试场中的一个IoT设备）选择合适客户端，并向这些客户端广播当前全局模型。
    2. 每个选中的客户端使用本地地震数据独立训练接收到的全局模型，以获得本地模型。
    3. 选中的客户端随后通过无线网将其本地模型上传到FL服务器。
    4. 一旦接收到所有选中客户端的本地模型，FL服务器便进行聚合，使用例如FedAvg等方法更新全局模型。

    全局轮次继续进行，直到全局模型收敛或全局轮次数量超出预定义的阈值为止。

  • 上述过程被称为同步FL，其中FL服务器必须等待直到所有选中的客户端都上传了它们的本地模型，如果其中一个选中的客户端需要更长的时间来计算和上传其本地模型，这可能导致拖尾问题，从而增加全局轮次的延迟。

    尽管已经提出了许多解决方案来缓解拖尾问题，但它们都带来了其他问题。例如，最流行的解决方案之一是设置截止时间，FL服务器只选择能够在截止时间前上传其本地模型的客户端，或者简单地忽略在截止时间后上传的本地模型。这种解决方案可能会因为有偏的客户端选择而降低全局模型精度，即FL服务器不选择慢速客户端，因此导出的全局模型可能无法适应来自这些慢速客户端的训练数据。

    本文采用异步FL，当FL服务器从任何客户端接收到本地模型时便更新全局模型，再将更新后的全局模型发给该客户端。 异步FL没有拖尾问题，并允许所有客户端参与训练过程，但也包含两个突出缺点：

    1. 模型陈旧性（Model Staleness）

      慢速客户端基于过时的全局模型训练其本地模型；因此，当FL服务器聚合来自这些慢速客户端的本地模型时，全局模型可能会降低其精度。

    2. 高通信成本

      快速客户端需要与FL服务器更频繁地通信，从而导致高能耗。

  • 本文提出了一种异步联邦学习地震反演（AsyncFedInv）框架，将异步FL和边缘计算集成到地震数据分析中，以实现实时地震反演，主要贡献总结为：

    1. 提出AsyncFedInv框架

      边缘设备能够应用异步FL训练DNN（UNet），实现实时地震反演。是第一个探索将FL和边缘计算集成到地震反演的研究。

    2. AsyncFedInv技术创新：

      1. 陈旧性函数（staleness functions）：模型聚合过程中动态调整本地模型权重，从而缓解模型陈旧性问题。
      2. 动态客户端参与：本地模型与当前全局模型没有显著差异的客户端训练赞同，从而减少通信成本和能耗，同时保持模型精度。

    3. 大量的仿真实验

      通过大量仿真实验证明AsyncFedInv的收敛性和模型精度。通过仿真评估了应用不同陈旧性函数时AsyncFedInv的性能。

数据驱动FWI（DD-FWI）设计

  • DD-FWI的目的是推导出一个由参数θ\mathbf{\theta}参数化的伪逆算子Fθ†:RD→RMF_{\mathbf{\theta}}^{\dagger}: \mathbf{R}^{D} \rightarrow \mathbf{R}^M，其中

    Fθ†(Pobs)≈mtrue+ε,(1)F_{\mathbf{\theta}}^{\dagger}(\mathbf{P}^{\mathrm{obs}}) \approx \mathbf{m}^{\mathrm{true}} + \varepsilon, \tag{1}

    其中Pobs\mathbf{P}^{\mathrm{obs}}是不同地震接收器观测到的地震数据，mtrue∈RM\mathbf{m}^{\mathrm{true}} \in \mathrm{R}^{M}是真实速度模型，ε\varepsilon是测量噪声。

    在2D场景中，Pobs\mathbf{P}^{\mathrm{obs}}和mtrue\mathbf{m}^{\mathrm{true}}的维度分别为D=S×R×TD = S\times R \times T和M=H×WM = H\times W。

  • 在DD-FWI中，Fθ†F_{\mathbf{\theta}}^{\dagger}通常实现为一个DNN，它学习从地震数据到速度模型的映射，Fθ†F_{\mathbf{\theta}}^{\dagger}中的参数θ\mathbb{\theta}基于给定地震数据集{P1obs,⋯ ,PNobs}\{\mathbf{P}_{1}^{\mathrm{obs}},\cdots, \mathbf{P}_{N}^{\mathrm{obs}}\}和对应速度模型图像{m1true,⋯ ,mNtrue}\{\mathbf{m}_{1}^{\mathrm{true}},\cdots,\mathbf{m}_{N}^{\mathrm{true}}\}上进行训练，其中速度图像可以基于物理FWI模型获得，该模型具有高计算成本但提供准确的速度图像。UNet的损失函数为：

    arg min⁡θL=arg min⁡θ∑i=1N∥mitrue−Fθ(Piobs)∥2.(2)\argmin_{\mathbf{\theta}} \mathcal{L} = \argmin_{\mathbf{\theta}} \sum_{i=1}^{N}\lVert \mathbf{m}_i^{\mathrm{true}} - F_{\mathbf{\theta}}(\mathbf{P}_{i}^{\mathbf{obs}})\rVert^2. \tag{2}

    网络结构
    网络结构

系统模型

  • FL中的客户端用于协作训练UNet模型最小化全局损失函数L\mathcal{L}，即

    arg min⁡θL=arg min⁡θ∑k∈KNkNLk(θ),(3)\argmin_{\mathrm{\theta}} \mathcal{L} = \argmin_{\mathrm{\theta}} \sum_{k\in\mathcal{K}}\frac{N_k}{N}\mathcal{L_k}(\mathrm{\theta}),\tag{3}

    其中θ\mathrm{\theta}是全局模型参数，K\mathcal{K}是客户端集，NkN_k是客户端kk中地震数据和速度图像对的数量。N=∑k∈KNkN = \sum_{k\in \mathcal{K}}N_k是全部地震数据和速度图像对数量，Lk(ω)\mathcal{L}_{k}(\mathbf{\omega})为客户端kk的本地损失函数，即

    Lk(θ)=1Nk∑n=1NkL(θ,Pnobs,mntrue).(4)\mathcal{L}_k(\mathrm{\theta}) = \frac{1}{N_k}\sum_{n=1}^{N_k}\mathcal{L}(\mathbf{\theta},\mathbf{P}_n^{\mathrm{obs}},\mathbf{m}_n^{\mathrm{true}}). \tag{4}

    然而问题(3)不是平凡问题，FL将问题分解，使每个客户端都能基于本地数据集推导出本地模型θk\mathbf{\theta}_k，以最小化损失函数，即

    arg min⁡θk1Nk∑n=1NkL(θk,Pnobs,mntrue)=arg min⁡θk1Nk∑n=1Nk∥mntrue−Fθk(Pnobs)∥2,(5)\argmin_{\mathbf{\theta}_k}\frac{1}{N_k}\sum_{n=1}^{N_k}\mathcal{L}(\mathbf{\theta}_k,\mathbf{P}_n^{\mathrm{obs}},\mathbf{m}_n^{\mathrm{true}}) = \argmin_{\mathbf{\theta}_k}\frac{1}{N_k}\sum_{n=1}^{N_k}\lVert \mathbf{m}_n^{\mathrm{true}} - F_{\mathbf{\theta}_k}(\mathbf{P}_n^{\mathrm{obs}})\rVert^2,\tag{5}

    然后在FL服务器上聚合本地模型得到全局模型。

延迟模型

  • 客户端kk的延迟包括：

    1. 客户端kk从服务器下载全局模型的延迟tkdownloadt_k^{download}；
    2. 客户端kk计算本地模型的延迟tkcompt_k^{comp}；
    3. 客户端kk将本地模型上传到FL服务器的延迟tkuploadt_k^{upload}；
    4. FL服务器更新全局模型的延迟。

    通常，第四步中与全局模型更新的相关延迟可以忽略，因此客户端kk在每次迭代中的延迟定义为

    tk=tkdownload+tkcomp+tkupload.(6)t_k = t_k^{download} + t_k^{comp} + t_k^{upload}. \tag{6}

    1. 计算延迟：假设客户端kk使用NkN_k个地震图像训练本地模型，批次大小为η\eta，因此批次数为Nkη\frac{N_k}{\eta}，另外，假设训练本地模型的本次迭代次数为ϕ\phi

      因此，在客户端kk的全局轮次中，前向传播和反向传播的次数分别为Nk×ϕN_k\times \phi和ϕNkη\frac{\phi N_k}{\eta}。如果在客户端kk中对提出的UNet模型进行一次前向传播和反向传播所需的CPU周期数复杂度分别为ckforwardc_k^{forward}和ckbackwardc_k^{backward}，那么客户端kk训练本地模型的计算延迟为：

      tkcomp=Nk×ϕ×ckforward+ϕNkη×ckbackwardfk,(7)t_{k}^{comp} = \frac{N_k\times \phi\times c_{k}^{forward} + \frac{\phi N_k}{\eta}\times c_{k}^{backward}}{f_k},\tag{7}

      其中fkf_k是客户端kk的CPU频率。

    2. 下载/上传延迟：假设FL服务器使用时分双工系统（time division duplex system）将全局模型下发给客户端，同时客户端将本地模型上传给FL服务器，用gkg_k表示FL服务器到客户端kk之间的信道增益（信号功率放大衰减变化量），并且信道具有互易性（上行和下行对等）。因此，客户端kk的下载和上传速率为

      {rkdownload=Blog⁡2(1+psgkN0);rkupload=Blog⁡2(1+pk2gkN0),(8)\begin{cases} r_k^{download} = B\log_2(1+\frac{p^s g_k}{N_0});\\ r_k^{upload} = B\log_2(1+\frac{p_k^2 g_k}{N_0}), \end{cases} \tag{8}

      其中BB是总带宽，psp^s和pkcp_k^c分别是FL服务器和客户端kk的传输功率密度，N0N_0是评价噪声功率密度。假设全局模型大小为ss，有

      {tkdownload=srkdownload=sBlog⁡2(1+psgkN0);tkupload=srkupload=sBlog⁡2(1+pk2gkN0).(9)\begin{cases} t_k^{download} = \frac{s}{r_k^{download}} = \frac{s}{B\log_2(1+\frac{p^s g_k}{N_0})};\\ t_k^{upload} = \frac{s}{r_k^{upload}} = \frac{s}{B\log_2(1+\frac{p_k^2 g_k}{N_0})}. \end{cases} \tag{9}

AsyncFedInv

  • 全局模型θ\mathrm{\theta}接收本地模型时更新残差，即

    θglobalglobal−αkθlocal,(10)\mathrm{\theta}^{global} \def (1-\alpha_k)\mathrm{\theta}^{global} - \alpha_k\mathrm{\theta}^{local},\tag{10}

    其中αk\alpha_k是分配给客户端kk的权重。

    陈旧性问题是异步FL的主要缺点之一，所以这些本地模型基于公式10更新全局模型时，它们可能不会改善全局模型的性能，甚至可能导致全局模型发散。

    解决陈旧性的一种常见方法是调整αk\alpha_k，高时延tkt_k的慢速客户端将会分配更小的权重αk\alpha_k，有

    αk=α×h(tk),(11)\alpha_k = \alpha \times h(t_k), \tag{11}

    其中0≤α≤10\le \alpha \le 1时超参数，h(tk)h(t_k)是客户端kk的陈旧性函数，用户评估本地模型的新鲜度。 本文设计了三种典型的陈旧性函数：

    1. 常量：hconst=1h^{const} = 1，平等对待所有客户端；
    2. 指数：hexp(tk)=e−a(tk−τ)h^{exp}(t_k) = e^{-a(t_k-\tau)}；
    3. 铰链：hhinge(tk)={1,if tk−τ≤b,1a(tk−τ−b)+1,otherwise.h^{hinge}(t_k) = \begin{cases} 1,& \text{if }t_k-\tau \le b,\\ \frac{1}{a(t_k-\tau-b)+1},&\text{otherwise}. \end{cases}

    其中a,ba,b为超参数，τ=min⁡(tk∣∀k∈K′)\tau = \min(t_k\mid \forall k \in \mathcal{K}')。 这里K′⊂K\mathcal{K}' \subset \mathcal{K}是当前正在训练本地模型的客户端集合。

    异步FL的另一个缺点是快速客户端的通信和计算成本高，也就是说，快速客户端必须频繁上传并持续训练其本地模型，从而导致高能耗。且能耗对于部署在农村地区并由便携式电池供电的客户端来说可能是关键问题。

    本文采用了一种简单有效的方式，如果客户端上传的本地模型与更新的全局模型相似，则不发送更新的全局模型来暂停客户端的本地模型训练。即

    ∥θglobal−θklocal∥≤ε,(12)\lVert \mathbf{\theta}^{global} - \mathbf{\theta}^{local}_k\rVert \le \varepsilon, \tag{12}

    其中ε\varepsilon是预定义阈值。

    一旦FL服务器更新了全局模型，它将评估K′′\mathcal{K}''中的所有客户端，看公式12是否仍然满足，其中K′′\mathcal{K}''是暂停训练的客户端集合，且K′′∪K′=K\mathcal{K}'' \cup \mathcal{K}' = \mathcal{K}。

    如果K′′\mathcal{K}''中的某个客户端不满足公式12，则FL服务器将发送当前全局模型来恢复其训练。

      \begin{algorithm}
  \caption{The AsyncFedInv framework}
  \begin{algorithmic}
  \STATE Initialize $\theta^{\text{global}}$ and hyperparameters.
  \STATE Broadcast $\theta^{\text{global}}$ to all the clients.
  \STATE \textbf{At the FL server:}
  \While{receive a local model $\mathbf{\theta}_k^{\text{local}}$ from client $k$}
      \State Calculate $\alpha_k$ based on Eq. (11);
      \State Update $\mathbf{\theta}^{\text{global}}$ based on Eq. (10);
      \If{$\|\mathbf{\theta}^{\text{global}} - \mathbf{\theta}_k^{\text{local}}\| > \varepsilon$}
          \State Download $\mathbf{\theta}^{\text{global}}$ to client $k$;
      \Else
          \State $\mathcal{K}' := \mathcal{K}' \setminus \{k\}$ and $\mathcal{K}'' := \mathcal{K}'' \cup \{k\}$;
          \State Store client $k$'s local model $\mathbf{\theta}_k^{\text{local}}$;
      \EndIf
      \For{each $k' \in \mathcal{K}''$}
          \If{$\|\mathbf{\theta}^{\text{global}} - \mathbf{\theta}_{k'}^{\text{local}}\| > \varepsilon$}
              \State $\mathcal{K}' := \mathcal{K}' \cup \{k'\}$ and $\mathcal{K}'' := \mathcal{K}'' \setminus \{k'\}$;
              \State Download $\mathbf{\theta}^{\text{global}}$ to client $k'$;
          \EndIf
      \EndFor
  \EndWhile

    \State \textbf{At client kk:}
\While{receive a global model θglobal\theta^{\text{global}}}
\State θklocal=θglobal\theta_k^{\text{local}} = \theta^{\text{global}};
\State Train θklocal\theta_k^{\text{local}} based on batch gradient descent;
\State Upload θklocal\theta_k^{\text{local}} to the FL server;
\EndWhile
\end{algorithmic}
\end

仿真

仿真参数

  • 使用三个客户端，优化器使用Adam，学习率0.0010.001，模型使用UNet。

    数据集使用2D SEGSalt，共有120对地震/速度图像。

    参数值
    本地模型大小ss100 kbit
    本地迭代次数ϕ\phi50
    全局迭代次数100
    批次大小η\eta5
    陈旧函数超参数a/ba/b10/4
    公式10中的超参数α\alpha0.5

    所有的120对地震/速度图像基于SSIM进行分组，即如果一个速度图像与某个类别中任何速度图像的SSIM不大于定义的阈值ε\varepsilon，则这对数据将被分组到该类别，由此将120对数据以不同设置分布到3个客户端，即独立同分布（IID）和非独立同分布（non-IID）。

    在IID中，客户端每个类别具有相同/相似数量的图像，在non-IID中，假设客户端kk在类别ll中拥有xlx_l对数据的概率遵循狄利克雷分布，即f(x1,x2,…,xL;β)=Γ(βL)Γ(β)L∏l=1Lxlβ−1f(x_1,x_2,\dots,x_L;\beta) = \frac{\Gamma(\beta L)}{\Gamma(\beta)^L}\prod_{l=1}^{L}x_l^{\beta-1}，其中LL是类别总数，Γ\Gamma是伽马函数Γ(z)=∫0∞yz−1e−ydy\Gamma(z) = \int_{0}^{\infty}y^{z-1}e^{-y}\mathrm{d}y，β\beta是集中参数，决定客户端内不同标签的标签不平衡程度。较大的β\beta导致客户端内不同标签之间的数据分布更加平衡（更接近IID）。

仿真结果

  • 本文使用FedAvg作为基准算法（一种著名的同步FL），在每个全局迭代中邀请所有客户端参与模型训练。

  1. 训练损失和收敛性分析

    AsyncFedInv和FedAvg loss曲线，左为IID，右为non-IID（）
    AsyncFedInv和FedAvg loss曲线，左为IID，右为non-IID（β=0.1\beta = 0.1）

    由于异步FL没有全局轮次定义，本文将全局轮次的持续时间定义为最慢客户端计算和上传其本地模型所需时间。

    从上图可以看到，在IID和non-IID情况下，所有方法收敛速度相似，但使用指数陈旧性函数的AsyncFedInv在曲线收敛时获得最低的训练loss。 在IID情况下，FedAvg、具有指数函数的AsyncFedInv、具有铰链函数的AsyncFedInv和具有常数函数的AsyncFedInv的损失分别为3.1449、2.2356、2.6344和3.2033。 在non-IID情况下，它们的损失分别为4.4193、1.7669、3.1383、6.4552。 因此，我们将在后续使用指数陈旧性函数作为AsyncFedInv的默认设置。

  2. 测试结果分析

    IID测试结果non-IID测试结果

    上图显示了两种设置下的四个样本测试结果，可以发现在IID下AsyncFedInv得到的速度图像比FedAvg更接近真实值。在non-IID中，FedAvg的测试结果比AsyncFedInv要差得多。

    量化指标结果
    量化指标结果

    作者还是用SSIM和PSNR进行量化测试，可以看出AsyncFedInv在IID和non-IID情况下都比FedAvg指标要高。

总结

  • 本文使用多个边缘设备基于异步FL协作训了一个UNet模型，实现实时性能，主要贡献为：

    1. 使用陈旧性函数缓解陈旧性问题；
    2. 设计动态客户端参与减少客户端通信成本和能耗。
Xenny
https://xenny.wiki/posts/mlp/FL/10.1109-ICCWorkshops59551.2024.10615411.html
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 Xenny 的博客！
2024 © Xenny All rights reserved. 著作权归 Xenny 所有