Dynamic backdoor attacks against federated learning

bid000 于 2022-12-12 发布
论文英文名字 Dynamic backdoor attacks against federated learning
论文中文名字 针对联邦学习的动态后门攻击
作者 Anbu Huang
来源 CoRR [ ]
年份 2020 年 11 月
作者动机 目前现有的研究主要集中在静态后门攻击,即注入的中毒模式没有改变,然而,FL 是一个在线学习框架,攻击者可以动态改变对抗目标,传统算法需要从头开始学习新的目标任务,这可能在计算上很昂贵并且需要大量的对抗训练样例。
阅读动机
创新点 将元学习引入后门攻击

内容总结

主要贡献

  1. 联邦学习设置下的动态后门攻击
  2. 提出共生网络
  3. 将元学习与 FL 设置下的后门攻击联系起来

动态后门攻击

动态后门攻击示例

共生网络

公式6

元学习和后门攻击

正常任务训练和元学习任务训练

公式5

公式7

问题:

  1. 优化方程 7 将导致二阶导数,并使计算量大。
  2. 优化需要在服务器端保留额外的数据集进行更新,这违反了数据隐私和安全性。

公式8

公式10

算法

算法1

算法2

实验

持久性和性能评估

快速适应评估

总结

  1. 共生网络对攻击效果的提升还是很明显的