主讲人:钱辰
讲座摘要:
通过将机器学习与隐私保护技术相结合,联邦学习成为医疗保健应用的一种有前景的方法。然而,两个关键挑战阻碍了其现实世界的适用性:客户漂移和客户个性化。前者来自跨客户端的非独立同分布数据,而后者旨在根据单个客户端数据定制模型以提高本地性能。此外,这些挑战本质上是相互冲突的,即对一个挑战进行优化可能会加剧另一个挑战。本文提出了一种将超网络与对比表示学习相结合的创新方法,旨在在数据异构性下塑造每个客户的个性。我们通过专注于阿尔茨海默病诊断的实验来评估我们工作的有效性。
个性化联邦学习通常忽略了不同神经网络层对特征提取的不同影响,作为网络管理者,超网络可以学习如何为特定任务优化生成网络参数。因此,我们在中央服务器上引入超网络,动态生成或更新每个客户端模型每一层的个性化权重,从而尽可能满足不同客户端的个性化需求。即使不使用全局模型,客户端模型仍然需要在联邦学习框架内聚合。因此,客户端漂移可能会影响其他客户端的模型。为了解决这个问题,我们在聚合之前对每个客户端进行对比表征学习,重点关注模型生成的表示如何捕获数据特征,这有助于减轻数据异构性。
时间:10月22日13:00
地点:1号学院楼140