有监督的深度学习需要大量标记的数据才能实现高性能。但是，在医学成像分析中，每个站点可能只有有限的数据和标签，这使得学习无效。联合学习（FL）可以从分散数据中学习共享模型。但是传统的FL需要全标签的数据进行培训，这非常昂贵。自我监督的对比学习（CL）可以从未标记的数据中学习进行预训练，然后进行微调，以有限的注释。但是，在FL中采用CL时，每个站点上的数据多样性有限，使联合对比度学习（FCL）无效。在这项工作中，我们提出了两个联合自制的学习框架，用于体积医学图像分割，并有限注释。第一个具有高精度，并适合高性能服务器，并具有高速连接。第二个具有较低的通信成本，适用于移动设备。在第一个框架中，在FCL期间交换了功能，以向每个站点提供各种对比度数据，以使本地CL保持原始数据的私密性。全局结构匹配将不同站点之间的统一特征空间保持一致。在第二个框架中，为了降低功能交换的通信成本，我们提出了一种优化的方法FCLOPT，该方法不依赖于负样本。为了减少模型下载的通信，我们提出了预测目标网络参数的预测目标网络更新（PTNU）。基于PTNU，我们建议距离预测（DP）以删除目标网络的大多数上传。在心脏MRI数据集上的实验表明，与最先进的技术相比，提出的两个框架显着改善了分割和泛化性能。

在皮肤病学诊断中，移动皮肤病学助理收集的私人数据存在于患者的分布式移动设备上。联合学习（FL）可以使用分散数据来训练模型，同时保持数据本地化。现有的FL方法假设所有数据都有标签。但是，由于高标签成本，医疗数据通常没有完整的标签。自我监督的学习（SSL）方法，对比度学习（CL）和蒙版自动编码器（MAE）可以利用未标记的数据来预先培训模型，然后用有限的标签进行微调。但是，组合SSL和FL有独特的挑战。例如，CL需要不同的数据，但每个设备仅具有有限的数据。对于MAE而言，尽管基于视觉变压器（VIT）的MAE在集中学习中具有更高的准确性，但尚未研究MAE在未标记数据的FL中的性能。此外，服务器和客户端之间的VIT同步与传统CNN不同。因此，需要设计特殊的同步方法。在这项工作中，我们提出了两个联邦自制的学习框架，用于具有有限标签的皮肤病学诊断。第一个具有较低的计算成本，适用于移动设备。第二个具有高精度，适合高性能服务器。根据CL，我们提出了与功能共享（FedClf）的联合对比度学习。共享功能可用于不同的对比信息，而无需共享原始数据以获得隐私。根据MAE，我们提出了Fedmae。知识拆分将所学的全球知识与每个客户分开。只有全球知识才能汇总为更高的概括性能。关于皮肤病学数据集的实验表明，所提出的框架的精度优于最先进的框架。

联合学习（FL）使分布式客户端能够学习共享模型以进行预测，同时保留每个客户端的培训数据本地。然而，现有的FL需要完全标记的培训数据，这是由于高标签成本和专业要求的要求而不方便或有时不可行。在许多现实设置中，缺乏标签会使流行不切实际。自我监督学习可以通过从未标记的数据学习来解决这一挑战，从而可以广泛使用FL。对比学习（CL）是一种自我监督的学习方法，可以有效地学习来自未标记数据的数据表示。然而，Clipers上收集的分布式数据通常在客户端之间通常不是独立和相同分布（非IID），并且每个客户端只有很少的数据类，这会降低CL和学习的表示的性能。为了解决这个问题，我们提出了由两种方法组成的联邦对比学习框架：特征融合和邻居匹配，通过该邻居匹配，以便获得更好的数据表示来实现客户端之间的统一特征空间。特征融合提供远程功能，作为每个客户端的准确对比信息，以获得更好的本地学习。邻域匹配进一步将每个客户端的本地功能对齐至远程功能，从而可以了解客户端之间的群集功能。广泛的实验表明了拟议框架的有效性。它在IID数据上以11 \％的方式表达了其他方法，并匹配集中学习的性能。

The ubiquity of edge devices has led to a growing amount of unlabeled data produced at the edge. Deep learning models deployed on edge devices are required to learn from these unlabeled data to continuously improve accuracy. Self-supervised representation learning has achieved promising performances using centralized unlabeled data. However, the increasing awareness of privacy protection limits centralizing the distributed unlabeled image data on edge devices. While federated learning has been widely adopted to enable distributed machine learning with privacy preservation, without a data selection method to efficiently select streaming data, the traditional federated learning framework fails to handle these huge amounts of decentralized unlabeled data with limited storage resources on edge. To address these challenges, we propose a Federated on-device Contrastive learning framework with Coreset selection, which we call FedCoCo, to automatically select a coreset that consists of the most representative samples into the replay buffer on each device. It preserves data privacy as each client does not share raw data while learning good visual representations. Experiments demonstrate the effectiveness and significance of the proposed method in visual representation learning.

我们提出了联合动量对比聚类（FEDMCC），这是一个学习框架，不仅可以在分布式本地数据上提取区分性表示，而且可以执行数据群集。在FEDMCC中，转换的数据对通过在线和目标网络都通过，从而确定了四个表示损失的表示。FEDMCC生成的产生的高质量表示可以胜过几种现有的自制学习方法，用于线性评估和半监督学习任务。FEDMCC可以通过我们称为动量对比聚类（MCC）轻松地适应普通的集中聚类。我们表明，MCC在某些数据集（例如STL-10和Imagenet-10）中实现了最先进的聚类精度。我们还提出了一种减少聚类方案的内存足迹的方法。

联合学习是一种新兴的范式，允许大规模分散学习，而无需在不同的数据所有者中共享数据，这有助于解决医学图像分析中数据隐私的关注。但是，通过现有方法对客户的标签一致性的要求很大程度上缩小了其应用程序范围。实际上，每个临床部位只能以部分或没有与其他站点重叠的某些感兴趣的器官注释某些感兴趣的器官。将这种部分标记的数据纳入统一联邦是一个未开发的问题，具有临床意义和紧迫性。这项工作通过使用新型联合多重编码U-NET（FED-MENU）方法来应对挑战，以进行多器官分割。在我们的方法中，提出了一个多编码的U-NET（菜单网络），以通过不同的编码子网络提取器官特异性功能。每个子网络都可以看作是特定风琴的专家，并为该客户培训。此外，为了鼓励不同子网络提取的特定器官特定功能具有信息性和独特性，我们通过设计辅助通用解码器（AGD）来规范菜单网络的训练。四个公共数据集上的广泛实验表明，我们的Fed-Menu方法可以使用具有优越性能的部分标记的数据集有效地获得联合学习模型，而不是由局部或集中学习方法培训的其他模型。源代码将在纸质出版时公开提供。

启用摄像头的移动设备的无处不在导致在边缘生产大量未标记的视频数据。尽管已经提出了各种自我监督学习（SSL）方法来收集其潜在的时空表征，以进行特定于任务的培训，但实际挑战包括隐私问题和沟通成本，可以阻止SSL在大规模上部署。为了减轻这些问题，我们建议将联合学习（FL）用于视频SSL的任务。在这项工作中，我们评估了当前最新ART（SOTA）视频-SSL技术的性能，并确定其在与Kinetics-400数据集模拟的大规模FL设置中集成到大规模的FL设置时的缺陷。我们遵循，为视频（称为FedVSSL）提出了一个新颖的Federated SSL框架，该框架集成了不同的聚合策略和部分重量更新。广泛的实验证明了FEDVSSL的有效性和意义，因为它在UCF-101上优于下游检索任务的集中式SOTA，而HMDB-51的效率为6.66％。

A key requirement for the success of supervised deep learning is a large labeled dataset -a condition that is difficult to meet in medical image analysis. Selfsupervised learning (SSL) can help in this regard by providing a strategy to pre-train a neural network with unlabeled data, followed by fine-tuning for a downstream task with limited annotations. Contrastive learning, a particular variant of SSL, is a powerful technique for learning image-level representations. In this work, we propose strategies for extending the contrastive learning framework for segmentation of volumetric medical images in the semi-supervised setting with limited annotations, by leveraging domain-specific and problem-specific cues. Specifically, we propose (1) novel contrasting strategies that leverage structural similarity across volumetric medical images (domain-specific cue) and (2) a local version of the contrastive loss to learn distinctive representations of local regions that are useful for per-pixel segmentation (problem-specific cue). We carry out an extensive evaluation on three Magnetic Resonance Imaging (MRI) datasets. In the limited annotation setting, the proposed method yields substantial improvements compared to other self-supervision and semi-supervised learning techniques. When combined with a simple data augmentation technique, the proposed method reaches within 8% of benchmark performance using only two labeled MRI volumes for training, corresponding to only 4% (for ACDC) of the training data used to train the benchmark. The code is made public at https://github.com/krishnabits001/domain_specific_cl. 34th Conference on Neural Information Processing Systems (NeurIPS 2020),

Recent advancements in deep learning methods bring computer-assistance a step closer to fulfilling promises of safer surgical procedures. However, the generalizability of such methods is often dependent on training on diverse datasets from multiple medical institutions, which is a restrictive requirement considering the sensitive nature of medical data. Recently proposed collaborative learning methods such as Federated Learning (FL) allow for training on remote datasets without the need to explicitly share data. Even so, data annotation still represents a bottleneck, particularly in medicine and surgery where clinical expertise is often required. With these constraints in mind, we propose FedCy, a federated semi-supervised learning (FSSL) method that combines FL and self-supervised learning to exploit a decentralized dataset of both labeled and unlabeled videos, thereby improving performance on the task of surgical phase recognition. By leveraging temporal patterns in the labeled data, FedCy helps guide unsupervised training on unlabeled data towards learning task-specific features for phase recognition. We demonstrate significant performance gains over state-of-the-art FSSL methods on the task of automatic recognition of surgical phases using a newly collected multi-institutional dataset of laparoscopic cholecystectomy videos. Furthermore, we demonstrate that our approach also learns more generalizable features when tested on data from an unseen domain.

联合学习（FL）是一种分布式机器学习技术，可以在避免明确的数据共享的同时进行协作模型培训。 FL算法的固有保护属性使其对医疗领域特别有吸引力。但是，如果有异质的客户数据分布，则标准FL方法是不稳定的，需要密集的超参数调整以实现最佳性能。常规的超参数优化算法在现实世界中的FL应用中是不切实际的，因为它们涉及大量的培训试验，而计算预算有限，这些试验通常是不起作用的。在这项工作中，我们提出了一种有效的增强学习（RL）的联合次数超参数优化算法，称为自动FEDRL，其中在线RL代理可以根据当前的培训进度动态调整每个客户的超参数。进行了广泛的实验以研究不同的搜索策略和RL代理。该方法的有效性在CIFAR-10数据集的异质数据分配以及两个现实世界中的医学图像分割数据集上进行了验证，用于胸部CT中的COVID-19变病变分段，腹部CT中的胰腺细分。

联合学习通常用于容易获得标签的任务（例如，下一个单词预测）。放松这种约束需要设计无监督的学习技术，该技术可以支持联合培训的理想特性：稳健性对统计/系统异质性，可伸缩性与参与者数量以及沟通效率。关于该主题的先前工作集中在直接扩展集中式的自我监督学习技术上，这些学习技术并非旨在具有上面列出的属性。为了解决这种情况，我们提出了乐团，这是一种新颖的无监督联盟学习技术，利用联邦的层次结构来协调分布式的聚类任务，并将客户数据对客户数据的全球始终划分为可区分的群集。我们显示了管弦乐队中的算法管道可确保在线性探针下良好的概括性能，从而使其在广泛的条件下胜过替代技术，包括异质性，客户次数，参与率和本地时期的变化。

皮肤病学疾病对全球健康构成了重大威胁，影响了世界上近三分之一的人口。各种研究表明，早期诊断和干预通常对预后和预后至关重要。为此，在过去的十年中，基于深度学习的智能手机应用程序的快速发展，该应用程序使用户可以方便，及时地识别出围绕皮肤出现的问题。为了收集深度学习所需的足够数据，同时保护患者的隐私，经常使用联合学习，在该数据集合数据集本地的同时汇总了全球模型。但是，现有的联合学习框架主要旨在优化整体性能，而常见的皮肤病学数据集则严重不平衡。在将联合学习应用于此类数据集时，可能会出现明显的诊断准确性差异。为了解决这样的公平问题，本文提出了一个公平意识的联邦学习框架，用于皮肤病学诊断。该框架分为两个阶段：在第一个FL阶段，具有不同皮肤类型的客户在联合学习过程中接受了训练，以构建所有皮肤类型的全球模型。在此过程中，使用自动重量聚合器将更高的权重分配给损失较高的客户，并且聚合器的强度取决于损失之间的差异水平。在后一个FL阶段，每个客户根据FL阶段的全球模型微调了其个性化模型。为了获得更好的公平性，为每个客户选择了来自不同时期的模型，以在0.05内保持不同皮肤类型的准确性差异。实验表明，与最先进的框架相比，我们提出的框架有效地提高了公平性和准确性。

通过允许多个临床站点在不集中数据集的情况下协作学习全球模型，在联邦学习（FL）下进行的医学图像分割是一个有希望的方向。但是，使用单个模型适应来自不同站点的各种数据分布非常具有挑战性。个性化的FL仅利用来自Global Server共享的部分模型参数来解决此问题，同时保留其余部分以适应每个站点本地培训中的数据分布。但是，大多数现有方法都集中在部分参数分裂上，而在本地培训期间，不考虑\ textit {textit {site Inter-inter insteriscisies}，实际上，这可以促进网站上的知识交流，以使模型学习有益于改进模型学习本地准确性。在本文中，我们提出了一个个性化的联合框架，使用\ textbf {l} ocal \ textbf {c}启动（lc-fed），以利用\ textIt {feftrict-and prediction-lactic}中的位置间暂停。提高细分。具体而言，由于每个本地站点都对各种功能都有另一种关注，因此我们首先设计嵌入的对比度位点，并与通道选择操作结合以校准编码的功能。此外，我们建议利用预测级别的一致性的知识，以指导模棱两可地区的个性化建模，例如解剖界限。它是通过计算分歧感知图来校准预测来实现的。我们的方法的有效性已在具有不同方式的三个医学图像分割任务上进行了验证，在该任务中，我们的方法始终显示出与最先进的个性化FL方法相比的性能。代码可从https://github.com/jcwang123/fedlc获得。

联合学习（FL）可用于通过使多个机构协作，改善磁共振（MR）图像重建的数据隐私和效率，而无需聚合本地数据。然而，由不同MR成像协议引起的域移位可以显着降低FL模型的性能。最近的流程倾向于通过增强全局模型的概括来解决这一点，但它们忽略了特定于域的特征，这可能包含有关设备属性的重要信息，并且对本地重建有用。在本文中，我们提出了一种针对MR图像重建（FEDMRI）的特异性保存流算法。核心思想是将MR重建模型划分为两个部分：全局共享编码器，以在全局级别获取概括的表示，以及客户特定的解码器，以保留每个客户端的特定于域的属性，这对于协作很重要当客户具有独特的分发时重建。此外，为了进一步提高全局共享编码器的收敛，当存在域移位时，引入加权对比正规化以在优化期间直接校正客户端和服务器之间的任何偏差。广泛的实验表明，我们的Fedmri的重建结果是最接近多机构数据的地面真理，并且它优于最先进的FL方法。

U-shaped networks are widely used in various medical image tasks, such as segmentation, restoration and reconstruction, but most of them usually rely on centralized learning and thus ignore privacy issues. To address the privacy concerns, federated learning (FL) and split learning (SL) have attracted increasing attention. However, it is hard for both FL and SL to balance the local computational cost, model privacy and parallel training simultaneously. To achieve this goal, in this paper, we propose Robust Split Federated Learning (RoS-FL) for U-shaped medical image networks, which is a novel hybrid learning paradigm of FL and SL. Previous works cannot preserve the data privacy, including the input, model parameters, label and output simultaneously. To effectively deal with all of them, we design a novel splitting method for U-shaped medical image networks, which splits the network into three parts hosted by different parties. Besides, the distributed learning methods usually suffer from a drift between local and global models caused by data heterogeneity. Based on this consideration, we propose a dynamic weight correction strategy (\textbf{DWCS}) to stabilize the training process and avoid model drift. Specifically, a weight correction loss is designed to quantify the drift between the models from two adjacent communication rounds. By minimizing this loss, a correction model is obtained. Then we treat the weighted sum of correction model and final round models as the result. The effectiveness of the proposed RoS-FL is supported by extensive experimental results on different tasks. Related codes will be released at https://github.com/Zi-YuanYang/RoS-FL.

联合学习（FL）是一种机器学习范式，允许分散的客户在不共享其私人数据的情况下进行协作学习。但是，过度的计算和沟通要求对当前的FL框架构成挑战，尤其是在训练大型模型时。为了防止这些问题阻碍FL系统的部署，我们提出了一个轻巧的框架，客户共同学习融合由多个固定预训练的模型生成的表示形式，而不是从SCRATCH培训大型模型。这通过考虑如何从预先训练的模型中捕获更多特定于客户的信息，并共同提高每个客户利用这些现成模型的能力，从而导致我们解决了一个更实用的FL问题。在这项工作中，我们设计了一种联合原型对比度学习（FEDPCL）方法，该方法通过其类原型共享客户的知识，并以原型对比度方式构建特定于客户的表示。共享原型而不是可学习的模型参数可以使每个客户以个性化的方式融合表示表示，同时以紧凑的形式保持共享知识以进行有效的通信。我们在轻量级框架中对拟议的FEDPCL进行了彻底的评估，以测量和可视化其在流行的FL数据集上融合各种预训练模型的能力。

本文介绍了无监督的联合学习框架FEDX。我们的模型从分散和异质的局部数据中学习无偏的表示。它采用对比度学习作为核心组件的双面知识蒸馏，使联合系统可以在不要求客户共享任何数据功能的情况下运行。此外，它的适应性体系结构可以用作联合设置中现有无监督算法的附加模块。实验表明，我们的模型可显着提高五种无监督算法的性能（1.58--5.52pp）。

自从联合学习（FL）被引入具有隐私保护的分散学习技术以来，分布式数据的统计异质性是实现FL应用中实现稳健性能和稳定收敛性的主要障碍。已经研究了模型个性化方法来克服这个问题。但是，现有的方法主要是在完全标记的数据的先决条件下，这在实践中是不现实的，由于需要专业知识。由部分标记的条件引起的主要问题是，标记数据不足的客户可能会遭受不公平的性能增益，因为他们缺乏足够的本地分销见解来自定义全球模型。为了解决这个问题，1）我们提出了一个新型的个性化的半监督学习范式，该范式允许部分标记或未标记的客户寻求与数据相关的客户（助手代理）的标签辅助，从而增强他们对本地数据的认识； 2）基于此范式，我们设计了一个基于不确定性的数据关系度量，以确保选定的帮助者可以提供值得信赖的伪标签，而不是误导当地培训； 3）为了减轻助手搜索引入的网络过载，我们进一步开发了助手选择协议，以实现有效的绩效牺牲的有效沟通。实验表明，与其他具有部分标记数据的相关作品相比，我们提出的方法可以获得卓越的性能和更稳定的收敛性，尤其是在高度异质的环境中。

使用联合学习（FL）协作培训模型的多个医疗机构已成为最大化数据驱动模型的潜力的有希望的解决方案，但医学图像中的非独立性和相同分布的（非IID）数据仍然是一个突出的挑战在真实的练习中。由不同扫描仪或协议引起的特征异质性在本地（客户端）和全局（服务器）优化中引入了学习过程中的漂移，这损害了收敛以及模型性能。许多以前的作品已经尝试通过在本地或全球范围内解决漂移来解决非IID问题，但如何共同解决两个基本耦合的漂移仍然不清楚。在这项工作中，我们专注于处理本地和全球漂移，并介绍一个名为HARMOFL的新协调框架。首先，我们建议通过将变换到频域的图像的幅度归一化以模仿统一的成像设置来减轻本地更新漂移，以便在跨本地客户端生成统一的特征空间。其次，基于谐波功能，我们设计了引导每个本地模型的客户重量扰动，以达到平坦的最佳状态，其中局部最佳解决方案的邻域面积具有均匀低损耗。如果没有任何额外的沟通成本，则扰动协助全局模型通过聚合几个局部平面OptimA来优化融合的最佳解决方案。理论上，我们已经分析了所提出的方法和经验上对三种医学图像分类和分割任务进行了广泛的实验，表明HARMOFL优于一系列具有有前途的收敛行为的最近最先进的方法。

随着物联网，AI和ML/DL算法的出现，数据驱动的医疗应用已成为一种有前途的工具，用于从医学数据设计可靠且可扩展的诊断和预后模型。近年来，这引起了从学术界到工业的广泛关注。这无疑改善了医疗保健提供的质量。但是，由于这些基于AI的医疗应用程序在满足严格的安全性，隐私和服务标准（例如低延迟）方面的困难，因此仍然采用较差。此外，医疗数据通常是分散的和私人的，这使得在人群之间产生强大的结果具有挑战性。联邦学习（FL）的最新发展使得以分布式方式训练复杂的机器学习模型成为可能。因此，FL已成为一个积极的研究领域，尤其是以分散的方式处理网络边缘的医疗数据，以保护隐私和安全问题。为此，本次调查论文重点介绍了数据共享是重大负担的医疗应用中FL技术的当前和未来。它还审查并讨论了当前的研究趋势及其设计可靠和可扩展模型的结果。我们概述了FL将军的统计问题，设备挑战，安全性，隐私问题及其在医疗领域的潜力。此外，我们的研究还集中在医疗应用上，我们重点介绍了全球癌症的负担以及有效利用FL来开发计算机辅助诊断工具来解决这些诊断工具。我们希望这篇评论是一个检查站，以彻底的方式阐明现有的最新最新作品，并为该领域提供开放的问题和未来的研究指示。