数百万患者患有世界各地的罕见疾病。然而，罕见疾病的样品远小于常见疾病。此外，由于医疗数据的敏感性，医院通常不愿意分享患者信息，以引用隐私问题的数据融合。这些挑战使传统的AI模型难以提取疾病预测目的的稀有疾病特征。在本文中，我们通过提出基于联邦荟萃学习的稀有疾病预测的新方法来克服这种限制。为了提高稀有疾病的预测准确性，我们设计了一种基于关注的元学习（ATML）方法，根据基础学习者的测量培训效果，动态调整对不同任务的关注。另外，提出了一种基于动态权重的融合策略，以进一步提高联合学习的准确性，这基于每个本地模型的准确性动态选择客户端。实验表明，随着五次镜头，我们的方法以准确性和速度为原始联合元学习算法进行了出差。与每个医院的本地模型相比，所提出的模型的平均预测精度增加了13.28％。
translated by 谷歌翻译
跨块油水层（猫头鹰）鉴定对于石油发育至关重要。由于主要针对人类经验，传统方法受主观因素的影响很大。基于AI的方法促进了猫头鹰鉴定的发展。然而，由于横跨块和严重的长尾分布（阶级不平衡），现有人工智能（AI）模型的识别效应是有限的。在本文中，我们通过提出用于猫头鹰识别的动态融合的联合学习（FL）来解决这种限制。为了克服地质差异，我们向保险丝模型提出了一种动态加权策略并培训一般猫头鹰识别模型。此外，设计了基于F1评分的重加权方案，从理论上导出了新的损失函数来解决数据长尾问题。此外，提出了一种基于地质知识的掩模注意机制来增强模型特征提取。为了我们最好的知识，这是第一个使用FL识别猫头鹰的工作。我们使用来自油田和公共3W数据集的实际井测井数据集评估所提出的方法。实验结果表明，我们的方法显着出现了其他AI方法。
translated by 谷歌翻译
联邦学习（FL）是一种分布式学习方法，它为医学机构提供了在全球模型中合作的前景，同时保留患者的隐私。尽管大多数医疗中心执行类似的医学成像任务，但它们的差异（例如专业，患者数量和设备）导致了独特的数据分布。数据异质性对FL和本地模型的个性化构成了挑战。在这项工作中，我们研究了FL生产中间半全球模型的一种自适应分层聚类方法，因此具有相似数据分布的客户有机会形成更专业的模型。我们的方法形成了几个群集，这些集群由具有最相似数据分布的客户端组成；然后，每个集群继续分开训练。在集群中，我们使用元学习来改善参与者模型的个性化。我们通过评估我们在HAM10K数据集上的建议方法和极端异质数据分布的HAM10K数据集上的我们提出的方法，将聚类方法与经典的FedAvg和集中式培训进行比较。我们的实验表明，与标准的FL方法相比，分类精度相比，异质分布的性能显着提高。此外，我们表明，如果在群集中应用，则模型会更快地收敛，并且仅使用一小部分数据，却优于集中式培训。
translated by 谷歌翻译
皮肤病学疾病对全球健康构成了重大威胁，影响了世界上近三分之一的人口。各种研究表明，早期诊断和干预通常对预后和预后至关重要。为此，在过去的十年中，基于深度学习的智能手机应用程序的快速发展，该应用程序使用户可以方便，及时地识别出围绕皮肤出现的问题。为了收集深度学习所需的足够数据，同时保护患者的隐私，经常使用联合学习，在该数据集合数据集本地的同时汇总了全球模型。但是，现有的联合学习框架主要旨在优化整体性能，而常见的皮肤病学数据集则严重不平衡。在将联合学习应用于此类数据集时，可能会出现明显的诊断准确性差异。为了解决这样的公平问题，本文提出了一个公平意识的联邦学习框架，用于皮肤病学诊断。该框架分为两个阶段：在第一个FL阶段，具有不同皮肤类型的客户在联合学习过程中接受了训练，以构建所有皮肤类型的全球模型。在此过程中，使用自动重量聚合器将更高的权重分配给损失较高的客户，并且聚合器的强度取决于损失之间的差异水平。在后一个FL阶段，每个客户根据FL阶段的全球模型微调了其个性化模型。为了获得更好的公平性，为每个客户选择了来自不同时期的模型，以在0.05内保持不同皮肤类型的准确性差异。实验表明，与最先进的框架相比，我们提出的框架有效地提高了公平性和准确性。
translated by 谷歌翻译
联邦机器学习是一种多功能和灵活的工具，可以利用来自不同来源的分布式数据，特别是当通信技术快速发展并且现在可以在移动设备上收集前所未有的数据。联邦学习方法不仅利用数据而且挖掘了网络中所有设备的计算能力，以实现更有效的模型培训。尽管如此，虽然大多数传统的联邦学习方法适用于同类数据和任务，但将方法适应不同的异构数据和任务分配是具有挑战性的。这种限制限制了联合学习在现实世界环境中的应用，特别是在医疗保健环境中。灵感来自Meta-Learning的基本思想，在这项研究中，我们提出了一种新的算法，这是联邦学习和荟萃学习的一体化，解决这个问题。此外，由于转移学习的模型泛化的优点，我们通过引入部分参数共享进一步提高了我们的算法。我们命名该方法部分Meta联合学习（PMFL）。最后，我们将算法应用于两个医疗数据集。我们表明我们的算法可以获得最快的训练速度，并在处理异构医疗数据集时实现最佳性能。
translated by 谷歌翻译
个性化联合学习（FL）是佛罗里达州的一个新兴研究领域，在客户之间存在数据异质性的情况下，可以学习一个易于适应的全球模型。但是，个性化FL的主要挑战之一是，由于客户数据与服务器隔离以确保隐私，因此非常依赖客户的计算资源来计算高阶梯度。为了解决这个问题，我们专注于服务器可以独立于客户数据独立于客户数据的问题设置，这是各种应用程序中普遍的问题设置，但在现有文献中相对尚未探索。具体而言，我们提出了FedSim，这是一种针对个性化FL的新方法，该方法积极利用此类服务器数据来改善服务器中的元梯度计算以提高个性化性能。在实验上，我们通过各种基准和消融证明了FEDSIM在准确性方面优于现有方法，通过计算服务器中的完整元梯度，在计算上更有效，并且收敛速度高达34.2％。
translated by 谷歌翻译
一方（服务器）培训的检测模型可能会在分发给其他用户（客户）时面临严重的性能降解。例如，在自主驾驶场景中，不同的驾驶环境可能会带来明显的域移动，从而导致模型预测的偏见。近年来出现的联合学习可以使多方合作培训无需泄漏客户数据。在本文中，我们专注于特殊的跨域场景，其中服务器包含大规模数据，并且多个客户端仅包含少量数据。同时，客户之间的数据分布存在差异。在这种情况下，传统的联合学习技术不能考虑到所有参与者的全球知识和特定客户的个性化知识的学习。为了弥补这一限制，我们提出了一个跨域联合对象检测框架，名为FedOD。为了同时学习不同领域的全球知识和个性化知识，拟议的框架首先执行联合培训，以通过多教老师蒸馏获得公共全球汇总模型，并将汇总模型发送给每个客户端以供应其个性化的个性化模型本地模型。经过几轮沟通后，在每个客户端，我们可以对公共全球模型和个性化本地模型进行加权合奏推理。通过合奏，客户端模型的概括性能可以胜过具有相同参数量表的单个模型。我们建立了一个联合对象检测数据集，该数据集具有基于多个公共自主驾驶数据集的显着背景差异和实例差异，然后在数据集上进行大量实验。实验结果验证了所提出的方法的有效性。
translated by 谷歌翻译
在点击率（CTR）预测的联合学习（FL）中，用户的数据未共享以保护隐私。学习是通过在客户端设备上本地培训进行的，并仅将模型更改传达给服务器。有两个主要的挑战：（i）客户异质性，制作使用加权平均来汇总客户模型更新的FL算法的进步缓慢且学习结果不令人满意； （ii）由于每个实验所需的大量计算时间和资源，因此使用反复试验方法调整服务器学习率的困难。为了应对这些挑战，我们提出了一种简单的在线元学习方法，以学习汇总模型更新的策略，该方法根据客户属性适应客户的重要性并调整更新的步骤大小。我们在公共数据集上进行广泛的评估。我们的方法在收敛速度和最终学习结果的质量方面都大大优于最先进的方法。
translated by 谷歌翻译
数据不足问题（即数据缺失和标签稀缺问题）是由服务和基础架构不足或城市不平衡的发展水平引起的，在实际情况下严重影响了城市计算任务。先前的转移学习方法激发了对数据不足的优雅解决方案，但仅关注一种不足问题，并且未能考虑双方。此外，大多数以前的跨城市转移方法忽略了城市间数据隐私，这在实际应用中是公众关注的。为了解决上述具有挑战性的问题，我们提出了一个新颖的跨城市联合转移学习框架（CCFTL），以应对数据不足和隐私问题。具体而言，CCFTL将关系知识从多个Rich-Data源城市转移到目标城市。此外，针对目标任务的模型参数首先在源数据上进行训练，然后通过参数传输对目标城市进行微调。通过适应联合培训和同型加密设置，CCFTL可以有效地解决城市之间的数据隐私问题。我们将城市地区的分析作为智能城市的应用，并通过一项现实世界的研究评估拟议的方法。这些实验证明了我们框架比几种竞争性最新模型的显着优势。
translated by 谷歌翻译
联合学习（FL）以来已提议已应用于许多领域，例如信用评估，医疗等。由于网络或计算资源的差异，客户端可能不会同时更新其渐变可能需要花费等待或闲置的时间。这就是为什么需要异步联合学习（AFL）方法。AFL中的主要瓶颈是沟通。如何在模型性能和通信成本之间找到平衡是AFL的挑战。本文提出了一种新的AFL框架VAFL。我们通过足够的实验验证了算法的性能。实验表明，VAFL可以通过48.23 \％的平均通信压缩速率降低约51.02 \％的通信时间，并允许模型更快地收敛。代码可用于\ url {https://github.com/robai-lab/vafl}
translated by 谷歌翻译
联合学习（FL），使不同的医疗机构或客户能够在没有数据隐私泄漏的情况下进行协作培训模型，最近在医学成像社区中引起了极大的关注。尽管已经对客户间数据异质性进行了彻底的研究，但由于存在罕见疾病，阶级失衡问题仍然不足。在本文中，我们提出了一个新型的FL框架，用于医学图像分类，尤其是在处理罕见疾病的数据异质性方面。在Fedrare中，每个客户在本地训练一个模型，以通过客户内部监督对比度学习提取高度分离的潜在特征，以进行分类。考虑到有限的稀有疾病数据，我们建立了积极的样本队列以进行增强（即数据重采样）。 Fedrare中的服务器将从客户端收集潜在功能，并自动选择最可靠的潜在功能作为发送给客户的指南。然后，每个客户都会通过局部间的对比损失共同训练，以使其潜在特征与完整课程的联合潜在特征保持一致。通过这种方式，跨客户的参数/特征差异有效地最小化，从而可以更好地收敛和性能改进。关于皮肤病变诊断的公共可用数据集的实验结果表明，Fedrare的表现出色。在四个客户没有罕见病样本的10客户联合环境下，Fedrare的平均水平准确度平均增长了9.60％和5.90％，与FedAvg和FedAvg的基线框架和FedArt方法分别相比。考虑到在临床情况下存在罕见疾病的董事会，我们认为Fedrare将使未来的FL框架设计受益于医学图像分类。本文的源代码可在https://github.com/wnn2000/fedrare上公开获得。
translated by 谷歌翻译
本文提出了一个传感器数据匿名模型，该模型接受了分散数据的培训，并在数据实用程序和隐私之间进行了理想的权衡，即使在收集到的传感器数据具有不同的基础分布的异质环境中也是如此。我们称为Blinder的匿名模型基于以对抗性方式训练的变异自动编码器和歧视网络。我们使用模型 - 不合稳定元学习框架来调整通过联合学习训练的匿名模型，以适应每个用户的数据分布。我们在不同的设置下评估了盲人，并表明它提供了端到端的隐私保护，以增加隐私损失高达4.00％，并将数据实用程序降低高达4.24％，而最新的数据实用程序则将其降低了4.24％。对集中数据培训的匿名模型。我们的实验证实，Blinder可以一次掩盖多个私人属性，并且具有足够低的功耗和计算开销，以便将其部署在边缘设备和智能手机上，以执行传感器数据的实时匿名化。
translated by 谷歌翻译
联邦学习对分布式数据利用率和隐私保护表达了极大的潜力。大多数现有的联合学习方法侧重于监督设置，这意味着存储在每个客户端中的所有数据都有标签。但是，在现实世界应用中，客户数据无法完全标记。因此，如何利用未标记的数据应该是联邦学习的新挑战。虽然一些研究正在试图克服这一挑战，但它们可能会遭受信息泄漏或误导性信息使用问题。为了解决这些问题，在本文中，我们提出了一种名为Fedtrinet的新型联合半监督学习方法，该方法由两个学习阶段组成。在第一阶段，我们使用带有FADVG的标记数据预先列教Fedtrinet。在第二阶段，我们的目标是使大部分未标记的数据来帮助模型学习。特别是，我们建议使用三个网络和动态质量控制机制来为未标记数据产生高质量的伪标签，该数据被添加到训练集中。最后，Fedtrinet使用新的训练设置来重新培训模型。在三个公共数据集上的实验结果表明，提出的Fedtrinet在IID和非IID设置下优于最先进的基线。
translated by 谷歌翻译
联合学习（FL）是一个新的分布式机器学习框架，可以在不收集用户的私人数据的情况下获得可靠的协作培训。但是，由于FL的频繁沟通和平均聚合策略，他们会遇到挑战统计多样性数据和大规模模型。在本文中，我们提出了一个个性化的FL框架，称为基于Tensor分解的个性化联合学习（TDPFED），在该框架中，我们设计了一种具有张力的线性层和卷积层的新颖的张力局部模型，以降低交流成本。 TDPFED使用双级损失函数来通过控制个性化模型和张力的本地模型之间的差距来使全球模型学习的个性化模型优化。此外，有效的分布式学习策略和两种不同的模型聚合策略是为拟议的TDPFED框架设计的。理论融合分析和彻底的实验表明，我们提出的TDPFED框架在降低交流成本的同时实现了最新的性能。
translated by 谷歌翻译
联合学习可以使许多应用程序受益于大量潜在数据持有客户的分布式和私人数据集。但是，不同客户通常就可以从数据中学到的任务具有自己的特定目标。因此，使用元学习工具（例如多任务学习和转移学习）来支持联合学习，将通过让不同但相关任务的客户共享可以进一步更新和更新和相关任务的客户来帮助扩大联合学习的潜在应用程序。由每个客户为其特定任务量身定制。在联合的多任务学习问题中，应对每个客户的各个目标进行训练的深度神经网络模型，同时共享一些参数以提高概括性。我们建议训练一个深层的神经网络模型，其更广泛的层更接近输入，并且更具个性化的层贴在输出中。我们通过引入层类型（例如预训练，常见，特定于任务和个人层）来实现这一目标。我们提供仿真结果，以突出特定的方案，在这种情况下，基于元学习的联合学习被证明是有用的。
translated by 谷歌翻译
Continuous behavioural authentication methods add a unique layer of security by allowing individuals to verify their unique identity when accessing a device. Maintaining session authenticity is now feasible by monitoring users' behaviour while interacting with a mobile or Internet of Things (IoT) device, making credential theft and session hijacking ineffective. Such a technique is made possible by integrating the power of artificial intelligence and Machine Learning (ML). Most of the literature focuses on training machine learning for the user by transmitting their data to an external server, subject to private user data exposure to threats. In this paper, we propose a novel Federated Learning (FL) approach that protects the anonymity of user data and maintains the security of his data. We present a warmup approach that provides a significant accuracy increase. In addition, we leverage the transfer learning technique based on feature extraction to boost the models' performance. Our extensive experiments based on four datasets: MNIST, FEMNIST, CIFAR-10 and UMDAA-02-FD, show a significant increase in user authentication accuracy while maintaining user privacy and data security.
translated by 谷歌翻译
Federated Learning有望在不访问数据的情况下与多个客户进行协作培训模型的能力，但是当客户的数据分布彼此差异时脆弱。这种差异进一步导致了困境：“我们是否应该优先考虑学习模型的通用性能（用于服务器的将来使用）或其个性化绩效（对于每个客户端）？”这两个看似竞争的目标使社区分裂了专注于一个或另一个，但在本文中，我们表明可以同时实现这两者。具体而言，我们提出了一个新颖的联邦学习框架，该框架将模型的双重职责与两个预测任务相结合。一方面，我们介绍了一个损失家族，这些损失家庭对非相同的班级分布，使客户能够培训一个通用的预测指标，并以一致的目标培训。另一方面，我们将个性化预测变量作为一种轻巧的自适应模块，以最大程度地减少每个客户在通用预测指标上的经验风险。借助我们将联合强大的脱钩（FED-ROD）命名的两个损失的两次挑战框架，学识渊博的模型可以同时实现最先进的通用和个性化的性能，从而实质上弥补了这两个任务。
translated by 谷歌翻译
在医学领域，通常寻求多中心协作来通过利用患者和临床数据的异质性来产生更广泛的发现。但是，最近的隐私法规阻碍了共享数据的可能性，因此，提出了支持诊断和预后的基于机器学习的解决方案。联合学习（FL）旨在通过将基于AI的解决方案带入数据所有者，而仅共享需要汇总的本地AI模型或其部分，以避免这种限制。但是，大多数现有的联合学习解决方案仍处于起步阶段，并且由于缺乏可靠和有效的聚合计划能够保留本地学到的知识，从而显示出薄弱的隐私保护，因为可以从模型更新中重建实际数据，因此显示出几个缺点。此外，这些方法中的大多数，尤其是那些处理医学数据的方法，都依赖于一种集中的分布式学习策略，该策略构成了稳健性，可伸缩性和信任问题。在本文中，我们提出了一种分散的分布式方法，该方法从经验重播和生成对抗性研究中利用概念，有效地整合了本地节点的功能，从而提供了能够在维持隐私的同时跨多个数据集进行概括的模型。为了模拟现实的非i.i.d，使用多个数据集对两项任务进行了两项任务测试：结核病和黑色素瘤分类。数据方案。结果表明，我们的方法实现了与标准（未赋予）学习和联合方法相当的性能（因此，更有利）。
translated by 谷歌翻译
随着物联网，AI和ML/DL算法的出现，数据驱动的医疗应用已成为一种有前途的工具，用于从医学数据设计可靠且可扩展的诊断和预后模型。近年来，这引起了从学术界到工业的广泛关注。这无疑改善了医疗保健提供的质量。但是，由于这些基于AI的医疗应用程序在满足严格的安全性，隐私和服务标准（例如低延迟）方面的困难，因此仍然采用较差。此外，医疗数据通常是分散的和私人的，这使得在人群之间产生强大的结果具有挑战性。联邦学习（FL）的最新发展使得以分布式方式训练复杂的机器学习模型成为可能。因此，FL已成为一个积极的研究领域，尤其是以分散的方式处理网络边缘的医疗数据，以保护隐私和安全问题。为此，本次调查论文重点介绍了数据共享是重大负担的医疗应用中FL技术的当前和未来。它还审查并讨论了当前的研究趋势及其设计可靠和可扩展模型的结果。我们概述了FL将军的统计问题，设备挑战，安全性，隐私问题及其在医疗领域的潜力。此外，我们的研究还集中在医疗应用上，我们重点介绍了全球癌症的负担以及有效利用FL来开发计算机辅助诊断工具来解决这些诊断工具。我们希望这篇评论是一个检查站，以彻底的方式阐明现有的最新最新作品，并为该领域提供开放的问题和未来的研究指示。
translated by 谷歌翻译
联邦学习吸引了人们对建筑模型的越来越多的关注，而无需访问原始用户数据，尤其是在医疗保健方面。在实际应用中，由于可能的原因（例如数据异质性和中央服务器的不信任/不存在），不同的联合会很少合作。在本文中，我们提出了一个名为Metafed的新型框架，以促进不同联合会之间可信赖的FL。 METAFED通过提出的循环知识蒸馏为每个联邦提供一个个性化模型。具体而言，metafed将每个联盟视为元分布，并以环状方式汇总对每个联邦的知识。培训分为两个部分：常识的积累和个性化。在三个基准测试基准上进行的全面实验表明，与最先进的方法相比，无需服务器的METAFEF可以实现更好的准确性（例如，与PAMAP2的基线相比，沟通成本较少的基线相比，10％+的准确性提高了。
translated by 谷歌翻译