主动学习最大化假设更新，以找到那些所需的未标记数据。一个固有的假设是，这种学习方式可以将这些更新得出到最佳假设中。但是，如果这些增量更新是负面和无序的，则可能无法很好地保证其收敛性。在本文中，我们介绍了一位机器老师，该教师为主动学习者提供了一个黑盒教学假设，其中教学假设是最佳假设的有效近似。从理论上讲，我们证明，在这一教学假设的指导下，学习者可以比那些没有从老师那里获得任何指导的受过教育的学习者融合到更严格的概括错误和标签复杂性。我们进一步考虑了两种教学方案：教授白盒和黑盒学习者，首先提出了教学的自我完善以改善教学表现。实验验证了这一想法并表现出比基本的积极学习策略（例如Iwal，Iwal-D等）更好的性能。

我们研究了积极学习的问题，即学习者通过乐于助人的老师辅助的扭曲。我们考虑以下自然交互协议：在每一轮时，学习者提出了一个查询询问实例$ x q $的标签，老师提供请求的标签$ \ {x ^ q，y ^ q \} $通过解释信息来指导学习过程。在本文中，我们以额外的对比示例的形式查看此信息（$ \ {x ^ c，y ^ c} $），其中$ x ^ c $摘自$ x ^ q $（例如，具有相同标签的异种情况）。我们的重点是设计一种教学算法，可以向学习者提供信息的对比序列，以加快学习过程。我们表明这导致了一个具有挑战性的序列优化问题，其中算法在给定轮的选择取决于交互历史。我们调查了一种高效的教学算法，可自适应地选择这些对比示例。我们基于两个问题依赖性参数促进了我们的算法的强大性能保障，进一步表明，对于特定类型的活跃学习者（例如，广义二进制搜索学习者），所提出的教学算法表现出强烈的近似保证。最后，我们通过两个数值案例研究说明了我们的界限并展示了我们的教学框架的有效性。

如今，对大规模数据的深入学习是主导的。空前的数据规模可以说是深度学习成功的最重要的驱动力之一。但是，仍然存在收集数据或标签可能非常昂贵的场景，例如医学成像和机器人技术。为了填补这一空白，本文考虑了使用少量代表性数据从头开始研究的问题。首先，我们通过在球形歧管的同构管上积极学习来表征这个问题。这自然会产生可行的假设类别。使用同源拓扑特性，我们确定了一个重要的联系 - 发现管歧管等同于最大程度地减少物理几何形状中的超球能（MHE）。受此连接的启发，我们提出了一种基于MHE的主动学习（MHEAL）算法，并为MHEAL提供了全面的理论保证，涵盖了收敛和概括分析。最后，我们证明了MHEAL在数据效率学习的广泛应用中的经验表现，包括深度聚类，分布匹配，版本空间采样和深度积极学习。

Active learning with strong and weak labelers considers a practical setting where we have access to both costly but accurate strong labelers and inaccurate but cheap predictions provided by weak labelers. We study this problem in the streaming setting, where decisions must be taken \textit{online}. We design a novel algorithmic template, Weak Labeler Active Cover (WL-AC), that is able to robustly leverage the lower quality weak labelers to reduce the query complexity while retaining the desired level of accuracy. Prior active learning algorithms with access to weak labelers learn a difference classifier which predicts where the weak labels differ from strong labelers; this requires the strong assumption of realizability of the difference classifier (Zhang and Chaudhuri,2015). WL-AC bypasses this \textit{realizability} assumption and thus is applicable to many real-world scenarios such as random corrupted weak labels and high dimensional family of difference classifiers (\textit{e.g.,} deep neural nets). Moreover, WL-AC cleverly trades off evaluating the quality with full exploitation of weak labelers, which allows to convert any active learning strategy to one that can leverage weak labelers. We provide an instantiation of this template that achieves the optimal query complexity for any given weak labeler, without knowing its accuracy a-priori. Empirically, we propose an instantiation of the WL-AC template that can be efficiently implemented for large-scale models (\textit{e.g}., deep neural nets) and show its effectiveness on the corrupted-MNIST dataset by significantly reducing the number of labels while keeping the same accuracy as in passive learning.

公司跨行业对机器学习（ML）的快速传播采用了重大的监管挑战。一个这样的挑战就是可伸缩性：监管机构如何有效地审核这些ML模型，以确保它们是公平的？在本文中，我们启动基于查询的审计算法的研究，这些算法可以以查询有效的方式估算ML模型的人口统计学率。我们提出了一种最佳的确定性算法，以及具有可比保证的实用随机，甲骨文效率的算法。此外，我们进一步了解了随机活动公平估计算法的最佳查询复杂性。我们对主动公平估计的首次探索旨在将AI治理置于更坚定的理论基础上。

我们考虑了一个批处理活动的方案，其中学习者可以适应地向标签Oracle发出批处理。由于具有标签Oracle（通常是人类）的互动次数较少，因此在批处理中的采样标签在实践中是非常可取的。但是，批处理主动学习通常会支付降低的适应性的价格，从而导致次优结果。在本文中，我们提出了一种解决方案，该解决方案需要在查询点的信息和多样性的信息之间进行仔细的权衡。我们从理论上研究了在实际相关的方案中研究批次的活动，其中未标记的数据库事先可用（{\ em池基}主动学习）。我们分析了一种新颖的阶段贪婪算法，并表明，作为标签复杂性的函数，该算法的过量风险与标准统计学习环境中已知的最小值率相匹配。我们的结果还表现出对批处理大小的温和依赖。这些是在信息性和多样性之间进行仔细的交易来严格量化基于池的情况下批处理主动学习的统计表现的第一个理论结果。

在本文中，我们考虑了迭代机教学问题，教师根据当前迭代学习者顺序提供示例。与必须扫描整个池并在每次迭代中选择教学示例的先前方法相比，我们提出了一个标签综合教学框架，其中教师随机选择输入教学示例（例如，图像），然后合成合适的输出（例如，，标签）为他们。我们表明，此框架可以避免昂贵的示例选择，同时仍然可以获得指数的可行性。我们在本框架中提出了多种新颖的教学算法。最后，我们经验证明了我们框架的价值。

Artificial intelligence is to teach machines to take actions like humans. To achieve intelligent teaching, the machine learning community becomes to think about a promising topic named machine teaching where the teacher is to design the optimal (usually minimal) teaching set given a target model and a specific learner. However, previous works usually require numerous teaching examples along with large iterations to guide learners to converge, which is costly. In this paper, we consider a more intelligent teaching paradigm named one-shot machine teaching which costs fewer examples to converge faster. Different from typical teaching, this advanced paradigm establishes a tractable mapping from the teaching set to the model parameter. Theoretically, we prove that this mapping is surjective, which serves to an existence guarantee of the optimal teaching set. Then, relying on the surjective mapping from the teaching set to the parameter, we develop a design strategy of the optimal teaching set under appropriate settings, of which two popular efficiency metrics, teaching dimension and iterative teaching dimension are one. Extensive experiments verify the efficiency of our strategy and further demonstrate the intelligence of this new teaching paradigm.

大数据学习为人工智能（AI）带来了成功，但是注释和培训成本很昂贵。将来，对小数据的学习是AI的最终目的之一，它要求机器识别依靠小数据作为人类的目标和场景。一系列的机器学习模型正在进行这种方式，例如积极学习，几乎没有学习，深度聚类。但是，其概括性能几乎没有理论保证。此外，它们的大多数设置都是被动的，也就是说，标签分布由一个指定的采样方案明确控制。这项调查遵循PAC（可能是近似正确）框架下的不可知论活动采样，以分析使用有监督和无监督的时尚对小数据学习的概括误差和标签复杂性。通过这些理论分析，我们从两个几何学角度对小数据学习模型进行了分类：欧几里得和非欧几里得（双曲线）平均表示，在此还提供了优化解决方案和讨论。稍后，然后总结了一些可能从小型数据学习中受益的潜在学习方案，还分析了它们的潜在学习方案。最后，还调查了一些具有挑战性的应用程序，例如计算机视觉，自然语言处理可能会受益于小型数据学习。

我们考虑在对抗环境中的强大学习模型。学习者获得未腐败的培训数据，并访问可能受到测试期间对手影响的可能腐败。学习者的目标是建立一个强大的分类器，该分类器将在未来的对抗示例中进行测试。每个输入的对手仅限于$ k $可能的损坏。我们将学习者 - 对手互动建模为零和游戏。该模型与Schmidt等人的对抗示例模型密切相关。 （2018）; Madry等。 （2017）。我们的主要结果包括对二进制和多类分类的概括界限，以及实现的情况（回归）。对于二元分类设置，我们都拧紧Feige等人的概括。 （2015年），也能够处理无限假设类别。样本复杂度从$ o（\ frac {1} {\ epsilon^4} \ log（\ frac {| h |} {\ delta}）$ to $ o \ big（\ frac {1} { epsilon^2}（kvc（h）\ log^{\ frac {3} {2}+\ alpha}（kvc（h））+\ log（\ frac {1} {\ delta} {\ delta}）\ big）\ big）\ big）$ for任何$ \ alpha> 0 $。此外，我们将算法和概括从二进制限制到多类和真实价值的案例。一路上，我们获得了脂肪震惊的尺寸和$ k $ fold的脂肪的尺寸和Rademacher复杂性的结果最大值的功能类别；这些可能具有独立的兴趣。对于二进制分类，Feige等人（2015年）使用遗憾的最小化算法和Erm Oracle作为黑匣子；我们适应了多类和回归设置。该算法为我们提供了给定培训样本中的球员的近乎最佳政策。

监督学习通常依赖于真实标签的手动注释。当有许多潜在的类别时，寻找最佳的班级对于人类注释者可能会过时。另一方面，比较两个候选标签通常要容易得多。我们专注于这种成对的监督，并询问如何有效地用于学习，尤其是在积极学习中。在这种情况下，我们获得了一些有见地的结果。原则上，可以使用$ K-1 $ Active查询来找到最好的$ K $标签。我们表明，有一种自然阶级，这种方法是最佳选择的，并且有更具比较的主动学习方案。我们分析中的一个关键要素是真实分布的“标签邻域图”，如果两个类共享决策边界，则在两个类之间具有优势。我们还表明，在PAC设置中，成对比较在最坏情况下不能提供改善的样品复杂性。我们通过实验补充了理论结果，清楚地证明了邻里图对样品复杂性的影响。

学习算法的目标之一是补充和减轻人类决策者的负担。算法可以自行预测的专家延期设置，也可以将决定推迟到下游专家有助于实现这一目标。这种环境的一个基本方面是需要学习改善人类弱点的互补预测因子，而不是学习预测因素以优化平均错误。在这项工作中，我们提供了对专家延期中学习补充预测指标的好处的第一个理论分析。为了有效地学习此类预测因素，我们考虑了一个始终如一的替代损失功能的家族，以延期专家并分析其理论特性。最后，我们设计的主动学习方案需要最少的人类专家预测数据，以学习准确的延期系统。

当使用任意异质数据流提供时，我们如何收集最有用的标签来学习模型选择策略？在本文中，我们将此任务制定为一个在线上下文的活动模型选择问题，在每个回合中，学习者在上下文中都会收到一个未标记的数据点以及上下文。目的是在任何给定上下文中输出最佳模型，而不会获得过多的标签。特别是，我们专注于选择预训练的分类器的任务，并提出一种上下文活动模型选择算法（CAM），该算法依赖于在给定策略类别上定义的新型不确定性采样查询标准用于自适应模型选择。与先前的ART相比，我们的算法不假定全球最佳模型。我们提供严格的理论分析，以实现对抗和随机设置下的遗憾和查询复杂性。我们对几个基准分类数据集的实验证明了该算法在遗憾和查询复杂性方面的有效性。值得注意的是，与CIFAR10上最佳的在线型号选择基线相比，CAMS的标签成本少于标签成本的10％。

我们使用$ \ ell_p $损失和任意扰动集研究回归设置中测试时间对抗攻击的鲁棒性。我们解决了哪些功能类在此设置中可以学习的问题。我们表明，有限脂肪的脂肪尺寸是可以学习的。此外，对于凸功能类，它们甚至可以正确地学习。相比之下，一些非凸功能类别可证明需要不当学习算法。我们还讨论了不可知论学习的扩展。我们的主要技术是基于由脂肪崩溃尺寸确定的尺寸的对抗性稳健样品压缩方案的构造。

当培训数据共享与即将到来的测试样本相同的分布时，标准监督学习范式有效地工作。但是，在现实世界中，通常会违反此假设，尤其是在以在线方式出现测试数据时。在本文中，我们制定和调查了在线标签转移（OLAS）的问题：学习者从标记的离线数据训练初始模型，然后将其部署到未标记的在线环境中，而基础标签分布会随着时间的推移而变化，但标签 - 条件密度没有。非平稳性和缺乏监督使问题具有挑战性。为了解决难度，我们构建了一个新的无偏风险估计器，该风险估计器利用了未标记的数据，该数据表现出许多良性特性，尽管具有潜在的非跨性别性。在此基础上，我们提出了新颖的在线合奏算法来应对环境的非平稳性。我们的方法享有最佳的动态遗憾，表明该性能与千里眼的千里眼竞争，后者是事后看来的在线环境，然后选择每轮的最佳决定。获得的动态遗憾结合量表与标签分布转移的强度和模式，因此在OLAS问题中表现出适应性。进行广泛的实验以验证有效性和支持我们的理论发现。

所有著名的机器学习算法构成了受监督和半监督的学习工作，只有在一个共同的假设下：培训和测试数据遵循相同的分布。当分布变化时，大多数统计模型必须从新收集的数据中重建，对于某些应用程序，这些数据可能是昂贵或无法获得的。因此，有必要开发方法，以减少在相关领域中可用的数据并在相似领域中进一步使用这些数据，从而减少需求和努力获得新的标签样品。这引起了一个新的机器学习框架，称为转移学习：一种受人类在跨任务中推断知识以更有效学习的知识能力的学习环境。尽管有大量不同的转移学习方案，但本调查的主要目的是在特定的，可以说是最受欢迎的转移学习中最受欢迎的次级领域，概述最先进的理论结果，称为域适应。在此子场中，假定数据分布在整个培训和测试数据中发生变化，而学习任务保持不变。我们提供了与域适应性问题有关的现有结果的首次最新描述，该结果涵盖了基于不同统计学习框架的学习界限。

我们调查了半个空间自训算法的泛化特性。该方法从标记和未标记的培训数据中迭代地了解半个空间列表，其中每个迭代包括两个步骤：探索和修剪。在探索阶段中，通过在未标记的示例中最大化未符号余量，然后将伪标签分配给具有高于当前阈值的距离的距离来顺序地找到半空间。然后将伪标记的示例添加到训练集中，并且学习了一个新的分类器。重复该过程，直到不再是未标记的示例仍然用于伪标记。在修剪阶段，然后丢弃与距离相关的未签名边缘大于相关的余量的距离的伪标记的样本。我们证明了由此产生的分类序列的错误分类误差被界定，并表明由此产生的半导体方法与仅使用初始标记的训练集学习的分类器相比，从未降低性能。与最先进的方法相比，在各种基准上进行的实验证明了所提出的方法的效率。

训练数据的量是决定学习算法的概括能力的关键因素之一。直观地，人们期望随着训练数据的增加，错误率将降低。也许令人惊讶的是，自然尝试正式化这种直觉引起了有趣且具有挑战性的数学问题。例如，在他们关于模式识别的古典书籍中，Devroye，Gyorfi和Lugosi（1996）询问是否存在{单调}贝叶斯一致的算法。这个问题一直开放25年以上，直到最近Pestov（2021）使用单调贝叶斯一致算法的复杂构造解决了该问题进行二进制分类。我们得出了多类分类的一般结果，表明每个学习算法A都可以转换为具有相似性能的单调。此外，转换是有效的，仅使用黑盒甲骨文访问A。 Loog（2019），Viering and Loog（2021）和Mhammedi（2021）。我们的转换很容易意味着在各种情况下单调学习者：例如，它将Pestov的结果扩展到具有任意数量的标签的分类任务。这与针对二进制分类量身定制的Pestov的工作形成鲜明对比。另外，我们在单调算法的误差上提供统一的边界。这使我们的转换适用于无分销设置。例如，在PAC学习中，这意味着每个可学习的课程都接受单调PAC学习者。这通过Viering，Mey和Loog（2019）解决了问题； Viering and Loog（2021）; Mhammedi（2021）。

主动学习可以减少执行假设测试所需的样本数量并估计模型的参数。在本文中，我们重新审视Chernoff的作品，所述工作描述了用于执行假设测试的渐近最佳算法。我们获得了对Chernoff的算法的新颖性复杂性，具有非渐近术语，其在固定置信水平处具有其性能。我们还开发了Chernoff采样的延伸，可用于估计各种模型的参数，并且我们在估计误差上获得非渐近绑定。我们将延长Chernoff采样延伸，积极学习神经网络模型，并估算实际数据线性和非线性回归问题中的参数，其中我们的方法有利地对最先进的方法执行。

我们研究了非参数在线回归中的快速收敛速度，即遗憾的是关于具有有界复杂度的任意函数类来定义后悔。我们的贡献是两倍： - 在绝对损失中的非参数网上回归的可实现设置中，我们提出了一种随机适当的学习算法，该算法在假设类的顺序脂肪破碎尺寸方面获得了近乎最佳的错误。在与一类Littlestone维度$ D $的在线分类中，我们的绑定减少到$ d \ cdot {\ rm poly} \ log t $。这结果回答了一个问题，以及适当的学习者是否可以实现近乎最佳错误的界限;以前，即使在线分类，绑定的最知名错误也是$ \ tilde o（\ sqrt {dt}）$。此外，对于真实值（回归）设置，在这项工作之前，界定的最佳错误甚至没有以不正当的学习者所知。 - 使用上述结果，我们展示了Littlestone维度$ D $的一般总和二进制游戏的独立学习算法，每个玩家达到后悔$ \ tilde o（d ^ {3/4} \ cdot t ^ {1 / 4}）$。该结果概括了Syrgkanis等人的类似结果。 （2015）谁表明，在有限的游戏中，最佳遗憾可以从普通的o（\ sqrt {t}）$中的$ o（\ sqrt {t}）为游戏设置中的$ o（t ^ {1/4}）$。要建立上述结果，我们介绍了几种新技术，包括：分层聚合规则，以实现对实际类别的最佳错误，Hanneke等人的适当在线可实现学习者的多尺度扩展。 （2021），一种方法来表明这种非参数学习算法的输出是稳定的，并且证明Minimax定理在所有在线学习游戏中保持。