检测时间序列中突然的属性变化的出现是一个具有挑战性的问题。已经针对该任务研究了内核双样本测试，其对分布的假设比传统的参数方法更少。但是，在实践中选择内核并非易事。虽然已经研究了用于双样本测试的核选择，但是变化点检测问题中的样本不足阻碍了那些开发的核选择算法的成功。在本文中，我们提出KL-CPD，一种用于时间序列CPD的新型内核学习框架，通过辅助生成模型优化测试功率的下限。通过深度内核参数化，KL-CPD endowskernel采用数据驱动内核进行双样本测试，以检测实际应用中的不同类型的更改点。在我们对基准数据集和模拟研究的比较评估中，所提出的方法显着优于其他最先进的方法。

我们的艺术家和机器学习研究团队设计了一种创造性算法，可以生成真正的雕塑艺术品。这些艺术品不会模仿任何给定的形式，也不能轻易归类为数据集类别。我们的方法将DeepDream从图像扩展到3D点云。提出的算法，Amalgamated DeepDream（ADD），利用点云的属性来创建比天真扩展更好的对象.ADD为机器的创造力提供了希望，推动艺术家探索新方法或材料的创造力，并创造新的类型而不是在onegenre中创建现有表单或样式的变体。例如，从现实主义到抽象表现主义，或极简主义。最后，我们展示了基于ADD创建的点云进行3D打印的雕塑。

生成性对抗网络（GAN）可以在不同类型的数据上获得复杂数据分布的有前途的表现。在本文中，我们首先表明现有GAN算法的直接扩展不适用于点云，因为鉴别器所需的约束对于集合数据是未定义的。我们建议对GAN算法进行双重修改以学习生成点云（PC-GAN）。首先，我们通过学习分层和可解释的抽样过程，将来自分层贝叶斯建模和隐式生成模型的思想结合起来。我们方法的一个关键组成部分是我们为隐藏变量训练后验推理网络。其次，我们不是仅使用最先进的Wasserstein GAN目标，而是提出一个夹心目标，这导致比一般情况更严格的Wassersteindistance估计。使用双重形式。因此，PC-GAN定义了可以包含许多现有GAN算法的通用框架。我们对ModelNet40基准数据集的声明进行了验证。利用生成点云和真实网格之间的距离作为度量，我们发现通过夹心目标训练的PC-GAN比现有方法在测试数据上获得更好的结果。此外，作为副产品，PC-GAN学习点云的多种潜在表示，其可以与对象识别任务上的其他无监督学习算法实现竞争性能。最后，我们还提供了关于生成看不见的对象类和将图像转换为点云的研究，这展示了PC-GAN的引人注目的泛化能力和潜力。

许多机器学习分类器容易受到对抗性攻击，具有旨在故意触发错误分类的扰动的输入。现代对抗方法要么直接改变像素颜色，要么将颜色“绘制”到3D形状上。我们提出了新的对抗性攻击，它直接改变了3D对象的几何形状和/或操纵虚拟场景中的光照。我们利用新颖的可微分渲染器，有效地评估和分析区分。我们的渲染器生成的图像非常逼真，可以通过常见的预训练模型进行正确的分类，并且我们使用它来设计一直欺骗这些模型的物理对抗示例。我们进行定性和定量实验，以验证外对抗几何和对抗性照明攻击能力。

我们研究非参数密度估计的极小极大收敛率，称为“对抗性损失”的大类损失函数，除了经典的$ \ mathcal {L} ^ p $损失，包括最大平均差异（MMD），Wasserstein距离和总变差距离。这些损失与生成对抗网络（GAN）中的鉴别器网络编码的损失密切相关。在一般框架中，我们研究了损失的选择和基础密度的假定平滑度如何共同决定最小极大率。我们还讨论了基于deepReLU网络训练GAN的含义，以及在极小极大统计意义上学习隐式生成模型的更一般的联系。

生成矩匹配网络（GMMN）是一种深度生成模型，它通过用基于内核最大度差异（MMD）的双样本测试替换GAN中的识别符来改变生成对抗网络（GAN）。尽管已经研究了MMD的一些理论保证，但GMMN的经验性能仍然不如GAN在具有挑战性的大型基准数据集上具有竞争力。与GAN相比，GMMN的计算效率也不太理想，部分地在训练期间需要相当大的批量大小。在本文中，我们提出通过引入对抗核学习技术来改进GMMN的模型表达性及其计算效率，作为原始GMMN中固定高斯核的替代。新方法结合了GMMN和GAN中的关键思想，因此我们将其命名为MMD GAN .MMD GAN中的新距离测量是一种有意义的损失，具有弱拓扑的优点，并且可以通过梯度下降和相对较小的批量大小进行优化。在我们对多个基准数据集（包括MNIST，CIFAR-10，CelebA和LSUN）的评估中，MMD-GAN的性能明显优于GMMN，并且与其他代表性的GAN工作相比具有竞争力。

尽管深度学习取得了巨大成功，但我们对如何训练凸凸神经网络的理解仍然相当有限。大多数现有的理论工作只涉及具有一个隐藏层的神经网络，而且对于多层神经网络知之甚少。递归神经网络（RNN）是在自然语言处理应用中广泛使用的特殊多层网络。与前馈网络相比，它们特别难以分析，因为权重参数在整个时间范围内重复使用。我们可以说是对训练RNN的收敛速度的第一个理论上的理解。具体来说，当神经元的数量足够大时 - 意味着训练数据大小和时间范围内的多项式 - 以及随机初始化权重时，我们表明梯度下降和随机梯度下降都可以最小化线性收敛中的训练损失率，即$ \ varepsilon \ proptoe ^ { - \ Omega（T）} $。

最近，卷积神经网络（CNN）在面部检测方面取得了巨大成功。然而，由于尺度，姿势，遮挡，表现，外观和照明的高度可变性，它对于当前的面部检测方法仍然是一个具有挑战性的问题。在本文中，我们提出了一种名为Dual Shot人脸检测器（DSFD）的人脸检测网络，该网络继承了SSD的体系结构，并引入了一个特征增强模块（FEM），用于传输原始特征图以扩展单镜头检测双镜头检测器。特别地，采用两组锚点计算的渐进锚杆损失（PAL）来有效地促进这些特征。另外，我们提出了一种改进的锚点匹配（IAM）方法，通过在DSFD中集成新的数据增强技术和锚点设计策略，为回归者。流行基准测试的广泛实验：WIDER FACE（简单：$ 0.966 $，中：$ 0.957 $，硬：$ 0.904 $）和FDDB（不连续：$ 0.991 $，连续：$ 0.862 $）展示了DSFD优于最先进的技术面部检测器（例如，PyramidBox和SRN）。代码将在发布时提供。

Residential transformer population is a critical type of asset that many electric utility companies have been attempting to manage proactively and effectively to reduce unexpected transformer failures and life loss that are often caused by overloading. Within the typical power asset portfolio, the residential transformer asset is often large in population, has the lowest reliability design, lacks transformer loading data and is susceptible to customer loading behaviors, such as adoption of distributed energy resources and electric vehicles. On the bright side, the availability of more residential service operation data along with the advancement of data analytics techniques has provided a new path to further our understanding of residential transformer overloading risk statistically. This research developed a new data-driven method that combines a transformer temperature rise and insulation life loss simulation model with clustering analysis technique. It quantitatively and statistically assesses the overloading risk of residential transformer population in one area and suggests proper risk management measures according to the assessment results. Multiple application examples for a Canadian utility company have been presented and discussed in detail to demonstrate the applicability and usefulness of the proposed method. Index Terms-power system reliability, clustering methods, transformers, life estimation, unsupervised learning. Ming Dong (S ' 08 , M ' 13, SM'18) received his doctoral degree from in 2013. Since graduation, he has been working in various roles in two major electric utility companies in West Canada as a Professional Engineer (P.Eng.) and Senior Engineer for more than 5 years. In 2017, he received the Certificate of Data Science and Big Data Analytics from Massachusetts Institute of Technology. He is also a regional officer of Alberta Artificial Intelligence Association. His research interests include applications of artificial intelligence and big data technologies in power system planning and operation, power quality data analytics, power equipment testing and system grounding. Alexandre Nassif (S'05, M'09, SM'13) is a specialist engineer in ATCO Electric. He published more than 50 technical papers in international journals and conferences in the areas of power quality, DER, microgrids and power system protection and stability. Before joining ATCO, he simultaneously worked for Hydro One as a protection planning engineer and Ryerson University as a post-doctoral research fellow. He holds a doctoral degree from the University of Alberta and is a Professional Engineer in Alberta. Benzhe Li (M'18) received his Master's degree from Department of Electrical and Computer Engineering, University of Alberta, Canada in 2015. He is currently an electrical engineer with Energy Ottawa. His research interests include advanced power quality data analytics and equipment condition monitoring.

基于通道的修剪在加速深度卷积神经网络方面取得了重大成功，深度卷积神经网络的管道是迭代的三步法：排序，修剪和微调。然而，这种迭代过程在计算上是昂贵的。在这项研究中，我们提出了一种基于粗略排序的新型计算有效的信道修剪方法，该方法利用微调期间的中间结果来对过滤器的重要性进行排序，建立在最先进的工作和数据驱动的排序标准之上。这项工作的目标不是提出一种基于特定通道修剪方法的单一改进方法，而是引入一种新的通用框架，该框架适用于一系列通道修剪方法。使用各种基准图像数据集（CIFAR-10，ImageNet，Birds-200和Flowers-102）和网络架构（AlexNet和VGG-16）来评估用于对象分类目的的所提出的方法。实验结果表明，所提出的方法可以与相应的艺术品（基线）达到几乎相同的性能，而我们的排名时间可以忽略不计。具体而言，通过所提出的方法，对于整个修剪过程的总计算时间的75％和54％可以分别针对CIFAR-10上的AlexNet和针对VGG-16 onImageNet而减少。我们的方法将极大地促进修剪实践，特别是在资源有限的平台上。