在神经网络和物联网（IOT）时，寻找能够在有限的计算能力和小内存大小上运行的新神经网络架构成为紧急议程。为IOT应用程序设计合适的算法是一个重要任务。本文提出了一种馈送前向LognNet神经网络，它使用半线性Henon型离散混沌映射映射来分类MNIST-10数据集。该模型由储层部件和可培训分类器组成。储层部件的目的是使用特殊矩阵归档方法和混沌映射产生的时间序列来改变输入以最大化分类精度。使用随机移民的粒子群优化优化混沌图的参数。因此，与LognNet的原始版本相比，所提出的LognNet / HENON分类器具有更高的准确性和相同的RAM使用情况，并为IOT设备提供了有希望的实现机会。此外，证明了分类熵值与分类的准确性之间的直接关系。

测量使用熵的时间序列的可预测性和复杂性是必不可少的工具去签名和控制非线性系统。然而，现有方法具有与熵对方法参数的强大依赖性相关的一些缺点。为了克服这些困难，本研究提出了一种使用LOGNNET神经网络模型估算时间序列熵的新方法。根据我们的算法，LognNet储库矩阵用时间序列元素填充。来自MNIST-10数据库的图像分类的准确性被认为是熵测量并由NNetEN表示。熵计算的新颖性是时间序列参与混合RES-ERVOIR中的输入信息。时间序列中的更大复杂性导致更高的分类精度和更高的Nneten值。我们介绍了一个新的时序序列特征，称为时间序列学习惯性，确定神经网络的学习率。该方法的鲁棒性和效率在混沌，周期性，随机，二进制和恒定时间序列上验证。 NNetEN与其他熵估计方法的比较表明，我们的方法更加稳健，准确，可广泛用于实践中。

当人体的各种参数在日常生活中立即监测并与物联网（IoT）相连时，医疗保健数字化需要有效的人类传感器方法。特别是，用于迅速诊断COVID-19的机器学习（ML）传感器是医疗保健和环境援助生活（AAL）的物联网应用的一个重要案例（AAL）。通过各种诊断测试和成像结果确定Covid-19的感染状态是昂贵且耗时的。这项研究的目的是基于常规的血值（RBV）值，为诊断CoVID-19的快速，可靠和经济的替代工具提供了一种。该研究的数据集由总共5296例患者组成，具有相同数量的阴性和阳性Covid-19测试结果和51个常规血值。在这项研究中，13个流行的分类器机器学习模型和LogNnet神经网络模型被逐渐消失。在检测疾病的时间和准确性方面，最成功的分类器模型是基于直方图的梯度提升（HGB）。 HGB分类器确定了11个最重要的特征（LDL，胆固醇，HDL-C，MCHC，甘油三酸酯，淀粉酶，UA，LDH，CK-MB，ALP和MCH），以100％准确性检测该疾病，学习时间6.39秒。此外，讨论了这些特征在疾病诊断中的单，双重和三组合的重要性。我们建议将这11个特征及其组合用作诊断疾病的ML传感器的重要生物标志物，从而支持Arduino和云物联网服务上的边缘计算。

自2020年2月以来，世界一直在与Covid-19疾病进行激烈的斗争，随着疾病变成大流行，卫生系统受到悲惨的压力。这项研究的目的是使用对LogNNET储层神经网络的向后特征消除算法获得COVID-19的诊断和预后中最有效的常规血值（RBV）。该研究中的第一个数据集由5296例患者组成，具有相同数量的阴性和阳性COVID-19。 Lognnet模型在疾病诊断中的准确率为99.5％，其特征的精度为99.17％，只有平均红细胞血红蛋白浓度，平均性肌张力性血红蛋白和激活的部分凝血酶蛋白时间。第二个数据集由总共3899例COVID-19诊断为医院接受治疗的患者，其中203名患者是严重的患者，3696例患者是温和的患者。该模型以48个特征确定疾病预后的准确率达到94.4％，而仅红细胞沉降率，中性粒细胞计数和C反应性蛋白质特征，精度为82.7％。我们的方法将减少卫生部门的负压力，并帮助医生使用关键特征来了解Covid-19的发病机理。该方法有望在物联网中创建移动健康监控系统。

肺炎是儿童死亡率的主要原因之一，尤其是在全球收入的地区。尽管可以通过不太复杂的仪器和药物进行检测和治疗，但肺炎检测仍然是发展中国家的主要关注点。基于计算机辅助的诊断（CAD）系统可在此类国家 /地区使用，因为其运营成本低于专业医疗专家。在本文中，我们使用深度学习的概念和一种元神父算法提出了一个从胸部X射线检测的CAD系统，以检测胸部X射线。我们首先从预先训练的RESNET50中提取深度功能，该功能在目标肺炎数据集上进行了微调。然后，我们提出了一种基于粒子群优化（PSO）的特征选择技术，该技术使用基于内存的适应参数进行了修改，并通过将利他行为纳入代理人而丰富。我们将功能选择方法命名为自适应和利他的PSO（AAPSO）。提出的方法成功地消除了从RESNET50模型获得的非信息性特征，从而提高了整体框架的肺炎检测能力。对公开可用的肺炎数据集进行了广泛的实验和彻底分析，确定了所提出的方法比用于肺炎检测的其他几个框架的优越性。除了肺炎检测外，AAPSO还可以在某些标准的UCI数据集，用于癌症预测的基因表达数据集和COVID-19预测数据集上进行评估。总体结果令人满意，从而确认AAPSO在处理各种现实生活问题方面的实用性。可以在https://github.com/rishavpramanik/aapso上找到此工作的支持源代码

物联网系统中的微型机器学习（Tinyml）利用MCU作为数据处理的边缘设备。但是，传统的Tinyml方法只能执行推理，仅限于静态环境或类。真实情况通常在动态环境中起作用，从而将原始神经模型不再合适的上下文漂移。因此，预训练的模型降低了其一生中的准确性和可靠性，因为记录的数据缓慢变为过时或出现新模式。连续学习策略通过对参数进行运行时进行微调维护模型。本文比较了两个实际应用中的四种最新算法：i）基于加速度计数据的手势识别和ii）图像分类。我们的结果证实了这些系统的可靠性以及将它们部署到微小的MCUS中的可行性，相对于无约束计算平台的原始模型的精确度下降了几个百分点。

联合学习（FL）是一个新的人工智能概念，它使得互联网（IoT）设备能够学习协作模型，而无需将原始数据发送到集中的节点进行处理。尽管有许多优势，但在物联网设备上的计算资源较低，交换模型参数的高通信成本使得FL在大型物联网网络中的应用非常有限。在这项工作中，我们为非常大的物联网网络开发了一种新型的FL压缩方案，称为高压联合学习（HCFL）。 HCFL可以减少FL过程的数据负载，而无需更改其结构和超参数。通过这种方式，我们不仅可以显着降低沟通成本，而且使密集学习过程更适应低计算资源的物联网设备。此外，我们研究了IoT设备数量与FL模型的收敛水平之间的关系，从而更好地评估了FL过程的质量。我们在模拟和数学分析中演示了HCFL方案。我们提出的理论研究可以用作最低满意度的水平，证明在满足确定的配置时，FL过程可以实现良好的性能。因此，我们表明HCFL适用于具有许多物联网设备的任何FLENTECTED网络。

物理信息的神经网络（PINN）是神经网络（NNS），它们作为神经网络本身的组成部分编码模型方程，例如部分微分方程（PDE）。如今，PINN是用于求解PDE，分数方程，积分分化方程和随机PDE的。这种新颖的方法已成为一个多任务学习框架，在该框架中，NN必须在减少PDE残差的同时拟合观察到的数据。本文对PINNS的文献进行了全面的综述：虽然该研究的主要目标是表征这些网络及其相关的优势和缺点。该综述还试图将出版物纳入更广泛的基于搭配的物理知识的神经网络，这些神经网络构成了香草·皮恩（Vanilla Pinn）以及许多其他变体，例如物理受限的神经网络（PCNN），各种HP-VPINN，变量HP-VPINN，VPINN，VPINN，变体。和保守的Pinn（CPINN）。该研究表明，大多数研究都集中在通过不同的激活功能，梯度优化技术，神经网络结构和损耗功能结构来定制PINN。尽管使用PINN的应用范围广泛，但通过证明其在某些情况下比有限元方法（FEM）等经典数值技术更可行的能力，但仍有可能的进步，最著名的是尚未解决的理论问题。

癫痫发作是最重要的神经障碍之一，其早期诊断将有助于临床医生为患者提供准确的治疗方法。脑电图（EEG）信号广泛用于癫痫癫痫发作检测，其提供了关于大脑功能的实质性信息的专家。本文介绍了采用模糊理论和深层学习技术的新型诊断程序。所提出的方法在Bonn大学数据集上进行了评估，具有六个分类组合以及弗赖堡数据集。可以使用可调谐Q小波变换（TQWT）来将EEG信号分解为不同的子带。在特征提取步骤中，从TQWT的不同子带计算了13个不同的模糊熵，并且计算它们的计算复杂性以帮助研究人员选择各种任务的最佳集合。在下文中，采用具有六层的AutoEncoder（AE）用于减少维数。最后，标准自适应神经模糊推理系统（ANFIS）以及其具有蚱蜢优化算法（ANFIS-GOA），粒子群优化（ANFIS-PSO）和育种群优化（ANFIS-BS）方法的变体分类。使用我们所提出的方法，ANFIS-BS方法在弗赖堡数据集上分为两类分为两类和准确度，在两类分类中获得99.46％的准确性，以及弗赖堡数据集的99.28％，达到最先进的两个人的表演。

在时间序列预测的各种软计算方法中，模糊认知地图（FCM）已经显示出显着的结果作为模拟和分析复杂系统动态的工具。 FCM具有与经常性神经网络的相似之处，可以被分类为神经模糊方法。换句话说，FCMS是模糊逻辑，神经网络和专家系统方面的混合，它作为模拟和研究复杂系统的动态行为的强大工具。最有趣的特征是知识解释性，动态特征和学习能力。本调查纸的目标主要是在文献中提出的最相关和最近的基于FCCM的时间序列预测模型概述。此外，本文认为介绍FCM模型和学习方法的基础。此外，该调查提供了一些旨在提高FCM的能力的一些想法，以便在处理非稳定性数据和可扩展性问题等现实实验中涵盖一些挑战。此外，具有快速学习算法的FCMS是该领域的主要问题之一。

模糊认知地图（FCMS）被出现为可解释的签名加权数字化方法，其由代表概念之间的依赖性的节点（概念）和权重。虽然FCMS在各种时间序列预测应用中取得了相当大的成果，但设计了具有较节约的训练方法的FCM模型仍然是一个开放的挑战。因此，本文介绍了一种新颖的单变量时间序列预测技术，该技术由标记为R-HFCM的一组随机高阶FCM模型组成。提出的R-HFCM模型的新颖性与将FCM和回声状态网络（ESN）的概念合并为高效且特定的储层计算（RC）模型系列，其中应用于训练模型的最小二乘算法。从另一个角度来看，R-HFCM的结构包括输入层，储存层和输出层，其中仅输出层是可训练的，同时在训练过程中随机选择每个子储存组件的重量并保持恒定。如案例研究，该模型考虑了与巴西太阳能站以及马来西亚数据集的公共数据的太阳能预测，包括马来西亚市柔佛市电源公司的每小时电负荷和温度数据。实验还包括地图尺寸，激活功能，偏置的存在和储存器的尺寸的效果，储存器的尺寸为R-HFCM方法的准确性。所获得的结果证实了所提出的R-HFCM模型与其他方法相比表现。本研究提供了证据表明，FCM可以是在时间序列建模中实施动态储存的新方法。

卷积神经网络（Convnets或CNNS）已被坦率地部署在计算机视觉和相关领域的范围中。然而，这些神经网络的训练动态仍然难以捉摸：训练它们很难且计算昂贵。已经提出了无数的架构和培训策略来克服这一挑战，并解决了图像处理中的几个问题，例如语音，图像和动作识别以及对象检测。在本文中，我们提出了一种基于粒子群优化（PSO）的新型训练。在这样的框架中，每个转弯的权重向量通常被铸成一个粒子在相空间中的位置，从而使PSO协作动力学与随机梯度下降（SGD）交织在一起，以提高训练性能和泛化。我们的方法如下：i）[常规阶段]每个Convnet都通过SGD独立训练； ii）[协作阶段] convnets在当前的权重（或粒子位置）及其对损耗函数的梯度估计中共享。不同的台阶尺寸由不同的convnet创造。通过将较大（可能是随机）的阶梯尺寸以及更保守的阶梯尺寸正确混合，我们提出了一种具有竞争性能的算法，相对于CIFAR-10的其他基于PSO的方法（精度为98.31％）。这些准确性水平是通过仅诉诸四个Convnet来获得的 - 预计此类结果将随着协作交流的数量而扩展。我们使我们的源代码可用于下载https://github.com/leonlha/pso-convnet-dynamics。

Approximation of entropies of various types using machine learning (ML) regression methods are shown for the first time. The ML models presented in this study define the complexity of the short time series by approximating dissimilar entropy techniques such as Singular value decomposition entropy (SvdEn), Permutation entropy (PermEn), Sample entropy (SampEn) and Neural Network entropy (NNetEn) and their 2D analogies. A new method for calculating SvdEn2D, PermEn2D and SampEn2D for 2D images was tested using the technique of circular kernels. Training and testing datasets on the basis of Sentinel-2 images are presented (two training images and one hundred and ninety-eight testing images). The results of entropy approximation are demonstrated using the example of calculating the 2D entropy of Sentinel-2 images and R^2 metric evaluation. The applicability of the method for the short time series with a length from N = 5 to N = 113 elements is shown. A tendency for the R^2 metric to decrease with an increase in the length of the time series was found. For SvdEn entropy, the regression accuracy is R^2 > 0.99 for N = 5 and R^2 > 0.82 for N = 113. The best metrics were observed for the ML_SvdEn2D and ML_NNetEn2D models. The results of the study can be used for fundamental research of entropy approximations of various types using ML regression, as well as for accelerating entropy calculations in remote sensing. The versatility of the model is shown on a synthetic chaotic time series using Planck map and logistic map.

近年来，随着传感器和智能设备的广泛传播，物联网（IoT）系统的数据生成速度已大大增加。在物联网系统中，必须经常处理，转换和分析大量数据，以实现各种物联网服务和功能。机器学习（ML）方法已显示出其物联网数据分析的能力。但是，将ML模型应用于物联网数据分析任务仍然面临许多困难和挑战，特别是有效的模型选择，设计/调整和更新，这给经验丰富的数据科学家带来了巨大的需求。此外，物联网数据的动态性质可能引入概念漂移问题，从而导致模型性能降解。为了减少人类的努力，自动化机器学习（AUTOML）已成为一个流行的领域，旨在自动选择，构建，调整和更新机器学习模型，以在指定任务上实现最佳性能。在本文中，我们对Automl区域中模型选择，调整和更新过程中的现有方法进行了审查，以识别和总结将ML算法应用于IoT数据分析的每个步骤的最佳解决方案。为了证明我们的发现并帮助工业用户和研究人员更好地实施汽车方法，在这项工作中提出了将汽车应用于IoT异常检测问题的案例研究。最后，我们讨论并分类了该领域的挑战和研究方向。

动态系统参见在物理，生物学，化学等自然科学中广泛使用，以及电路分析，计算流体动力学和控制等工程学科。对于简单的系统，可以通过应用基本物理法来导出管理动态的微分方程。然而，对于更复杂的系统，这种方法变得非常困难。数据驱动建模是一种替代范式，可以使用真实系统的观察来了解系统的动态的近似值。近年来，对数据驱动的建模技术的兴趣增加，特别是神经网络已被证明提供了解决广泛任务的有效框架。本文提供了使用神经网络构建动态系统模型的不同方式的调查。除了基础概述外，我们还审查了相关的文献，概述了这些建模范式必须克服的数值模拟中最重要的挑战。根据审查的文献和确定的挑战，我们提供了关于有前途的研究领域的讨论。

生物医学决策涉及来自不同传感器或来自不同信道的多个信号处理。在这两种情况下，信息融合发挥着重要作用。在脑电图循环交替模式中，在这项工作中进行了深度学习的脑电图通道的特征级融合。通过两个优化算法，即遗传算法和粒子群优化优化了频道选择，融合和分类程序。通过融合来自多个脑电图信道的信息来评估开发的方法，用于夜间胸癫痫和没有任何神经疾病的患者的患者，与其他艺术艺术的工作相比，这在显着更具挑战性。结果表明，两种优化算法都选择了一种具有类似特征级融合的可比结构，包括三个脑电图通道，这与帽协议一致，以确保多个通道的唤起帽检测。此外，两种优化模型在接收器的工作特性曲线下达到了0.82的一个区域，平均精度为77％至79％，这是在专业协议的上部范围内的结果。尽管数据集是困难的数据集，所提出的方法仍处于最佳状态的上层，并且具有困难的数据集，并且具有在不需要任何手动过程的情况下提供全自动分析的优点。最终，模型显示出抗噪声和有弹性的多声道损耗。

第五代（5G）网络和超越设想巨大的东西互联网（物联网）推出，以支持延长现实（XR），增强/虚拟现实（AR / VR），工业自动化，自主驾驶和智能所有带来的破坏性应用一起占用射频（RF）频谱的大规模和多样化的IOT设备。随着频谱嘎嘎和吞吐量挑战，这种大规模的无线设备暴露了前所未有的威胁表面。 RF指纹识别是预约的作为候选技术，可以与加密和零信任安全措施相结合，以确保无线网络中的数据隐私，机密性和完整性。在未来的通信网络中，在这项工作中，在未来的通信网络中的相关性，我们对RF指纹识别方法进行了全面的调查，从传统观点到最近的基于深度学习（DL）的算法。现有的调查大多专注于无线指纹方法的受限制呈现，然而，许多方面仍然是不可能的。然而，在这项工作中，我们通过解决信号智能（SIGINT），应用程序，相关DL算法，RF指纹技术的系统文献综述来缓解这一点，跨越过去二十年的RF指纹技术的系统文献综述，对数据集和潜在研究途径的讨论 - 必须以百科全书的方式阐明读者的必要条件。

基于机器学习的恶意软件检测技术依赖于恶意软件的灰度图像，并且倾向于根据灰色图像中纹理的分布对恶意软件进行分类。尽管机器学习技术显示出的进步和有希望的结果，但攻击者可以通过生成对抗样本来利用漏洞。对抗样本是通过智能手工制作并向输入样品添加扰动来生成的。大多数基于软件的对抗性攻击和防御。为了防御对手，基于机器学习和灰度图像的现有恶意软件检测需要对对抗数据进行预处理。这可能会导致额外的开销，并可以延长实时恶意软件检测。因此，作为替代方案，我们探索了基于RRAM（电阻随机访问记忆）对对手的防御。因此，本文的目的是解决上述关键系统安全问题。上述挑战是通过展示提出的技术来设计安全和健壮的认知系统来解决的。首先，提出了一种新的检测隐形恶意软件的技术。该技术使用恶意软件二进制图像，然后从同一图像中提取不同的功能，然后在数据集中使用不同的ML分类器。结果表明，基于提取的功能，该技术在区分恶意软件类别中成功。其次，我演示了对抗性攻击对具有不同学习算法和设备特征的可重新配置RRAM-NEUROMORMORMORMORMORMORMORORMORMORORMORMORMORORMORMORORMORMORORMORMORORMORMORORMORMORORMORMORORMORORMORORMORORMORORMORORMORORMORORMORMOROROMORMORORMORORMORORITIC的影响。我还提出了一种集成解决方案，用于使用可重新配置的RRAM体系结构来减轻对抗攻击的影响。

作为行业4.0时代的一项新兴技术，数字双胞胎因其承诺进一步优化流程设计，质量控制，健康监测，决策和政策制定等，通过全面对物理世界进行建模，以进一步优化流程设计，质量控制，健康监测，决策和政策，因此获得了前所未有的关注。互连的数字模型。在一系列两部分的论文中，我们研究了不同建模技术，孪生启用技术以及数字双胞胎常用的不确定性量化和优化方法的基本作用。第二篇论文介绍了数字双胞胎的关键启示技术的文献综述，重点是不确定性量化，优化方法，开源数据集和工具，主要发现，挑战和未来方向。讨论的重点是当前的不确定性量化和优化方法，以及如何在数字双胞胎的不同维度中应用它们。此外，本文介绍了一个案例研究，其中构建和测试了电池数字双胞胎，以说明在这两部分评论中回顾的一些建模和孪生方法。 GITHUB上可以找到用于生成案例研究中所有结果和数字的代码和预处理数据。

本文提出了基于Pytorch的深度自动编码器模型。该算法将Pytorch的想法引入自动编码器，并随机清除具有一定概率连接到隐藏层神经元的输入权重，以实现稀疏网络的效果，这与稀疏的起点相似自动编码器。新算法有效地解决了模型过度拟合的问题，并提高了图像分类的准确性。最后，进行实验，并将实验结果与ELM，RELM，AE，SAE，DAE进行比较。