新闻资讯
介绍
深度学习允许人工智能模仿人脑神经网络的工作方式。它与机器学习领域相关。数据输入方法是机器学习和深度学习之间的主要区别。机器学习使用结构化和非结构化数据来学习并预测未来。另一方面,深度学习网络使用多层深度神经网络来预测未来。神经网络中有输入层、隐藏层和输出层。它可以确定数据的模式、噪声和复杂部分。当特征之间的关系是线性时,神经网络很少是最佳选择。相反,可以使用机器学习。即使当人工神经网络进行线性相关网络时,也不需要隐藏层。神经网络计算出加权和。加权和作为输入传输到隐藏层中的激活函数。激活函数将输入与目标值连接起来。它利用输入的加权总和作为函数的输入,应用偏差,并确定神经元随后是否应该激活。预期输出显示在输出层中,并将生成的模型与实际结果进行比较。神经网络经过训练后,模型使用反向传播过程改进网络。错误率根据成本函数而降低。并确定神经元随后是否应该激活。预期输出显示在输出层中,并将生成的模型与实际结果进行比较。神经网络经过训练后,模型使用反向传播过程改进网络。错误率根据成本函数而降低。并确定神经元随后是否应该激活。预期输出显示在输出层中,并将生成的模型与实际结果进行比较。神经网络经过训练后,模型使用反向传播过程改进网络。错误率根据成本函数而降低。
输入和输出层神经元计数
有偏输入层的神经元数量通常可以与数据中特征的重要性相匹配。通常会有一个用于偏置的补充输入层。如果模型用作回归模型或分类器,则输出中的神经元数量将会不同。回归模型的输出层将由单个神经元组成。相反,分类器模型的输出层可能包括从单个神经元到多个神经元的任何位置,具体取决于模型的类标签。可以使用各种经验法则方法来计算隐藏层中部署的神经元的最佳数量,例如下面列出的方法。为了实现最佳结果,请确保隐藏层的大小调整器位于输入层和输出层大小的中间。此外,
隐藏层所需的神经元和层的数量还受到训练示例、失配数量、必须学习的数据的复杂性以及所使用的激活函数的类型的影响。输入层和输出层中神经元的平均数量可用于确定隐藏层中神经元的数量,这应该适合解决大多数问题。使用少于最佳数量的神经元将导致统计功效不足和欠拟合。选择太多神经元可能会延长训练时间、增加变化并存在过度拟合的风险。
修剪
通过修剪优化隐藏神经元数量可以提高计算和分辨率速度。确定哪些神经元对网络性能没有贡献可以减少训练期间网络的大小。还可以检查神经元重量以获得诊断。接近 0 的权重不太重要。这些节点在修剪过程中被切断。图 1描述了修剪过程。
人工神经网络ANN
人工神经网络模仿了这个概念,其中我们的模型由通过边缘连接的神经元表示(类似于轴突)。神经元的值只是与其连接的先前神经元值的总和,并按其边缘的大小进行加权。然后,神经元通过激活函数发送,该函数确定应激活多少神经元。图 2演示了激活函数模型。
人工神经网络只是矩阵乘法的一种修饰形式。ANN 的每一层都由一个向量表示,而矩阵则表示各层之间的权重。正式地,它将它们称为张量,因为它们的度量可能会改变。本研究旨在确定神经网络隐藏层和非线性激活类型的最佳配置。(NN)。提供有关通过物联网 (IoT) 协议发送的患者信息的一些背景信息。医疗传感器数据经过神经网络处理,然后得出有关患者病情的正确结论。之后,报告将提交给主治医生。使用所提出的解决方案,个人可以自动识别和预测疾病,并协助医生远程检测和分析疾病,而无需前往医院。与物联网结合。图3 .
图3 . 展示AI与IoT模型的结合。
三层补偿了我们的结构:输入层、隐藏层和输出层。输入层,即图片的16维特征向量,有助于简化过程。为了表示输入特征的更广义版本,隐藏层使用神经元的四维向量。将输入向量乘以 16×4 权重矩阵 W1 创建隐藏层。比如隐藏层,而输出层是输入层乘以权重矩阵生成的。
深度神经网络
通过添加我们需要的尽可能多的隐藏层以获得所需的深度(DNN),这些 ANN 可以成为深度神经网络。ANN 与 DNN 模型如图 4所示。
作为训练神经网络的起点,我们使用随机权重值来夸大事物。从存储预测的输入层开始,我们进入最终输出层。根据我们计算的预测误差对权重矩阵进行了显着修改。继续重复,直到重量保持不变。这需要满足初始梯度下降和反向传播算法的要求,但对于使用神经网络来说已经足够了。我们可以看到误差(损失)的减少是改变这个交互式版本中的权重的函数。
深度神经网络的激活函数
毫无疑问,激活函数在刺激神经网络和深度学习中潜在节点的活动以提供更好的结果方面发挥着至关重要的作用。通过激活函数将非线性引入模型中以实现所讨论的目标。如果人工神经网络中的节点接收到某个。输入或输入集,该节点的输出由其激活函数决定。嵌入式系统的输入可以被视为激活函数的数字网络中的节点。如果输入为正,则修正线性激活函数 (ReLU) 将提供该数据值;否则,它将返回零。由于其在 TRA 中的可访问性以及提供令人满意的性能的能力,它现在已成为许多神经网络类型的默认算法。Leaky ReLU、ELU、SiLU 等,
曾经有一段时间,sigmoid 和 tanh 激活函数更为常见,因为它们简单、可微且应用广泛。尽管如此,这些函数最终会饱和,使得梯度消失成为一个更加紧迫的问题。修正线性单元(ReLU)是解决这个问题最广泛使用的激活函数。神经网络中的激活函数是一种函数,它获取来自节点的输入的加权和并返回节点的激活或该输入的输出。像 Logistic sigmoid 这样的激活函数(受概率、统计和回归模型的影响)及其更有用的版本双曲正切一直被频繁使用,直到 2011 年,当时表明新的激活函数可能支持更深层次网络的高级技能。
ReLU
Rössig 和 Petkovic 2021 概述了重新建立神经网络行为逻辑保证的算法技术,作者强调了这些方法的运作方式。此外,作者还给出了一些关于 ReLU 神经网络近似的新理论发现。1 Jia 和 Li 2017 整流器是深度神经网络最常见的激活函数。使用整流器时,结果称为整流线性单元 (ReLU)。2尽管 ReLU 是顶级激活函数之一,但由于多种原因尚未得到快速采用。这是事实,因为在 0 点处无法区分。学者们经常使用像 sigmoid 和 tanh 这样的可微函数。然而,ReLU因其简单和方便而被确定为深度学习的理想算法。ReLU 的激活函数在 0 之外没有不可微点。如果函数的值大于 0,我们只需检查该值。因此,可以采用如下操作:
如果输入大于零,则
如果输入为零,则返回0;如果不是,则返回输入。
负数会自动转换为零,而正数会增加到其可能的最高值。
神经网络中的反向传播
训练神经网络需要反向传播,这意味着通过网络传回错误率以提高准确性。训练神经网络的核心是反向传播算法。一种逐个时期的方法,使用先前迭代(即迭代)中的有关神经网络错误率(称为损失)的信息来优化神经网络的权重。降低错误率和提高泛化能力是微调权重的两个好处。计算神经网络中反向传播的 ReLU 微分很简单。因此,仅执行一种简化,假设原点处的变体 0 同样为 0。如果我们采用函数的变体,那么我们会得到一个表示该函数斜率的数字。如果该值小于零,则斜率为零;如果大于零,则为一。
ReLU激活函数的进步
以下是使用 ReLU 激活函数带来的主要好处:
1.
训练卷积层和深度学习模型最常用的激活函数是深度学习和卷积层。
2.
计算简单:整流器功能可以用最少的努力来实现,因为所需的只是 max() 函数。
3.
真正具有代表性的稀疏性:整流器函数可以产生零数的想法是使用该函数的本质优势。
4.
线性行为:当网络的行为是线性或非常接近线性时,优化神经网络要简单得多。
但是,修正线性单元会自动将负值转换为零。这使得模型更难以拟合数据或训练自身以充分使用数据。ReLU 激活函数立即将任何负输入转换为零,这会显着影响最终图形,因为它无法准确映射负值。解决这个问题就像使用 ReLU 激活函数的各种变体一样简单,例如 Leaky ReLU 或其他版本之一。
sigmoid 和 tanh 的激活函数
神经网络由多层节点组成,它被编程为学习如何根据给予它的不同输入将不同的输入转换为输出。对于指定点,输入除以该节点中包含的权重,并将最终结果添加到该节点的总权重中。这个数字可能是已经加在一起的所有网络节点的激活。将激活函数应用于累积激活可以将求和激活转换成节点的特定输出或激活。这是通过使用激活函数来实现的。
由于没有对函数应用任何变换,因此它被称为线性激活函数,因为它是最简单的激活函数。训练具有线性激活函数的网络非常简单;然而,这样的网络无法训练复杂的映射函数,因为它缺乏所需的信息。即使在旨在预测数量(例如回归问题)的网络的输出层,也始终采用线性激活函数。如果节点利用非线性激活函数,它们将能够学习数据中更复杂的结构,因为这些函数使它们能够掌握数据中更广泛的结构。sigmoid 和整流激活函数是两种最常见的非线性激活函数。这两个非线性激活函数都是非线性的。
当谈到神经网络模型时,Sigmoid 激活函数(有时称为逻辑函数)被认为是最重要的激活函数之一。传输到该函数的数据量会导致该数据转换为介于 0.0 和 1.0 之间的值。当输入值明显小于 0.0 时,它将捕捉到 1.0;如果输入值远大于 1.0,则将其转换为值 1.0。同样,如果输入值远大于 1.0,则将其更改为值 1.0。对于函数的形式,曲线是 S 形的,对于可能使用的所有不同输入,其范围从 0 到 0.5 到 1。该范围是从 0 到 1.0。
双曲正切函数(有时简称为 tanh)是一种类似形状的非线性激活函数,可生成范围从 -1.0 到 1.0 的值。该函数的名称表明了这一点。Sigmoid 和 tanh 函数以及许多其他数学运算都受到计算中给定点饱和这一更普遍问题的影响。这意味着 tanh 和 sigmoid 函数的大值将向上舍入为 1.0,而小值将向下舍入为 -1 或 0。因此,这些函数仅对其输入中点的变化敏感,例如对于 sigmoid 函数为 0.5,对于 tanh 函数为 0.0。
重要的是要记住,该函数仍然会达到饱和,并且具有有限的灵敏度,与所提供的输入节点内是否包含激活的累积无关。当学习算法达到极限后,将很难继续调整权重来提高模型的性能。一旦学习算法达到容量,调整权重将变得具有挑战性。综上所述,即使 GPU 的硬件能力不断提高,由于 GPU 能力的限制,使用 sigmoid 或 tanh 激活函数的极深神经网络的训练也比以前更具挑战性。
当这些非线性激活函数用于大型网络时,梯度信息不会发送到网络内部的深层。如果出现错误,它将通过网络返回,作为其直接结果,网络的权重将被修改。通过提供所选激活函数的导数的每个后续层,通过传播的每个新层传输的错误率显着降低。深度(多层)神经网络无法正确训练是这个问题的结果,称为梯度消失问题。激活函数的应用无疑使神经网络能够学习复杂的映射函数,但深度学习技术无法以任何方式使用这些函数。
深度学习决策支持中的隐私和安全挑战
医疗保健领域的物联网和深度学习为决策支持系统带来了有希望的进步。然而,这种合并也带来了与隐私和安全相关的严峻挑战,必须认真解决这些挑战,以确保敏感患者信息的机密性、完整性和合规性。
主要关注点之一是通过物联网设备收集、传输和分析健康数据。这些设备的互连性质引入了恶意行为者可能利用的漏洞。强大的加密协议对于确保数据在传输和存储过程中的安全至关重要。如果没有足够的保护,患者信息很容易被拦截、篡改或未经授权的访问,从而对个人隐私和医疗保健系统的整体完整性构成严重风险。
身份验证和授权机制在降低安全风险方面发挥着关键作用。必须采取严格的控制措施,以防止未经授权访问我们的物联网设备和深度学习系统。未经授权的访问不仅可能损害患者数据,还可能操纵决策支持系统的功能,导致错误的诊断或治疗建议。实施多重身份验证和定期更新访问权限是增强安全性的重要措施。
在持续的数据收集过程中,隐私问题成为首要问题。来自物联网设备的持续健康数据流需要遵守严格的法规,例如健康保险流通和责任法案 (HIPAA)。遵守这些法规不仅是法律要求,而且对于维持患者和利益相关者对医疗保健生态系统的信任也至关重要。此外,为了保护个人身份,同时仍然能够对健康数据进行有意义的分析,实施匿名技术变得势在必行。在数据实用性和隐私之间取得适当的平衡是在医疗保健中部署深度学习决策支持系统的一个微妙但重要的方面。
由于该研究旨在将人工智能与物联网相结合,因此必须在应对不断变化的安全威胁方面保持警惕。这需要不断更新设备固件以修补漏洞并实施安全通信协议。医疗保健技术领域瞬息万变,领先于新出现的威胁对于有效保护患者信息至关重要。此外,遵守 HIPAA 以外的法律框架(包括区域和国际数据保护法)对于确保采取全面的数据安全方法至关重要。
总之,将物联网和深度学习集成到医疗保健决策支持系统中具有巨大的潜力,但它也带来了巨大的隐私和安全挑战。加密、身份验证和授权可衡量项目数据完整性和未经授权的访问。遵守 HIPAA 等法规并实施匿名技术可以解决隐私问题。不断努力更新固件、采用安全通信协议并及时了解不断变化的安全威胁,对于在快速发展的医疗技术领域保护患者信息至关重要。随着该领域的发展,对隐私和安全采取全面、主动的方法对于在医疗保健领域成功且合乎道德地实施这些变革性技术至关重要。
动机
深度神经网络 (DNN) 和物联网技术在医疗保健领域的集成具有重要的推动力,原因如下:
高级数据分析
DNN 擅长从复杂和非结构化数据中学习。在医疗保健领域,大量数据是从医疗记录、患者监测设备、基因组学和可穿戴传感器等各种来源生成的。通过利用 IoT 设备收集和传输这些数据,DNN 可以对其进行分析,以提取有价值的见解、模式和相关性。这使得医疗保健专业人员能够做出更准确的诊断、预测患者的结果并制定个性化的治疗计划。
实时监控和干预
医疗保健中的物联网设备,包括可穿戴设备和远程监控传感器,可以持续收集患者数据,例如生命体征、活动水平和药物依从性。将 DNN 与 IoT 集成,可以处理和分析这些实时数据。如果检测到异常或危急情况,医疗保健提供者可以收到警报或通知,从而可以立即采取干预措施并及时护理患者。DNN 与物联网相结合有助于医疗保健环境中的高效资源分配。对于糖尿病、哮喘或心血管疾病等慢性疾病,物联网设备可以收集患者数据,包括血糖水平、呼吸参数或血压,并将其输入 DNN 模型。这些模型可以为疾病管理、药物调整或生活方式改变提供个性化的见解和建议。这有助于患者和医疗保健提供者优化治疗计划并实现更好的健康结果。物联网设备使患者能够参与自己的医疗保健。连接设备、移动应用程序和智能可穿戴设备可以提供实时反馈、提醒和教育内容,以促进更健康的习惯和遵守治疗计划。通过集成 DNN,这些物联网设备可以根据个人的健康数据提供个性化建议,使患者能够采取主动措施来管理自己的健康和福祉。总体而言,DNN 和物联网技术在医疗保健领域的集成可以带来更准确的诊断、个性化治疗计划、主动监测、提高患者参与度、有效资源利用和更好的公共卫生管理。然而,解决隐私、安全和道德问题至关重要,以确保负责任地使用数据并维护患者机密。这项研究的主要贡献是确定神经网络隐藏层的最佳数量并探索激活函数的不同变化。
此外,该研究旨在分析可用于比较和创建快速神经网络的各种框架。最终目标是研究创新技术,加速神经网络的训练过程,同时保持高精度。我们的研究旨在解决当前神经网络训练理解和实践中的一些差距。
最佳隐藏层数
确定神经网络中隐藏层的理想数量至关重要但具有挑战性。对于不同应用的神经网络的最佳深度缺乏共识。我们的研究旨在通过探索隐藏层数量与网络性能之间的关系来填补这一空白,特别注重实现更高的准确性。
激活函数的变化
激活函数在向神经网络引入非线性方面发挥着至关重要的作用。虽然 sigmoid 或 ReLU 等常用激活函数已被广泛研究,但替代函数可能在准确性和训练速度方面提供更好的性能。我们的研究旨在研究不同的激活函数变化,以确定训练效率的潜在改进。
加速训练的框架比较
随着神经网络的复杂性和规模不断增加,需要能够加速训练过程的高效框架。我们的研究旨在分析和比较各种框架(可能包括 TensorFlow 或 PyTorch 等知名框架),以确定在不影响准确性的情况下加速神经网络训练的最有效方法。
速度与精度权衡的创新技术
由于训练深度神经网络的计算成本可能很高,因此寻找可以减少训练时间同时保持甚至提高准确性的创新技术是一项重大的研究挑战。我们的研究旨在探索并提出在不牺牲准确性的情况下加速训练的新方法,并可能利用网络架构、优化算法或分布式计算等领域的进步。
总体而言,当前研究工作的主要贡献是:通过解决这些差距,该研究旨在促进更快、更准确的神经网络的开发,从而在计算效率至关重要的各个领域(例如实时)中实现实际应用医疗数据、自主系统或大规模数据处理的分析。
本文旨在提出一种将深度神经网络(DNN)与物联网技术相结合的新方法,用于医疗保健应用。在第二节中,我们回顾了 DNN 及其在医疗保健中的应用的相关文献。第三节介绍了我们提出的方法,概述了与物联网设备集成的 DNN 模型的架构和数据流。第四节介绍了我们实验的结果和讨论,证明了所提出方法的有效性。最后,在第五节中,我们通过讨论我们研究的局限性并提出未来研究的途径来总结本文。处理过程如图5所示。
文献综述
深度学习是机器学习领域最常争论的话题。它具有广泛的应用,包括机器学习、语言翻译、语言处理、图形对象识别、疾病诊断、临床试验、生物信息学、生物医学等。其中,与医学和保健领域相关的应用呈现显着增长。深度学习的普及可能是由于多种变量造成的,其中最重要的是海量数据、物联网、链接设备以及带有 GPU 和 TPU 的高性能处理器的传播。医疗物联网 (IoT)、数字图像、电子病历 (EMR) 数据、遗传信息、集中式医疗数据库是深度学习应用程序最重要的数据源之一。根据许多潜在问题,深度学习最重要的方面是隐私、服务质量的优化和部署。这些方面包括安全性、服务质量优化和部署。Bolhasani 等人根据综合文献综述,本研究评估了医疗保健中物联网系统的深度卷积神经网络。本文考察了 2010 年至 2020 年间完成的研究,这些研究选自之前发表的 44 篇研究出版物。和部署。Bolhasani 等人根据综合文献综述,本研究评估了医疗保健中物联网系统的深度卷积神经网络。本文考察了 2010 年至 2020 年间完成的研究,这些研究选自之前发表的 44 篇研究出版物。和部署。Bolhasani 等人根据综合文献综述,本研究评估了医疗保健中物联网系统的深度卷积神经网络。本文考察了 2010 年至 2020 年间完成的研究,这些研究选自之前发表的 44 篇研究出版物。3
在 Malarvizhi 等人看来,支持物联网的电子医疗保健应用程序通过在智能环境中提供医疗保健监控服务,为社会做出了重大贡献。在这个高速互联网和云数据库时代,由于用户数量庞大且私人数据的可用性,医疗保健系统的安全性必须被视为一个重要问题。由于需要安全地维护患者健康记录的电子版本,引发了有关患者数据隐私和安全的问题。此外,如今使用标准分类器管理大量数据是一项相当复杂的任务。许多深度学习方法可用于有效地对大量数据进行分类。4
Wassan 等人使用卷积神经网络模型架构和 conv1d 算法来预测霜冻事件。5谢赫等人。引入了轻量级且易于使用的 MANET 组播协议。6 Wassan 等人验证了模型的有效性。现实世界中的实验验证了我们建议的算法在保护用户隐私方面的有效性。7
在 Zikria 等人看来,将深度学习方法集成到物联网中以提高应用程序性能具有挑战性。下一代物联网网络需要结合使用这些方法来平衡计算成本和效率。为了满足机器学习、物联网和无缝集成的要求,需要对从网络物理层到应用层的通信基础设施进行彻底的重做。因此,基于改进的堆栈构建的应用程序和网络将更容易广泛部署。8 Wassan 等人提出了应用于公众认知分析的机器学习方法。9
Fahmy 等人指出,在流行病期间,例如由病毒传播引起的流行病,让人们去医院接受治疗 (COVID-19) 可能极其困难。本研究将使用人工智能 (AI) 和物联网解决方案来调查和解决这个问题。10
深度学习(DL)算法用于疾病诊断。在Ragab等人当前的研究中,作者利用最好的堆叠稀疏去噪自动编码器(SSDA)技术,即OSSDA,提出了一种基于物联网的身体健康监测和控制的独特方法。所提出的模型通过一系列物联网设备收集患者数据。在疾病诊断过程中,阶层不平衡的情况带来了重大挑战。11 Ullah 等人的研究通过纳入创新传播的概念,提供了技术接受模型的修订版本。12
伊朗帕克等人。使用优先级划分方法对物联网中的敏感数据进行优先级排序。在云应用中,LSTM深度神经网络用于对患者病情进行分类和远程监控,这是一项重大创新。13
Ganesh 等人的研究提出,不同的 CNN 根据其更深层次的架构显示图片的各种语义特征;因此,CNN 架构的集合使得能够比传统方法提取更高质量的元素。14 Vasan 等人的研究利用高级集成学习 (MTHAEL) 为跨架构的物联网提供了有效的恶意软件威胁检测模型。15此前,Wassan 等人。提出了情感分析的机器学习和深度学习模型。16 Vasan 等人提出,使用基于 CNN 的深度学习架构,将 IMCFN 开发为革命性的分类器,通过识别恶意软件家族之间的变化来更好地检测恶意软件。17 号
胡马雍等人。研究建议采用 CET(尖端技术)——一种称为(RTSHPMP)的基础方法,除了提供医疗和法律支持之外,还可以确保旅行者的安全和隐私。18穆扎马尔等人。研究提出了 SM Trust,这是一种基于移动性信任指标的概念性物联网路由协议安全方法。19 Namasudra 提出,睡眠不足的负面后果可以通过参考文献中描述的睡眠的优点来减轻。20 . 瓦桑等人。使用机器学习和深度学习算法来检查电子商务和电子银行数据集,并发现性能指标的顶级技术。21Dietz 的工作重点是在实验生物信息学、医学成像、广泛的传感器、医疗保健分析和公共卫生中使用深度学习。22
Harerimana 等人通过这项研究,旨在为深度学习与电子医疗的潜在应用提供更人性化的理由。作者提供了关于深度学习算法如何解决每项临床活动的技术想法和蓝图,然后讨论了健康信息学专家如何使用这些方法。23在这项工作中,Varshney 和 Singh 提出了一种新方法,通过使用许多可配置的斜率参数来推广 ReLU 激活函数。24 Placzek & Placzek,具有 ReLU 激活函数的神经网络内层矩阵中的许多权重系数在实际活动中表示为零。
这种现象降低了学习算法的进步效率。当尝试分析和描述 ANN 的结构时,ANN 的层数通常是第一个出现的参数。ANN 的学习机制是分层的;因此,网络被分成更小的网络。通过让每个子网络发现其权重系数的优越值以使用局部目标函数,可以最小化学习误差。通过在学习方法的第二协作级别协调局部解决方案来找到全局目标函数最小值。每次周期完成时,协调器必须使用新的协调设置更新子网的初始级别。本地进程利用输入和训练向量进行操作并确定其权重系数。在此步骤计算反馈误差并将其传输到协调器。这将持续下去,直到总目标函数被参考文献最小化。25 .
激活函数在深度学习算法中用于处理网络的输入并产生匹配的输出。深度学习模型有助于图像分析、自然语言处理、对象分类和预测;Kiliçarslan 和 Celik 对于评估具有多个参数和预测的大数据特别有用。深度学习模型通常使用传统的激活函数,如 sigmoid 和 tangent。另一方面,sigmoid 和切线激活函数存在梯度消失问题。26
张等人提供了一种基于循环神经网络 (RNN) 27的 NMPC 技术,用于使用多目标进化优化 (DEO) 的单链接柔性关节 (FJ) 机器人定位。28对于实时应用,Alrawashdeh 和 Purdy 提出了自适应线性函数 (ALF),这是一种快速激活函数,可以提高深度学习算法的收敛速度和精度。29 Boullé 等人在本文中重点关注具有逻辑激活函数的神经网络。在深度学习架构中,神经网络的效率深受所使用的激活函数的影响。作者表明,理性人工神经网络在复杂性方面具有最佳限制,并且我们凭经验证明了这些界限。
所提出的方法使用深度神经网络(DNN)和物联网技术。在这里,我们详细描述了所提出的方法相对于现有文献的优越性以及为什么需要它。
模型复杂性增加
与传统的浅层网络相比,深度神经网络具有多个层,可以增加模型的复杂性。这种增加的深度使模型能够从物联网生成的数据(例如图像)中学习更复杂和抽象的表示。通过利用深度学习技术,所提出的方法可以捕获数据中的复杂模式和关系,从而提高准确性和性能。DNN 的一项显着优势是能够直接从原始数据中自动学习特征表示。传统方法通常需要手动特征工程,由特定领域的专家设计和提取相关特征。
相比之下,所提出的基于 DNN 的方法消除了手动特征工程的需要,减少了人力和潜在的偏差。该网络学习数据的分层表示,使其能够自动从物联网生成的图像中提取有意义的特征,从而产生更稳健和更具辨别力的表示。所提出的基于 DNN 的方法在不同物联网数据的适应性和泛化方面表现出色。深层架构可以处理图像分辨率、传感器类型和环境条件的变化。它学习提取可推广到未见过的数据的相关特征和模式。这种适应性在物联网应用中至关重要,因为需要对来自具有不同特征的各种来源的数据进行一致和准确的分析。
实时处理
物联网实时生成大量数据,需要高效、及时的处理。DNN 可以在高性能硬件或专用处理器上进行优化和部署,以进行实时分析。通过利用 DNN 的并行计算能力,所提出的方法可以满足实时处理物联网数据的计算需求,促进时间敏感应用中的快速决策和响应。可扩展性:随着物联网部署的快速增长,可扩展性变得至关重要。DNN 本质上是可扩展的,可以处理大规模数据集和部署。所提出的方法可以有效地处理和分析物联网生成的不断增加的图像量。通过利用分布式计算或并行处理技术,该方法可以水平扩展以适应不断扩展的物联网网络,使其适用于智慧城市、工业物联网和医疗保健系统等应用。边缘计算使计算更接近物联网设备,减少延迟,节省网络带宽并增强隐私。基于 DNN,所提出的方法可以在边缘设备上进行优化和部署,从而能够在设备上处理和分析物联网生成的图像。此功能消除了将数据持续传输到集中式服务器的需要,使其成为对延迟敏感的应用程序和关注数据隐私的场景的理想选择。所提出的基于深度神经网络和物联网技术的方法通过利用增加的模型复杂性、自动特征提取、对不同数据的适应性、实时处理、可扩展性和边缘计算能力,提供了优于现有文献的优势。
研究人员利用物联网和深度学习展示了一个医疗保健决策支持系统。使用建议的方法,我们研究了深度学习与自动诊断和物联网功能集成的效果如何,以通过网络提供更快速的数据传输。为了创建电子医疗系统,我们选择了最佳隐藏层和激活函数类的最佳神经网络结构数量。此外,电子医疗系统依赖医生的数据来理解神经网络。在验证方法中,对所提出的诊断医疗保健系统的总体评估提供了各种患者条件下的可靠性。根据评估和仿真结果,前馈神经网络及其神经元的双隐藏层比其他神经网络更有效地存储 tanh 函数。为了克服挑战,这项研究将人工智能与物联网相结合。本研究旨在确定神经网络的最佳层数和激活函数变化。
该研究的主要贡献可概括如下:
该研究建议将深度学习算法与物联网技术集成到医疗保健决策支持系统中。这种集成使系统能够报告患者数据,并在患者健康发生变化时及时向医疗应用程序或电子健康信息发出警告。该系统利用深度学习技术进行自动诊断。通过分析患者数据,深度学习算法可以提供准确、高效的诊断结果,帮助医疗保健专业人员做出明智的患者护理决策。该研究的重点是选择合适的神经网络结构,包括最佳的隐藏层数量和激活函数类别,以构建电子医疗系统。这种优化确保神经网络在处理和分析医疗数据时有效执行。拟议的医疗保健系统经过验证,以评估其在各种患者条件下的性能和可靠性。此验证过程可确保系统提供可靠且准确的诊断结果。通过评估和模拟,该研究发现,与其他配置相比,具有存储 tanh 激活函数的神经元的双隐藏层前馈神经网络的性能更有效。这一发现有助于理解医疗保健应用的最佳神经网络配置。该研究认识到医疗保健领域面临的挑战,旨在通过将人工智能 (AI) 与物联网相结合来克服这些挑战。这种集成利用人工智能算法(例如深度学习)的力量来利用物联网设备收集的大量数据,实现更高效、更有效的医疗保健解决方案。总体而言,该研究的主要贡献在于深度学习和物联网在医疗保健自动诊断中的集成、神经网络结构的优化、所提出的系统的验证、最佳神经网络配置的识别以及人工智能与物联网集成的愿景应对医疗保健挑战。
我们研究的假设
在DNN研究的模拟阶段,我们简化了实验设置并促进了模型训练和评估。训练和测试数据集代表了现实世界的数据分布。尽管一些学者努力收集多样化和全面的数据集,但数据收集过程中仍然可能存在固有的偏差或局限性。在数据预处理期间,例如输入数据的标准化、调整大小或裁剪。通常执行这些预处理步骤是为了确保不同样品之间的一致性和兼容性。为训练数据提供的标签或注释是准确的。模拟实验可以获得足够的计算资源,例如高性能 GPU,用于训练和评估 DNN 模型。当从模拟过渡到实际部署时,此类资源的可用性可能会影响所提出方法的可扩展性和效率。我们选择的参数,例如学习率、批量大小和网络架构,最适合小数据集。这些选择基于经验观察和先验知识。在某些情况下,最佳超参数选择可能需要额外的实验和调整。
数据分析流程
首先,我们从 PC 传输数据集。提供 CSV 文件。
第二阶段:预处理,该运算符包含所有通用预处理过程。
第三,准备数据以进行相关性分析。
在第四阶段,编码,数据被one-hot编码(因为没有目标),并且包含太多标称值的列被删除。
步骤 5:删除无关数据,例如常量列
第六步是收集没有特征的样本,然后根据特征的数量进一步减少样本量。
在第七阶段,属性按按字母顺序排列的列重新排列。
相关矩阵,第八步:构建真实连接
在第九步中,您将为输出添加注释并命名。
建筑平面图如图8所示。
图 8 . 显示模型构建计划。
结果
深度学习回归模型的性能
评估统计数据变异性的常用方法是标准差 (SD)。它展示了变量与平均值的差异程度。高 SD 表明数据分散在较宽的值范围内,而低 SD 则表明数据点接近平均值。数据样本的静态视图如图 9所示。
图 9 . 呈现数据样本的静态视图。
均方误差 (MSE)
MSE 测量训练集中的预测值和实际值之间的平均平方差。它提供了模型总体训练误差的度量。较低的 MSE 表示模型与训练数据的拟合效果更好,0 是最佳可能值。
均方根误差 (RMSE)
RMSE 是 MSE 的平方根,表示目标变量原始尺度下预测误差的平均大小。与 MSE 类似,RMSE 越低表明模型在训练数据上的性能越好。
决定系数 (R 2 )
R 2衡量训练集上的模型可以解释的因变量方差的比例。它的范围从 0 到 1,其中 1 表示模型解释了数据中的所有方差。R 2值越高表示模型与训练数据的拟合效果越好。
平均残差
考虑模型对训练数据的拟合优度,平均残差衡量预测值与实际值之间的平均差异。值越低表示模型与训练数据的拟合效果越好。
平均绝对误差 (MAE)
MAE 计算训练集中预测值和实际值之间的平均绝对差。它提供了模型对训练数据产生的错误的平均大小的度量。MAE 越低表示模型在训练集上的性能越好。
均方根对数误差
均方根对数误差是训练集中的预测值和实际值之间的对数差平均值的平方根。当目标变量呈偏态分布时,它特别有用。与 RMSE 类似,值越低表示模型在训练数据上的性能越好。
这些参数有助于评估回归模型在训练数据上的性能和准确性。它们提供了模型与训练数据的拟合程度以及预测值与实际值的吻合程度的感知。综合考虑这些指标来评估模型的训练性能质量非常重要。
我们使用多个参数来确定最有效的方法来测试我们的方法的效果。在下一段中,我们将讨论计算如何更改秘密共享值。通过采用 19 个训练集特征,我们训练可靠的模型来预测医疗保健成本的(数字)目标特征。我们发现 0.89503 是最佳选择,因为它为我们提供了良好的拟合 (R 2 ),并让我们将足够的系数设置为 0。为了使用这组参数开发稳定模型,我们需要 26 次迭代。我们使用的 R 2为 0.89503,MSE 为 0.01094,RMSE 为 0.10458,平均残差偏差为 0.01094,平均绝对误差为 0.07452,均方根对数误差为 0.07207。
在训练集上训练模型后,我们将相同的参数应用于测试集,得到的 R 2为 0.90707,MSE 为 0.01045,RMSE 为 0.10224,平均残差为 0.01045,MAE 为 0.06954,RMSE 为 0.07051,验证我们的解决方案。我们的安全模型的客观价值高于 scikit-learn 模型,尽管前者在拟合优度标准上表现更好。因此,我们的受保护模型表现非常好,略胜于(非常优化的)scikit-learn 模型。
标准差衡量数据集合的分布程度。将每个数据点与所有数据点的平均值进行比较,标准差给出确定的数字,该数字指示数据点是聚集在一起还是分离的。
我们模型的性能结果表明各个指标都有强劲的性能。曲线下面积 (AUC) 值为 97.2,表明具有出色的辨别能力,特别是在二元分类任务中。98.2%的高准确率表明预测总体正确,而30分的低分类误差表明错误分类的比例很小。f-measure 是精确率和召回率之间的平衡指标,为 97.9%。准确率(99.2%)反映了模型正确识别正例的能力,而召回率(99.1%)衡量了模型捕获所有正例的能力。灵敏度 (95.1%) 表明模型在识别真阳性方面的有效性,特异性 (96.2%) 则强调其正确识别真阴性的能力。全面的,结果表明,该模型表现良好,具有较高的准确度,并且在精确度和召回率之间进行了平衡权衡,证明了正面和负面实例预测的稳健性。结果性能模型表显示在表 5 .
表 6提供的模型展示了其预测能力的不同程度的准确性。Baek 和 Chung 的 2020 年模型的准确度相对较低,为 0.85%,表明存在潜在的局限性。Swtha 的 2020 年模型以 97% 的准确率脱颖而出,展示了其强大的预测性能。Khanna、Selvaraj 等人的 2023 年模型达到了值得称赞的 93% 准确率,而 Wassan、Suhail 等人的 2022 年模型则落后于 82.5% 的准确率。相比之下,所提出的模型拥有最高的准确率,达到 98.2%,超过了所有参考模型。这表明所提出的模型表现出卓越的预测能力,优于现有方法,并有可能为特定任务提供卓越的解决方案。
深度学习使用反向传播算法和随机梯度下降开发具有多个互连层的人工神经系统。网络中可能存在具有 tanh、整流和 max-out 超参数的神经元隐藏层。动量训练、dropout、主动学习率、退火率以及 L1 或 L2 正则化等现代功能提供了卓越的预测性能。全球模型的参数根据来自该节点的数据进行多线程(异步)训练,然后通过整个网络上的模型平均逐渐增强基于模型的数据。
该方法在运营商发起的单节点、直接H2O集群上执行。尽管只涉及单个节点,但该操作是并行的。线程数可以在“首选项”和“常规”下的设置菜单中进行调整。自动使用系统的最佳线程数。
使用 H2O 深度学习运算符对医疗保健数据集进行成功预测。由于其标签是二项式的,因此将进行分类。分割验证运算符创建测试和训练数据集来评估模型。默认情况下,使用深度学习激活器的设置。换句话说,我们将构建两个隐藏层,每个隐藏层包含 50 个神经元。准确度度量是通过将带注释的样本集与执行者(二项分类)运算符链接起来来计算的。表 7显示了深度学习模型、标记数据以及该技术产生的性能向量。
使用深度学习进行回归
H2O 深度学习函数可预测数据集的数字标签属性。由于其标签为 true,因此会自动执行回归。使用“分割数据”运算符将生成的数据分为两部分。训练数据集是第一个输出,评估数据集是第二个输出。深度学习控制器(默认)使用自适应学习率。程序根据 epsilon 和 rho 变量自动计算学习率。唯一的非默认选项是隐藏层大小,它使用三层,每层 50 个神经元。将其应用于验证数据后,标记数据将与过程性能相关联。
回归中的 ReLU
激活函数(ReLU)
我们在隐藏神经元和输出神经元上使用激活函数来保护神经元不会下降得太低或太高,这将不利于网络的学习过程。这可以防止神经元下降得太低或太高。简单来说,采用这种方法进行运算比较准确,如图12所示。
在输出层中实现的激活函数被认为是最有效的。当神经网络用于解决回归问题时,预期结果是连续输出。我们继续使用医疗患者的数据集进行实验。整流线性单元是最直接、最实用的激活函数之一。因此,我们使用它来确保遵守本指南。Adam 只是梯度下降算法的改进形式,用于优化。它比其他几种优化器技术要快得多。
我们对模型进行了 10 个时期的训练,每个时期都包含训练数据的系统运行,如表 8所示。图 13 显示了分类结果和训练结果的迭代。
由于我们可能会迭代一批数据,因此纪元与学习迭代不同。一个新纪元开始了。然而,模型每次都完成了对所有训练数据的迭代。
RMSE 仍处于一个方差之下,表明数据通常是分布式的。这积极地反映了模型的有效性。
讨论
所述研究旨在研究神经网络隐藏层的理想数量并探索激活函数的不同变化。此外,该研究还分析了各种框架,以比较和提高神经网络训练的速度,同时保持准确性。在方法方面,该研究使用了 200 个样本数据集,这些数据集来自www.Kaggle.com。减少深度学习模型的总层数以提高效率。该研究采用了修正线性单元 (ReLU) 激活函数,利用两个全连接层。如果输入值大于零,ReLU激活函数返回0,否则直接输出输入值。研究的讨论将涉及解释和分析研究结果及其含义。这可能包括评估不同激活函数变化的性能以及改变隐藏层数量对神经网络准确性和训练速度的影响。讨论还可能涉及比较和对比使用不同框架训练神经网络获得的结果及其对现实世界应用的影响。总体而言,该研究' 讨论将深入了解不同技术在优化神经网络架构、提高训练速度和保持准确性方面的有效性,以确定在不牺牲性能的情况下加速训练过程的创新方法。所述研究的重点是利用深度学习算法开发医疗保健决策支持系统,该系统集成了物联网功能以进行实时数据传输和自我诊断。目标是通过基于个性化数据分析确保及时有效的治疗来改善患者护理。所提出的系统利用深度学习技术,特别是神经网络来设计电子医疗系统。该研究研究了神经网络架构中最佳隐藏层数量和激活函数变化的选择。评估和模拟结果表明,具有 tanh 激活函数的双隐层前馈神经网络在应用于诊断时可提供更可靠的结果。人工智能 (AI) 与物联网的集成被强调为克服医疗保健领域挑战的一种手段。通过结合这些技术,该研究旨在提高电子医疗系统的效率和有效性。该研究满足了医疗保健领域对能够提供实时监控和个性化护理的先进系统日益增长的需求。通过结合深度学习算法和物联网功能,所提出的系统提供了改善患者治疗结果并确保及时干预的潜力。利用神经网络可以进行复杂的数据分析和模式识别,可以帮助准确诊断患者。选择最佳的隐藏层数量和激活函数对于获得可靠的结果和确保系统的有效性至关重要。通过将人工智能与物联网相结合,该研究认识到利用物联网设备生成的大量数据并将高级分析应用于医疗保健决策的潜力。这种集成可以提高诊断和治疗患者的效率,并向医疗保健提供者提供及时的警告和警报。该研究的一个局限性可能是专注于寻找理想的隐藏层数量和激活函数变化,而不考虑可能影响神经网络性能的其他因素,例如优化算法的选择或超参数调整。这项研究可能使用了有限的数据集或特定的医疗保健场景,这可能会影响研究结果对不同医疗保健应用程序或数据集的普遍性。用于创建快速神经网络的不同框架的比较可能没有考虑所有可能的可用框架,从而限制了分析的范围。
结论
深度学习算法可用于设计报告患者数据的系统,并在患者健康状况发生变化时向医疗应用程序或电子健康信息发出警告。这些系统可以使用深度学习来创建。这可能有助于验证每个特定患者是否在适当的时间得到适当有效的护理。提出了一种基于物联网和深度学习方法构建的医疗决策支持系统。在所提出的系统中,我们检查了将深度学习技术集成到物联网功能中的能力,例如自我诊断和实时数据传输,这可能有助于加快速度。我们选择了合适的神经网络结构数量的快速隐藏层和激活函数类来设计电子医疗系统。此外,电子医疗系统依靠医生的数据来理解神经网络。在验证方法中,对所提出的诊断医疗保健系统的总体评估提供了各种患者条件下的可靠性。根据评估和模拟结果,tanh 函数更可靠地存储在使用双隐藏层前馈神经网络的神经元中。为了克服挑战,这项研究将人工智能与物联网相结合。本研究旨在确定神经网络的最佳层数和激活函数变化。tanh 函数更可靠地存储在使用双隐藏层前馈神经网络的神经元中。为了克服挑战,这项研究将人工智能与物联网相结合。本研究旨在确定神经网络的最佳层数和激活函数变化。tanh 函数更可靠地存储在使用双隐藏层前馈神经网络的神经元中。为了克服挑战,这项研究将人工智能与物联网相结合。本研究旨在确定神经网络的最佳层数和激活函数变化。