bp神经网络与cnn区别前馈神经网络、BP神经网络、卷积神经网络的区别与联系

知识中心

您的位置：朵拉利品网 > 知识中心 > bp神经网络与cnn区别前馈神经网络、BP神经网络、卷积神经网络的区别与联系

2021-05-07 03:22:43 来源：朵拉利品网

1, 前馈神经网络、BP神经网络、卷积神经网络的区别与联系

前馈神经网络就是一层的节点只有前面一层作为输入，并输出到后面一层，自身之间、与其它层之间都没有联系，由于数据是一层层向前传播的，因此称为前馈网络。
BP网络是最常见的一种前馈网络，BP体现在运作机制上，数据输入后，一层层向前传播，然后计算损失函数，得到损失函数的残差，然后把残差向后一层层传播。
卷积神经网络是根据人的视觉特性，认为视觉都是从局部到全局认知的，因此不全部采用全连接（一般只有1-2个全连接层，甚至最近的研究建议取消CNN的全连接层），而是采用一个滑动窗口只处理一个局部，这种操作像一个滤波器，这个操作称为卷积操作（不是信号处理那个卷积操作，当然卷积也可以），这种网络就称为卷积神经网络。
目前流行的大部分网络就是前馈网络和递归网络，这两种网络一般都是BP网络；深度网络一般采用卷积操作，因此也属于卷积神经网络。在出现深度学习之前的那些网络，基本都是全连接的，则不属于卷积网络的范围，但大部分是前馈网络和BP网络。

2, BP神经网络和感知器有什么区别？

1、发展背景不同：
感知器是Frank Rosenblatt在1957年所发明的一种人工神经网络，可以被视为一种最简单形式的前馈式人工神经网络，是一种二元线性分类器。
而BP神经网络发展于20世纪80年代中期，David Runelhart。Geoffrey Hinton和Ronald W-llians、DavidParker等人分别独立发现了误差反向传播算法，简称BP，系统解决了多层神经网络隐含层连接权学习问题，并在数学上给出了完整推导。
2、结构不同：
BP网络是在输入层与输出层之间增加若干层（一层或多层）神经元，这些神经元称为隐单元，它们与外界没有直接的联系，但其状态的改变，则能影响输入与输出之间的关系，每一层可以有若干个节点。
感知器也被指为单层的人工神经网络，以区别于较复杂的多层感知器（Multilayer Perceptron）。作为一种线性分类器，（单层）感知器可说是最简单的前向人工神经网络形式。
BP神经网络的计算过程由正向计算过程和反向计算过程组成。正向传播过程，输入模式从输入层经隐单元层逐层处理，并转向输出层，每层神经元的状态只影响下一层神经元的状态。感知器使用特征向量来表示的前馈式人工神经网络，它是一种二元分类器，输入直接经过权重关系转换为输出。
参考资料来源：百度百科-感知器
参考资料来源：百度百科-BP神经网络

名词解释

卷积

在泛函分析中，卷积、旋积或摺积(英语：Convolution)是通过两个函数f 和g 生成第三个函数的一种数学算子，表征函数f 与g经过翻转和平移的重叠部分的面积。如果将参加卷积的一个函数看作区间的指示函数，卷积还可以被看作是“滑动平均”的推广。

网络

网络（Network）是由若干节点和连接这些节点的链路构成的图，表示诸多对象及其相互联系。网络有资源共享、快速传输信息、提高系统可靠性、易于进行分布式处理和综合信息服务等特性。网络是人类发展史中重要的发明，给人们带来美好的享受，推动了科技和人类社会的发展。

前馈

科技名词定义中文名称：前馈英文名称：feedforward定义：部分信号从双端口网络输入端向输出端传送，或从传输通道上的一点沿着该通道向随后的点传送。应用学科：通信科技（一级学科）；通信原理与基本技术（二级学科）以上内容由全国科学技术名词审定委员会审定公布