图1 BP神经网络结构 2.1 基本算法 BP算法主要包括4步,分为向前流传和向后传播两个阶段: 1)向前传播阶段 (1)从样本集中取一个样本(Xp,Yp),将Xp输入网络; (2)计算相应的实际输出Op 在此阶段,信息从输入层经由逐级的变换,传递到输出层。这个过程也是网络在完成训练后畸形运行时的履行过程。 2)向后传布阶段 (1)计算实际输出Op与相应的幻想输出Yp的差; (2)按极小化误差的方法调剂权矩阵。 这两个阶段的工作受到精度要求的把持,在这里取 作为网络关于第p个样本的误差测度,而将网络对于全部样本集的误差测度定义为 。图2是基本BP算法的流程图。
图2 BP基础算法流程 2.2 动态BP神经网络猜测算法 在经典的BP算法以及其余的训练算法中都有良多变量,这些训练算法可以肯定一个ANN结构,它们只训练固定结构的ANN权值(包含联接权值和结点转换函数)。在主动设计ANN结构方面,也已有较多的尝试,比方结构性算法和剪枝算法。前一种是先随机化网络,而后在训练进程中有必要地增加新的层和结点;而剪枝法令正好相反。 文献 [2]中提出了演变神经网络的理念,并把EP算法与BP进行了组合演化;也有许多学者把遗传算法和BP进行联合,但这些算法都以时光复杂度以及空间复杂度的增加为代价。根据Kolmogorov定理,对任意给定的L2型持续函数f: [ 0, 1 ]n →Rm , f可以准确地用一个三层前向神经网络来实现,因此能够只斟酌演化网络的权值和结点数而不 影响 演化成果。基于此,在BP原有算法的基本上,增加结点数演化因子,然后记载每层因子各异时演化出的构造,最后选取最优的因子及其网络结构,这样就可以防止因为增长或剪枝得到的部分最优。根据试验得悉,不同的预测精度也影响网络层神经元的结点数,所以可根据请求动态地树立预测体系。详细步骤如下: (1)将输入向量和目的向量进行归一化处理。 (2)读取输入向量、目标向量,记载输入维数m、输出层结点数n。 (3)当练习集确定之后,输入层结点数跟输出层结点数随之而断定,首先碰到的一个非常主要而又艰苦的问题是如何优化隐层结点数和隐层数。实验表明,假如隐层结点数过少,网络不能存在必要的学习才能和信息处置能力。反之,若过多,不仅会大大增添网络结构的庞杂性(这一点对硬件实现的网络尤其重要),网络在学习过程中更易陷入局部极小点,而且会使网络的学习速度变得很慢。隐层结点数的抉择问题始终受到神经网络研讨工作者的高度器重。Gorman指出隐层结点数s与模式数N的关联是:s=log2N;Kolmogorov定理表明,隐层结点数s=2n+1(n为输入层结点数);而依据文献[7]:s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51[7]。 (4)设置结点数演化因子a。为了疾速建破网络,可以对其向量初始化,
1 引言 在系统建模、辨识和预测中,对于线性系统,在频域,传递函数矩阵可以很好地表白系统的黑箱式输入输出模型;在时域,Box-Jenkins办法、回归 剖析 方法、ARMA模型等,通过各种参数估量方式也可以给出描写。对于非线性时间序列预测系统,双线性模型、门限自回归模型、ARCH模型都须要在对数据的内在 法则 晓得未几的情形下对序列间关系进行假设。可以说传统的非线性系统预测,在 实践 研究 和实际 利用 方面,都存在极大的难题。比拟之下,神经网络可以在不懂得输入或输出变量间关系的条件下实现非线性建模[4,6]。神经元、神经网络都有非线性、非局域性、非定常性、非凸性和混沌等特征论文代写,与各种预测方法有机结合拥有很好的 发展 远景,也给预测系统带来了新的方向与冲破。建模算法和预测系统的稳固性、动态性等研究成为当今热门 问题 。 目前 在系统建模与预测中,运用最多的是静态的多层前向神经网络,这重要是由于这种网络具有通过学习迫近任意非线性映射的能力。利用静态的多层前向神经网络建立系统的输入/输出模型,实质上就是基于网络迫临能力,通过学习获知系统差分方程中的非线性函数。但在实际应用中,需要建模和预测的多为非线性动态系统,应用静态的多层前向神经网络必需当时给定模型的阶次,即预先确定系统的模型,这一点十分难做到。近来,有关基于动态网络的建模和预测的研究,代表了神经网络建模和预测新的发展方向。 2 BP神经网络模型 BP网络是采取Widrow-Hoff学习算法和非线性可微转移函数的多层网络。典范的BP算法采用梯度降落法,也就是Widrow-Hoff算法。当初有很多基本的优化算法代写毕业论文,例如变标准算法和牛顿算法。如图1所示,BP神经网络包括以下单元:①处理单元(神经元)(图顶用圆圈表现),即神经网络的根本组成局部。输入层的处理单元只是将输入值转入相邻的联接权重,隐层和输出层的处理单元将它们的输入值乞降并根据转移函数 盘算 输出值。②联接权重(图中如V,W)。它将神经网络中的处理单元接洽起来,其值随各处理单元的联接水平而变更。③层。神经网络个别具备输入层x、隐层y和输出层o。④阈值。其值可为恒值或可变值,它可使网络能更自在地获取所要描述的函数关系。⑤转移函数F。它是将输入的数据转化为输出的处理单元,通常为非线性函数。
“基于动态BP神经网络的猜测方式及其利用”版权归作者所有,转载请著名出处。