人工神经网络作用.ppt
人工神经网络人工神经网络ANN的主要功能之一的主要功能之一 模式识别模式识别(Pattern Recognition)模式识别是人类的一项基本智能行为，在日常生活中，我们几乎模式识别是人类的一项基本智能行为，在日常生活中，我们几乎时刻在进行着时刻在进行着“模式识别模式识别”。模式：模式：广义地说，存在于时间和空间中可观察的事物，如果可以区别它们是广义地说，存在于时间和空间中可观察的事物，如果可以区别它们是否相同或相似，都可以称之为模式；否相同或相似，都可以称之为模式；狭义地说，模式是通过对具体的个别事物进行观测所得到的具有时间和狭义地说，模式是通过对具体的个别事物进行观测所得到的具有时间和空间分布的信息；空间分布的信息；模式识别：在一定量度或观测基础上把待识模式划分到各自的模式类中去模式识别：在一定量度或观测基础上把待识模式划分到各自的模式类中去的过程叫作模式识别；的过程叫作模式识别；买西瓜：西瓜可分买西瓜：西瓜可分为生、熟两类为生、熟两类，此时，研究的范畴是，此时，研究的范畴是“西瓜西瓜”，在此范畴，在此范畴上定义了两类模式：上定义了两类模式：熟瓜和生瓜熟瓜和生瓜；种西瓜：西瓜分早熟品种、晚熟品种两类，即定义了种西瓜：西瓜分早熟品种、晚熟品种两类，即定义了两类模式：早熟和晚熟两类模式：早熟和晚熟；河北省早熟品种分类：河北省常见品种有河北省早熟品种分类：河北省常见品种有“新红宝新红宝”、“蜜梅蜜梅”、“京欣京欣”、“冀早冀早2号号”等；此时，研究范畴是等；此时，研究范畴是“河北常见早熟西瓜品种河北常见早熟西瓜品种”，在此范畴，在此范畴上定义了多类模式：新红宝、蜜梅、京欣、冀早上定义了多类模式：新红宝、蜜梅、京欣、冀早2号等等号等等买西瓜：两类模式分类问题，通过声音的买西瓜：两类模式分类问题，通过声音的频率频率x1和声音持续时间长度和声音持续时间长度x2来判来判断瓜的生熟。对编号为断瓜的生熟。对编号为 i 的瓜进行敲击测试，得到的瓜进行敲击测试，得到矢量元素矢量元素 Xi=(x1i，x2i)T，对对N个有生有熟的瓜进行实验可以得到个有生有熟的瓜进行实验可以得到N个数据：个数据：X=X1,X2,X3,XN，根，根据瓜的生熟可以将据瓜的生熟可以将X中的元素划分为两类，一类对应于生瓜一类对应于熟瓜。中的元素划分为两类，一类对应于生瓜一类对应于熟瓜。于是，于是，模式其实就是具有特定性质的矢量模式其实就是具有特定性质的矢量/数据数据。用。用C1代表生瓜类，代表生瓜类，C2代表代表熟瓜类，则熟瓜类，则X中的任意一个元素中的任意一个元素Xn必然满足必然满足:Xn属于属于C1或者或者Xn属于属于C2。第2页 模式识别，举例：水果分级系统。模式识别，举例：水果分级系统。水果品质参数：重量、大小、比重、果形、颜色等水果品质参数：重量、大小、比重、果形、颜色等特征矢量特征矢量：X=x1,x2,x3,x4,x5T特征空间特征空间：用参数张成。：用参数张成。模式模式：每个苹果为一个模式，其特征矢量：每个苹果为一个模式，其特征矢量 为特征空间中的一个点；为特征空间中的一个点；模式类模式类：一个级别为一个类，一类模式分：一个级别为一个类，一类模式分 布在特征空间的某个特定区域；布在特征空间的某个特定区域；模式识别模式识别：找出各类之间的分界面。：找出各类之间的分界面。ANN的主要功能之二的主要功能之二 联想联想(Associative Memory)联想的心理学定义：联想的心理学定义：当一个事物的表象被激活时，也就是说该表象所包含的若干属性单元同当一个事物的表象被激活时，也就是说该表象所包含的若干属性单元同时有效时，我们的注意力焦点就集中在这个表象上，如果对该表象的处理使时有效时，我们的注意力焦点就集中在这个表象上，如果对该表象的处理使的表象被否决时，也就是说由于一些属性单元的失效（或被抑制，或处于高的表象被否决时，也就是说由于一些属性单元的失效（或被抑制，或处于高阻），导致该表象无法成立的时候，剩余的属性单元或许可以构成另一种事阻），导致该表象无法成立的时候，剩余的属性单元或许可以构成另一种事物的表象，或许还需要结合那些被激活了的新的属性（或是由外界事物具有物的表象，或许还需要结合那些被激活了的新的属性（或是由外界事物具有的新的属性所激活，或是因降低了对一些属性的抑制所导致的激活）。的新的属性所激活，或是因降低了对一些属性的抑制所导致的激活）。例如：看到柠檬，感觉到嘴里口水增多。因为，由柠檬联想到了酸味。例如：看到柠檬，感觉到嘴里口水增多。因为，由柠檬联想到了酸味。字符识别：字符识别：单层感知器单层感知器p单层感知器模型单层感知器模型5单层感知器单层感知器(perceptron)学习算法学习算法 p 感知器的学习是感知器的学习是有导师学习有导师学习p 感知器的训练算法的基本原理：感知器的训练算法的基本原理：著名的著名的Hebb学习律学习律p 基本思想：逐步地将样本集中的样本输入到网基本思想：逐步地将样本集中的样本输入到网络中络中,根据输出结果和理想输出之间的根据输出结果和理想输出之间的差差别来别来调整调整网络中的网络中的权矩阵权矩阵。p 主要用于主要用于模式分类模式分类2.2.2单层感知器的学习算法单层感知器的学习算法p单层感知器学习算法单层感知器学习算法n第一步第一步,设置变量和参量。设置变量和参量。n第二步第二步,初始化初始化 p给权值向量给权值向量 的各个分量赋一个较小的随机非零值，置的各个分量赋一个较小的随机非零值，置0 n第三步第三步,输入一组样本输入一组样本，并给出它的期望输出。，并给出它的期望输出。n第四步第四步,计算实际输出计算实际输出:n第五步第五步,求出期望输出和实际输出求出差求出期望输出和实际输出求出差p根据误差判断目前输出是否满足条件，一般为对所有样本误差为零或者均小于根据误差判断目前输出是否满足条件，一般为对所有样本误差为零或者均小于预设的值，则算法结束，否则将值增加预设的值，则算法结束，否则将值增加1，并用下式调整权值：，并用下式调整权值：然后转到第三步，进入下一轮计算过程然后转到第三步，进入下一轮计算过程 0()f()()miiiy nw n x n()()ed ny n 1w nw nd ny nx n单层感知器的单层感知器的MATLAB实现实现 p MATLAB中单层感知器常用工具函数名称和中单层感知器常用工具函数名称和基本功能基本功能 函函 数数 名名功功 能能newp()生成一个感知器生成一个感知器hardlim()硬限幅激活函数硬限幅激活函数learnp()感知器的学习函数感知器的学习函数train()神经网络训练函数神经网络训练函数sim()神经网络仿真函数神经网络仿真函数mae()平均绝对误差性能函数平均绝对误差性能函数plotpv()在坐标图上绘出样本点在坐标图上绘出样本点plotpc()在已绘制的图上加分类线在已绘制的图上加分类线感知器感知器p局限性局限性n阀值函数，阀值函数，输出矢量只能取输出矢量只能取0或或1,只能用它来解决简单只能用它来解决简单的分类问题的分类问题n仅能够仅能够线性地线性地将输入矢量进行分类，不能解决异或问将输入矢量进行分类，不能解决异或问题题n输入矢量中有输入矢量中有一个数比其他数都大或小得很多一个数比其他数都大或小得很多时，可时，可能导致较慢的能导致较慢的收敛速度收敛速度第9页 线性可分性线性可分性(Linear Separable )为什么要引入为什么要引入RBF网络网络p简单的感知器具简单的感知器具有无法完成的问题有无法完成的问题分类分类回归回归nearly linearhighly non-linear
