【自己动手写神经网络】小白入门连载(二)--机器人时代必须得有人工神经(不是神经病)

【自己动手写神经网络】小白入门连载(一)

在上一章中,我们已经介绍了神经网络的基本概念、思想,并提及了有关人工神经元模型的部分内容。在本章中,将对人工神经元模型做更多的介绍。

图2.1 多输入生物神经元示意图

在上一章中提到了一个简单的神经元模型,并且该模型只有一个输入p。这意味着只能有一个额外的神经元与之相连接,这显然是不够的。因此,一个实用的神经元必须是可以接受多个输入的,如图2.1所示,神经元拥有3个输入p1、p2和p3。其中,w和b是根据网络情况不断进行调整的,而传入函数s和传输函数f是事先选定,那究竟有哪些函数可以选择呢?传入函数比较简单,最常用的只有按照权重求和,在本例中,s处的输出(净输入n)就是:

p1*w1+p2*w2+p3*w3+b*1

将该输出会作为参数传入输出函数f,并作为该神经元的最终输出。一般来说,常用的传输函数如表2.1所示。

表2.1 常用传输函数列表


函数名称


映射关系


图像


缩写


说明


阶梯函数


a=0, n<=0

a=1, n>0



Step


n大于等于0时,输出1,否则输出0


符号函数


a=-1, n<=0

a=1, n>0



Sgn


n大于等于0时,输出1,否则输出-1


线性函数


a=n



Linear


n本身就是神经元的输出


饱和线性函数


a=0, n<0

a=n, 0<=n<=1

a=1, n>1



Ramp


n小于0时,输出0,n在0到1区间时,输出n,n大于1时,输出1


对数S形函数


a=1/(1+exp(-n))



Sigmoid


有界函数,无论n如何,输出永远在(0,1)的开区间。


双曲正切S形函数




Tanh


有界函数,无论n如何,输出永远在(-1,1)的开区间。

在图2.1中,假设p1=1,p2=0,p3=2,w1=1,w2=-1,w3=1,b=-1,则神经元的净输入为:p1*w1+p2*w2+p3*w3+b*1

=1*1+0*-1+2*1-1

=2

此时,传输函数与神经元输出的关系如表2.1所示。

表2.1 传输函数输出值


Step


Sgn


Linear


Ramp


Sigmoid


Tanh


1


1


2


1


0.881


0.964

传输函数在神经元模型中非常重要,通常会选择特定的传输函数来解决特定的问题。这里再强调3类函数。首先值得注意的是Step函数,它非常简单,当输入小于0时,函数输出0,大于0时,输出1。该函数可以把输入简单得分为2类。在后续讲到的感知机中,就使用了该函数。

其次,另外一个值得注意的函数是Linear线性函数,它总是简单的返回输入值。在一个Adaline网络中,会使用该函数。Adaline类似于感知机,但是因为使用线性函数和其对应的改良学习算法,Adaline相比感知机,可以更好的处理网络噪声。

最后一个值得注意的函数是Sigmoid函数,它接收任意实数输入,并将结果对应到0和1之间。该函数是可导的。因此,在BP神经网络中使用该函数(BP神经网络学习过程中,需要对传输函数求导)。

单个神经元就可以构成一个最简单的神经网络——感知机。感知机可以处理简单的分类问题。比如,现在有2类水果,苹果和香蕉,人们通过识别苹果和香蕉的形状和颜色差别,来区分苹果和香蕉两种水果。刚出生的婴儿无法区分苹果和香蕉,因为在他们的大脑里,没有对应的分类信息。但通过不断地训练和外部刺激,告诉他们红色的圆形的是苹果,黄色的弯形的是香蕉,不需要多久,婴儿就可以分区这两类水果。用类似的方法也可以让感知机正确得对苹果和香蕉分类。具体的分类过程和原理,将在下一章节介绍。

【自己动手写神经网络】小白入门连载(一)

转载请注明出处,感谢大家的支持!

本文来自优优码:http://www.uucode.net/201406/artificial-neuron-model

【自己动手写神经网络】小白入门连载(二)--机器人时代必须得有人工神经(不是神经病),布布扣,bubuko.com

时间: 2024-10-25 22:58:56

【自己动手写神经网络】小白入门连载(二)--机器人时代必须得有人工神经(不是神经病)的相关文章

【自己动手写神经网络】小白入门连载(二):机器人时代必须得有人工神经(不是神经病)

[自己动手写神经网络]小白入门连载(一) 在上一章中,我们已经介绍了神经网络的基本概念.思想,并提及了有关人工神经元模型的部分内容.在本章中,将对人工神经元模型做更多的介绍. 图2.1 多输入生物神经元示意图 在上一章中提到了一个简单的神经元模型,并且该模型只有一个输入p.这意味着只能有一个额外的神经元与之相连接,这显然是不够的.因此,一个实用的神经元必须是可以接受多个输入的,如图2.1所示,神经元拥有3个输入p1.p2和p3.其中,w和b是根据网络情况不断进行调整的,而传入函数s和传输函数f是

【原创】连“霍金”都想学习的“人工智能”---【自己动手写神经网络】小白入门连载开始了(1)

欢迎关注[自己动手写神经网络]的博客连载!!! 第1章 神经网络简介 神经网络这个词,相信大家都不陌生.就在你打开本书,并试图了解神经网络时,你已经在使用一个世界上最复杂的神经网络——你的大脑,一个由大约1000亿个神经元(每个单元拥有约1万个连接)构成的复杂系统.但人的大脑太过复杂,以至于科学家们到目前为止仍然无法准确解释大脑的工作原理和方式.但有幸的是,生物神经网络的最最基本的元素已经能够被识别,而这就构成了本书想为你介绍的人工神经网络(Artificial Neural Network).

【自己动手写神经网络】小白入门连载(三)--神经元的感知

[真实原创,转载务必注明出处] 上一个连载中我们已经了解了神经元模型和其工作方式.单个神经元就可以构成一个最简单的神经网络--感知机.在单层神经元感知机中,网络接收若干过输入,并通过输入函数.传输函数给出一个网络的输出.这个网络已经可以解决苹果和香蕉的分类问题.在本系列中,将具体介绍其内部原理. 首先,我们确定感知机的输入.在此,我们引入形状和颜色两个变量,苹果的形状为圆形记为1,颜色为红色记为1:香蕉的形状为弯形记为-1,颜色为黄色记为-1.则有输入p如表3.1所示. 表3.1 常用传输函数列

连“霍金”都想学习的“人工智能”---【自己动手写神经网络】小白入门连载开始了(1)

欢迎关注[自己动手写神经网络]的博客连载!!! 第1章 神经网络简介 神经网络这个词,相信大家都不陌生.就在你打开本书,并试图了解神经网络时,你已经在使用一个世界上最复杂的神经网络--你的大脑,一个由大约1000亿个神经元(每个单元拥有约1万个连接)构成的复杂系统.但人的大脑太过复杂,以至于科学家们到目前为止仍然无法准确解释大脑的工作原理和方式.但有幸的是,生物神经网络的最最基本的元素已经能够被识别,而这就构成了本书想为你介绍的人工神经网络(Artificial Neural Network).

Duanxx的神经网络学习: 自己动手写神经网络(二) 前馈网络的实现

本文是继续Duanxx的神经网络学习: 自己动手写神经网络(一) 搭建一个简单的网络框架 写的第二篇文章,将神经网络的前馈网络实现并测试. 本文的代码下载地址 1 为神经元Neuron添加权Weight 在上一篇文章中,我已经搭起了一个神经网络的框架. 但是那只是一个框架而已,什么都没有是实现,而这个框架的最基本的东西就是神经元Nenron,这里就考虑将Neuron实现一下. 对于一个神经元而言,它的输入是上一层神经元的输出,可以不用太关心,它也有自己的输出outputvalue,同时,它还要控

【自己动手写神经网络】---人人都可以学的神经网络书

<自己动手写神经网络>是一本电子书,是目前市场上第一本也是唯一一本采用Java打造的神经网络图书. <自己动手写神经网络>教会你的是: 了解神经网络的原理和各种设计方法,简单接地气不枯燥: 了解神经网络各组成部分在程序中的实现,做到真正的实用实际: 加深你对人类本身的了解,我们的智力发展.行为模式等: 最最重要的是学习如何用程序打造一个属于自己的神经网络 或者拥有一个属于自己的电子小孩!!!!!!!!!(可能具备1岁小孩智力哦) <自己动手写神经网络>面向两类人群: (

学习【神经网络】最好的书来了《自己动手写神经网络》电子书在百度阅读上线!

葛一鸣老师写作的<自己动手写神经网络>电子书在百度阅读上线了. 主页:http://t.cn/RPjZvzs. <自己动手写神经网络>面向智能设备爱好者.计算机科学爱好者.极客.程序猿.人工智能爱好者和物联网从业人员,是目前市场上第一本也是唯一一本采用Java打造的神经网络图书. <自己动手写神经网络>内容简单.趣味性强,是一本面向神经网络的通俗类读物,对了解我们人类自身.了解人类的思维和行为,有重要的意义!对掌握遗传算法的实质性应用有实践作用! <自己动手写神经

我的电子书《自己动手写神经网络》在百度阅读上线了

目前使用Java开发的程序猿是人数最多的猿群,但大部分人还局限在普通的程序开发中蹉跎岁月.实际上Java可以做的更多更强大! 我采用Java打造的[自己动手写神经网络]不是实验室作品,是真正的直接地气的应用,让我们的程序智能起来,让我们的程序具备感知或认知功能!请不要与市场上的神经网络教材划等号. 自己动手写神经网络 ≠神经网络类教材 自己动手写神经网络 ≠实验室作品 自己动手写神经网络 ==真真正正为我所用. <自己动手写神经网络>是一本电子书,在百度阅读上线,http://t.cn/RPj

自己动手写神经网络,自己真的可以动手写神经网络嘛?

人类--上帝创造的最完美的生物,在这个星球上支配着一切.是什么让看似脆弱的人类在这个星球上拥有如此的地位?我们既没有鸟类灵活的身躯和翅膀,也没有虎豹锋利的爪牙,但与此同时,我们却比世上任何一只鸟飞得更高,比丛林里任何一只猛兽更具力量--这种一种从大脑里迸发出来的智慧之光.圣经中记载:上帝按照自己的样子创造了人类,而自从亚当和夏娃偷食了禁果,人类便消除了与上帝之间唯一的区别--智慧.没错,从这个角度说我们已经是不折不扣的"上帝".现在,时机已经到来,轮到我们来创造自己的产物,一种模拟着我