第一部分 神经网络如何工作(1.1-1.2)

1.1 尺有所短,寸有所长

  总结来说,就是一些任务比如数百万数字乘法运算这种对于计算机很容易,而图像识别这种对人类来说很容易。

1.2 一台简单的预测机

  书中举了一个例子:假设不知道千米和英里之间的转换方式,仅仅知道两者关系是线性的,并且有两组正确的千米/英里匹配的数值对示例,如下所示。


真实示例


千米


英里


1


0


0


2


100


62.137

  线性关系的形式应该为“英里 = 千米 * C”,其中C为常数,但是现在还不知C是多少。

  其实如果是用人类的思维,马上可以想出两点确定一条直线,C =(62.137 - 0)/ (100 - 0),马上可以计算出C。但是站在计算机的角度,要怎么求出C?

计算机的做法

  1. 随手取一个随机的数值,不妨取C=0.5,那么千米=100时,计算得到的英里为50。
  2. 和真实示例给出的62.137相比,少了12.137. 这是计算结果与列出的示例真实值之间的差值,即误差。
  3. 现在已经知道这个C错了,不能很好的计算出真实示例2,而且已经知道误差,它可以指导机器取猜测得到第二个更好的C值。
  4. 将C从0.5增加到0.6看看会发生什么?计算得到的英里为60,误差值变得更小了,为2.137。这里使用之前得到的误差值指导如何改变C的值。因为希望输出值变得更大些,因此稍微增加了C的值。
  5. 重复这个过程,输出值60还是还小,再次微调C,这次调置0.7,发现误差值为-7.863。负号说明这次调动超了。
  6. 那如果从0.6调到0.61得到的误差值为1.137,所以这次微调是比较成功的。现在如果对这个误差感到满意的话,已经可以给出最终关系了;或者可以继续重复上面的内容。
  7. 其实每次的修正值取为误差值的百分比是比较科学的,因为大误差意味着较大的修正值,小误差意味着只需要小小地微调C值即可。

总结

  计算机的做法看似有些愚蠢、呆板,因为人在学校里学习代数知识求解数学和科学问题往往是一步到位,精确求解。但是,对于计算机来说,尝试得到一个答案,然后多次改进,这种迭代的方式更适合它的计算方式。

原文地址:https://www.cnblogs.com/shayue/p/10325187.html

时间: 2024-10-20 05:16:14

第一部分 神经网络如何工作(1.1-1.2)的相关文章

第一章(1) 神经网络如何工作

---恢复内容开始--- 1.1 尺有所短,寸有所长 问题 计算机 人类 快速的对成千上万的大数字进行计算 简单 困难 在一大群人的照片中寻找面孔 困难 简单 1.2预测器 1.所有有用的计算机系统都有一个输入和输出,并在输入和输出之间进行某种类型的计算,神经网络也是如此. 2.机器接受了一个输入,并作出应有的预测,输出结果.我们称之为预测器.我们根据结果与已知的真实案例进行比较所得到的误差,调整内部参数,使预测更加的精确. 1.3分类器与预测器并无太大差别 1.4训练简单的分类器 1.我们使用

2010-2011学年第一学期班主任班级工作总结 (2011-01-20 14:28:31)

白驹过隙,时光飞逝.转眼,从金秋九月到寒风萧瑟,作为班主任,和大家一起走过了100多个日子.因为充溢着太多的甜美,太多的温馨,我们感奋不已:因为有太多的沉思,太多的感慨! 身为班主任,最真实的见证了班级发展的点点滴滴,见证了2010级建筑(1)班成长的每一步历程.在从事班上事务的管理.各项活动的开展的过程中,清楚的看到我们班的进步与缺失.现就2010年致词2011学年第一学期的工作做总结如下: 一.班级制度建设 本学期,我班是大一上学期,根据系部.学院的要求,我们班级在实现"深入加强日常管理,使

运用tensorflow写的第一个神经网络

因为实训课要用LSTM+attention机制在钢材领域做一个关系抽取.作为仅仅只学过一点深度学习网络的小白在b站上学习了RNN,LSTM的一些理论知识. 但只懂得一些理论知识是无法完成关系抽取的任务的.于是从图书馆借来<tensoflow实战-----深度学习框架>,在此开始记录我的tensorflow神经网络编程! 首先先介绍一下tensorflow的运作机制,对一个具体的计算而言,一般可以分为两个阶段,第一个阶段用来定义计算图中的计算,第二个阶段用来执行计算. 有了这个概念之后,就会发现

吴恩达深度学习课程第一课 — 神经网络与深度学习 — 第一周练习

课程一 - 神经网络和深度学习 第一周 - 深度学习简介 第 1 题 “人工智能是新电力”这个比喻指的是什么? A.人工智能为我们的家庭和办公室的个人设备供电,类似于电力. B.通过“智能电网”,人工智能正在传递新一波的电力. C.人工智能在计算机上运行,因此由电力驱动,但它让计算机做以前不可能做的事情. D.与100年前开始的电力类似,人工智能正在改变多个行业. 第 2 题 以下哪些是最近深度学习开始崛起的原因?(选2个答案) A.我们拥有了更多的计算能力 B.神经网络是一个崭新的领域. C.

FPGA第一篇:SRAM工作原理

一.SRAM概述 SRAM主要用于二级高速缓存(Level2 C ache).它利用晶体管来存储数据.与DRAM相比,SRAM的速度快,但在相同面积中SRAM的容量要比其他类型的内存小. 大部分FPGA器件采用了查找表(Look Up Table,LUT)结构.查找表的原理类似于ROM,其物理结构是静态存储器(SRAM), N个输入项的逻辑函数可以由一个2^N位容量的SRAM实现, 函数值存放在SRAM中,SRAM的地址线起输入线的作用,地址即输入变量值,SRAM的输出为逻辑函数值,由连线开关实

神经网络的工作流程

我这里只写对监督学习的理解,因为只学到这嘛 神经网络有一个输入和一个输出 对于输入,比如我们输入一张图片 图片可以被抽象为3个矩阵,分别为R,G,B 我们可以将这三个矩阵变成一个超级长的列向量,方法就像你用一维数组表示二维数组一样 然后我们需要用神经网络去训练出一个行向量和一个数字b 得到一个数x=输入的列向量×行向量+b 然后把这个x带入f(x)=sigmoid(x)中 求出的值就是结果为1的概率

第一冲刺阶段——个人工作总结08

今天是冲刺的第八天. 一.昨天干了什么 昨天完成了启动界面的设计. 二.今天准备干什么 今天试一下在安卓上运行情况,做适当更改. 三.遇到困难没有 启动界面的设计是将原已设计好的几个部分组合在一起,并配上合适的背景图,没有遇到困难.

第一章 Java Web工作原理

一:在本章我们将学到如下的内容 >HTTP协议原理 >服务器端Web编程原理 >Servlet与Web容器 >Java Web应用程序的组成 >Tomcat介绍 一:1.1解析HTTP协议 HTTP:超文本传输协议(HyperText Transfer Protocol) HTTP是一种无状态的协议,意思是指在Web浏览器和Web服务器之间不需要建立持久的连接. HTTP是遵循请求/响应(Request/Response)模型的. HTTP处理流程: 1.1.1建立连接 在j

第一冲刺阶段——个人工作总结09

今天是冲刺的第九天. 一.昨天干了什么 昨天完成了启动界面的设计. 二.今天准备干什么 今天试一下在安卓上运行情况,做适当更改. 三.遇到困难没有 启动界面的设计是将原已设计好的几个部分组合在一起,并配上合适的背景图,没有遇到困难.