神经网络入门介绍(非常易懂)

//2019.09.10
神经网络入门与学习
1、神经网络的发展主要得益于三个方面的进步:(1)2进制的创新能力的发展(2)软硬件能力的发展;(3)人的性价比的下降。
2、神经网络的成熟应用目前主要体现在分类识别上,具体来说可以分类到三个方面:
(1)图像识别:主要用于人脸识别和自动驾驶;
(2)语音识别:主要用于语音助手等;
(3)文本识别:主要用于字体识别和新闻文本推送等。


图1
3、神经网络的结构主要包括四个方面:
(1)网络结构
(2)激励函数
(3)损失函数
(4)梯度下降


4、神经网络的网络结构主要如下所示:输入层,隐含层,输出层,并且隐含层的层数是可以设置的。最为简单的单层神经网络结构如下图所示:

图2
5、对于神经网络里面搭建的每一个神经元,主要包括两个先后的数据处理和转换,第一步是线性化:将前一层的所有输出数据利用线性化的方法转换为一个整体的数或者结果,第二步是将其线性化的结果经过神经网络网络结构最重要的组成——激励函数的处理,使其产生非线性的转换,然后传到下一层神经元,一层一层循环,最终输出预测结果。

图3
6、神经网络里面的激励函数的作用是为神经网络提供规模化的非线性能力,其主要有以下几个函数形式:
(1)sigmoid函数(处处可导)
(2)tanh函数(处处可导)
(3)ReLU函数(综合性能优良,普适性较高,目前最为常用的激励函数)


7、损失函数主要是神经网络所预测值与实际值的差值平均,其越小越好,整体的神经网络的训练目的就是使得其训练的损失函数最小,一般为了方便利用梯度下降法求取损失函数最小值,所以一般都需要采用凸函数,方便进行梯度下降法运算。另外,神经网络每一层之间的计算为了算法的一致性,一般都会统一为向量化运算的形式

8、神经网络的训练过程主要是利用反向传播的原理来进行的网络梯度下降寻优,对于给定的初始值W,b,g(x)等,利用梯度下降法的原理来进行损失函数求最小值,然后在不断地梯度下降中同时调节每一层的参数(此为一次调节),最终找到最好的模型参数。



9、神经网络的基本结构和核心组件组成,对于神经网络的整体过程主要包括两个方面:数据预测训练和超参数调整,利用的方法是网络梯度下降法。

原文地址:https://www.cnblogs.com/Yanjy-OnlyOne/p/11502719.html

时间: 2024-10-10 13:20:23

神经网络入门介绍(非常易懂)的相关文章

人工神经网络入门(4) —— AFORGE.NET简介

范例程序下载:http://files.cnblogs.com/gpcuster/ANN3.rar如果您有疑问,可以先参考 FAQ 如果您未找到满意的答案,可以在下面留言:) 0 目录人工神经网络入门(1) -- 单层人工神经网络应用示人工神经网络入门(2) -- 人工神经基本概念介绍人工神经网络入门(3) -- 多层人工神经网络应用示例人工神经网络入门(4) -- AForge.Net简介 1 介绍这篇文章中,我们将介绍一个用C#实现的框架AForge,利用这个框架,您可以方便地操作人工网络,

Linux入门介绍

Linux入门介绍 一.Linux 初步介绍 Linux的优点 免费的,开源的 支持多线程,多用户 安全性好 对内存和文件管理优越 系统稳定 消耗资源少 Linux的缺点 操作相对困难 一些专业软件以及游戏支持度不足 Linux的应用 网络服务器 关键任务的应用(金融数据库.大型企业网管环境) 学术机构癿高效能运算任务 手持系统(PDA.手机.导航系统) 个人办公使用 Linux的吉祥物/Logo 企鹅(英文名:Tux),由来:因为Torvalds在小时候被企鹅咬过,因此印象非常深刻 在Linu

CUDA C编程入门-介绍

CUDA C编程入门-介绍 1.1.从图形处理到通用并行计算 在实时.高清3D图形的巨大市场需求的驱动下,可编程的图形处理单元或者GPU发展成拥有巨大计算能力的和非常高的内存带宽的高度并行的.多线程的.多核处理器.如图1和图2所示. 图 1 CPU和GPU每秒的浮点计算次数 图 2 CPU和GPU的内存带宽 在CPU和GPU之间在浮点计算能力上的差异的原因是GPU专做密集型计算和高度并行计算-恰好是图形渲染做的-因此设计成这样,更多的晶体管用于数据处理而不是数据缓存和流控制,如图3所示. 图 3

Halcon入门介绍

Halcon是德国MvTec公司开发的一套完善的标准的机器视觉算法包. 1.拥有应用广泛的机器视觉集成开发环境-Hdevelop: 2.提供卓越的性能,全面支持多核平台.SSE2和AVX(intel新的指令扩展集),以及GPU加速: 3.支持windows.linux和mac os x操作环境,函数库可用C.C++.C#.VB.net和delphi等编程语言访问: 4.包含1800多个算子的函数库,主要包括:Blob分析,形态学,匹配,测量,识别和立体视觉等: 5.为大量图像获取设备提供接口,保

[Python爬虫] 在Windows下安装PhantomJS和CasperJS及入门介绍(上)

最近在使用Python爬取网页内容时,总是遇到JS临时加载.动态获取网页信息的困难.例如爬取CSDN下载资源评论.搜狐图片中的"原图"等,此时尝试学习Phantomjs和CasperJS来解决这个问题.这第一篇文章当然就是安装过程及入门介绍. 一. 安装Phantomjs 下载地址:http://phantomjs.org/        官网介绍:          PhantomJS is a headless WebKit scriptable with a JavaScript

DOJO开发: 入门介绍

决定写么这么一个前端框架的系列文章, 还是很需要勇气的. 因为从现在软件开发岗位分工来说, 我一是个标准的后台开发岗, 所以前端的知识(html, css, javascript)还是捉襟见肘的, 所以大家还是多多包涵下, 如果文中有什么问题, 请帮忙指出来. 一般很多后端的同学有这样的需求: 一个人要开发完一个完整的管理系统, 而又没有前端开发资源, 这时候只能一切靠自己了. 嗯, 做一个全栈工程师, 我骄傲!  首先我介绍下我的前端知识体系. 对于html, css, javascript的

Scratch2.0入门介绍

Scratch2.0入门介绍 [教学目标] 1. 演示Scratch2.0作品,激发学习兴趣. 2. 认识Scratch2.0界面及分享平台 3. 了解创作作品的步骤 [教学课时]      15分钟 [对象]      零基础中小学生及父母 [教学重点.难点]      教学重点:Scratch2.0编辑器的下载与安装.在线注册用户 [教学方法与手段]      演示法.自主探究学习法 [教学准备] 教学课件 [教学过程] 一. 创设情境,激发兴趣 演讲者:看见电视里的动画.或者别人制作的游戏

Android CoordinatorLayout 入门介绍

Android CoordinatorLayout 入门介绍 CoordinatorLayout View 知道如何表现 在 2015 年的 I/O 开发者大会上,Google 介绍了一个新的 Android Design Support Library,该库可以帮助开发者在应用上使用 meterial design.它包含了许多重要的 meterial design 的构建块,并且它支持 API 7及以上的版本.如果你错过了这次大会,那就请打开谷歌开发者站点来查阅它的相关信息吧:传送门. Co

Android入门介绍

Android入门介绍 3G.4G 第三代移动通信技术(3rd - Generation),速率一般在几百Kbps,较之前的2G和2.5G在数据传输速度上有很大提升. 第四代移动通信技术(4th - Generation),速度可达到100Mbps以上,几乎可以满足人们的所有传输数据的需求. 目前主流的3G技术标准有三种: WCDMA:全球80%以上的3G网络都是采用此种制式.中国联通运营.186 CDMA2000:目前日韩及北美使用较多.中国电信运营. 189 TD-SCDMA:中国自主知识产