深度学习相关资料(1)

一、学习清单

1、综合类

(1)收集了各种最新最经典的文献,神经网络的资源列表:https://github.com/robertsdionne/neural-network-papers  里面包含了深度学习领域经典、以及最新最牛逼的算法,如果把这个列表学过一遍,基本已然达到了大神级别。

(2)机器学习学习清单:https://github.com/ujjwalkarn/Machine-Learning-Tutorials/blob/master/README.md 
当然也包含了深度学习各种资源教程

2、计算机视觉

(1)计算机视觉学习清单:https://github.com/kjw0612/awesome-deep-vision 
里面包含的都是最经典的深度学习paper。如果把里面的paper都学过一遍,可谓视觉领域的高手高手高高手……

3、NLP领域

(1)自然语言学习清单:https://github.com/keonkim/awesome-nlp 从NLP菜鸟到高手的成长之路学习清单

(2)RNN、LSTM等偏向NLP算法类:http://handong1587.github.io/deep_learning/2015/10/09/rnn-and-lstm.html  看起来好像很不错的样子

(3)博客推荐:http://www.wildml.com/  包含了RNN、LSTM、Attention机制等教程,最主要的是讲解的浅显易懂,让我等菜鸟受益匪浅

二、其它总结

1、调参经验:http://lamda.nju.edu.cn/weixs/project/CNNTricks/CNNTricks.html,里面讲解了深度学习的调参经验总结,很是经典。

2、梯度下降各种变体总结:http://sebastianruder.com/optimizing-gradient-descent/  作者写的非常好,浅显易懂

三、训练数据

人脸数据:

1、香港中文大学训练数据集:http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html

数据库包含了20w张人脸图片,每张图片标注了5个特征点、以及几十种属性(是否微笑、肤色、发色、性别等属性)

2、68个人脸特征点:http://ibug.doc.ic.ac.uk/resources/facial-point-annotations/

此网站差不多可以下载到3000张,训练数据图片,每张图片标注了68个人脸特征点

3、74个人脸特征点:http://gaps-zju.org/DDE/

这个网站包好了1.4w张的人脸训练数据图片,每张图片标注了74个人脸特征点。不过这个数据感觉标注的很不精确

4、性别与年龄训练数据:https://data.vision.ee.ethz.ch/cvl/rrothe/imdb-wiki/

这个网站包含了500k+的人脸性别与年龄训练数据,同时还有文献及代码,对于搞性别年龄预测,资源充足

深度估计、图像分割:

1、RGBD训练数据:

RGBD训练数据列表:http://www0.cs.ucl.ac.uk/staff/M.Firman/RGBDdatasets/

时间: 2024-11-09 11:42:20

深度学习相关资料(1)的相关文章

深度学习相关数学资料

不过在保持学习姿势的时候,方向要正,不能以战术上勤奋掩盖战略上的懒惰,其中数学要学好,特别是对于人工智能/机器学习/深度学习来说,现在打下的数学基础或许会令你将来身价暴涨十倍! 深度学习作为机器学习与人工智能的子集,兴起稍晚,却使得机器学习能够实现众多的应用,并拓展了人工智能的领域范围. 对于深度学习来说,概率统计.微积分.线性代数等是基础课程,虽然算不上深奥,但是必须打好基础. 概率统计.概率统计是许多科学和工程的基础工具,可以告诉我们怎么推论. 微积分.深度学习中出现较多的一个概念就是梯度,

关于机器学习和深度学习的资料

声明:转来的,原文出处:http://blog.csdn.net/achaoluo007/article/details/43564321 编者按:本文收集了百来篇关于机器学习和深度学习的资料,含各种文档,视频,源码等.而且原文也会不定期的更新,望看到文章的朋友能够学到更多. <Brief History of Machine Learning> 介绍:这是一篇介绍机器学习历史的文章,介绍很全面,从感知机.神经网络.决策树.SVM.Adaboost 到随机森林.Deep Learning. &

[转载]机器学习&amp;深度学习经典资料汇总,全到让人震惊

自学成才秘籍!机器学习&深度学习经典资料汇总 转自:中国大数据: http://www.thebigdata.cn/JiShuBoKe/13299.html [日期:2015-01-27] 来源:亚马逊  作者: [字体:大 中 小] 小编都深深的震惊了,到底是谁那么好整理了那么多干货性的书籍.小编对此人表示崇高的敬意,小编不是文章的生产者,只是文章的搬运工. <Brief History of Machine Learning> 介绍:这是一篇介绍机器学习历史的文章,介绍很全面,从感

【转】自学成才秘籍!机器学习&amp;深度学习经典资料汇总

小编都深深的震惊了,到底是谁那么好整理了那么多干货性的书籍.小编对此人表示崇高的敬意,小编不是文章的生产者,只是文章的搬运工. <Brief History of Machine Learning> 介绍:这是一篇介绍机器学习历史的文章,介绍很全面,从感知机.神经网络.决策树.SVM.Adaboost到随机森林.Deep Learning. <Deep Learning in Neural Networks: An Overview> 介绍:这是瑞士人工智能实验室Jurgen Sc

神经网络与深度学习相关笔记

说明: 本文是关于http://neuralnetworksanddeeplearning.com/的相关笔记 问题一:神经元在错误的值上饱和导致学习速率的下降 解决: 1.输出层: 因使用二次代价函数时,学习在神经元犯了明显错误时却比学习快接近真实值时慢, 可以使用交叉熵代价函数 使得在神经元犯明显错误时学习得更快 注: 输出层:具有交叉熵代价的S型(sigmoid)输出层或具有对数似然代价的柔性最大值(softmax)输出层 后者更加适用于那些需要将输出激活值解释为概率的场景 2.隐藏层:

05 神经网络与深度学习相关笔记

说明: 本文主要是关于http://neuralnetworksanddeeplearning.com/的相关笔记 问题一:神经元在错误的值上饱和导致学习速率的下降 解决: 1.输出层: 因使用二次代价函数时,学习在神经元犯了明显错误时却比学习快接近真实值时慢, 可以使用交叉熵代价函数 使得在神经元犯明显错误时学习得更快 注: 输出层:具有交叉熵代价的S型(sigmoid)输出层或具有对数似然代价的柔性最大值(softmax)输出层 后者更加适用于那些需要将输出激活值解释为概率的场景 2.隐藏层

SQLServer 学习相关资料整理【转】

存储过程: SQL Server 存储过程 博客园上的一篇文章,讲解的非常详细,有测试代码,很实用. sqlserver存储过程中执行动态sql语句  The Curse and Blessings of Dynamic SQL 存储过程及游标学习笔记 博客园,很基础,很细致,不错的文章. T_SQL语句: sqlserver跨服务器查询的实现  详细讲述了如何实现跨服务器的增删查改. sqlserver事务处理  包含了如何在sql语句中写以及在C#中写事务,不 sqlserver字段类型详解

一份深度学习相关的面试题

1.请计算数组[1,2,3]中的元素3的Softmax值 假设我们有一个数组,V,Vi表示V中的第i个元素,那么这个元素的Softmax值就是 也就是说,是该元素的指数,与所有元素指数和的比值 2.什么是过拟合? 防止过拟合有哪些措施? 3.对于二分类问题,分别描述逻辑回归.朴素贝叶斯.KNN算法.它们的优劣势是什么?他们自身有什么过拟合的能力? 4.支持向量机SVM中支持向量是什么? 这个模型的优劣势有哪些? 模型自身怎么防止过拟合?如何求解(不需要推导过程,只需要写推导思路) , 支持向量核

深度学习英文资料名词翻译

unit variance  方差为1 unit variance Gaussian   标准正太分布 高斯分布 conditionally independent  条件独立