一份深度学习相关的面试题

1、请计算数组[1,2,3]中的元素3的Softmax值

假设我们有一个数组,V,Vi表示V中的第i个元素,那么这个元素的Softmax值就是

也就是说,是该元素的指数,与所有元素指数和的比值

2、什么是过拟合? 防止过拟合有哪些措施?

3、对于二分类问题,分别描述逻辑回归、朴素贝叶斯、KNN算法。它们的优劣势是什么?他们自身有什么过拟合的能力?

4、支持向量机SVM中支持向量是什么? 这个模型的优劣势有哪些? 模型自身怎么防止过拟合?如何求解(不需要推导过程,只需要写推导思路) , 支持向量核函数的作用及常见的核函数形式?

5、什么是集成学习? 什么情况下集成学习学习器能够获得较好的泛华性能?

6、神经网络中常用的激活函数有哪些?如果采用线性激活函数,网络会变成怎样?神经网络的梯度消失和梯度爆炸是什么原因?有哪些神经网络的优化算法?

7、请解释drop和batch normalization的原理?

8、训练神经网络时,一般需要调整哪些超参数?这些超参数对训练过程会有哪些影响?

9、请描述PCA算法的作用。使用哪些场景和数据?使用时需要注意哪些问题? 该算法有哪些实现的形式?

10、有哪些常见的数据预处理、特征工程、特征筛选的方法?

原文地址:https://www.cnblogs.com/llfctt/p/9572854.html

时间: 2024-10-07 17:16:49

一份深度学习相关的面试题的相关文章

怎样找到一份深度学习的工作(附学习材料,资源与建议)

原文地址:How to get a job in deep learning 原文翻译与校对:@戴丹 && @胡杨 && 寒小阳 时间:2016年10月. 出处:http://blog.csdn.net/han_xiaoyang/article/details/52777661 声明:版权所有,转载请联系作者并注明出 如果你是一个软件工程师(或者你现在正在学习这一方面),你肯定有机会听说过深度学习(有时候深度学习缩写为"DL").它现在是一个热门.且快速

深度学习相关数学资料

不过在保持学习姿势的时候,方向要正,不能以战术上勤奋掩盖战略上的懒惰,其中数学要学好,特别是对于人工智能/机器学习/深度学习来说,现在打下的数学基础或许会令你将来身价暴涨十倍! 深度学习作为机器学习与人工智能的子集,兴起稍晚,却使得机器学习能够实现众多的应用,并拓展了人工智能的领域范围. 对于深度学习来说,概率统计.微积分.线性代数等是基础课程,虽然算不上深奥,但是必须打好基础. 概率统计.概率统计是许多科学和工程的基础工具,可以告诉我们怎么推论. 微积分.深度学习中出现较多的一个概念就是梯度,

深度学习相关资料(1)

一.学习清单 1.综合类 (1)收集了各种最新最经典的文献,神经网络的资源列表:https://github.com/robertsdionne/neural-network-papers  里面包含了深度学习领域经典.以及最新最牛逼的算法,如果把这个列表学过一遍,基本已然达到了大神级别. (2)机器学习学习清单:https://github.com/ujjwalkarn/Machine-Learning-Tutorials/blob/master/README.md  当然也包含了深度学习各种

神经网络与深度学习相关笔记

说明: 本文是关于http://neuralnetworksanddeeplearning.com/的相关笔记 问题一:神经元在错误的值上饱和导致学习速率的下降 解决: 1.输出层: 因使用二次代价函数时,学习在神经元犯了明显错误时却比学习快接近真实值时慢, 可以使用交叉熵代价函数 使得在神经元犯明显错误时学习得更快 注: 输出层:具有交叉熵代价的S型(sigmoid)输出层或具有对数似然代价的柔性最大值(softmax)输出层 后者更加适用于那些需要将输出激活值解释为概率的场景 2.隐藏层:

05 神经网络与深度学习相关笔记

说明: 本文主要是关于http://neuralnetworksanddeeplearning.com/的相关笔记 问题一:神经元在错误的值上饱和导致学习速率的下降 解决: 1.输出层: 因使用二次代价函数时,学习在神经元犯了明显错误时却比学习快接近真实值时慢, 可以使用交叉熵代价函数 使得在神经元犯明显错误时学习得更快 注: 输出层:具有交叉熵代价的S型(sigmoid)输出层或具有对数似然代价的柔性最大值(softmax)输出层 后者更加适用于那些需要将输出激活值解释为概率的场景 2.隐藏层

【深度学习Deep Learning】资料大全

转载:http://www.cnblogs.com/charlotte77/p/5485438.html 最近在学深度学习相关的东西,在网上搜集到了一些不错的资料,现在汇总一下: Free Online Books Deep Learning66 by Yoshua Bengio, Ian Goodfellow and Aaron Courville Neural Networks and Deep Learning42 by Michael Nielsen Deep Learning27 by

给深度学习入门者的Python快速教程 - 基础篇

实在搞不定博客园的排版,排版更佳的版本在: https://zhuanlan.zhihu.com/p/24162430 Life is short, you need Python 人生苦短,我用Python -- Bruce Eckel 5.1 Python简介 本章将介绍Python的最基本语法,以及一些和深度学习还有计算机视觉最相关的基本使用. 5.1.1 Python简史 Python是一门解释型的高级编程语言,特点是简单明确.Python作者是荷兰人Guido van Rossum,1

基于深度学习的目标检测

普通的深度学习监督算法主要是用来做分类,如图1(1)所示,分类的目标是要识别出图中所示是一只猫.而在ILSVRC(ImageNet Large Scale Visual Recognition Challenge)竞赛以及实际的应用中,还包括目标定位和目标检测等任务.其中目标定位是不仅仅要识别出来是什么物体(即分类),而且还要预测物体的位置,位置一般用边框(bounding box)标记,如图1(2)所示.而目标检测实质是多目标的定位,即要在图片中定位多个目标物体,包括分类和定位.比如对图1(3

回望2017,基于深度学习的NLP研究大盘点

回望2017,基于深度学习的NLP研究大盘点 雷锋网 百家号01-0110:31 雷锋网 AI 科技评论按:本文是一篇发布于 tryolabs 的文章,作者 Javier Couto 针对 2017 年基于深度学习的自然语言处理研究进行了大盘点.雷锋网 AI 科技评论根据原文进行了编译. 在过去的几年里,深度学习(DL)架构和算法在诸如图像识别和语音处理等领域取得了世人瞩目的进步.然而在最开始的时候,深度学习在自然语言处理(Natural Language Processing, NLP)领域的