deeplearning.ai 人工智能行业大师访谈 Ruslan Salakhutdinov 听课笔记

Ruslan Salakhutdinov一方面是苹果的研究主管,另一方面是CMU的教授。

1. Ruslan说自己进入深度学习完全是运气,他在多伦多大学读硕士,然后休学了一年,他在金融领域工作,那时候他不确定是否要去读个博士。有一天早晨,他在路上遇到了Geoffrey Hinton。Geoffrey Hinton跟他说他有个好点子,然后两个人一起散步讨论,Geoffrey介绍了玻尔兹曼机之类的东西,Ruslan说自己当时没听懂Geoffrey在说什么,但他听了觉得很激动。。。于是就跟着Geoffrey读博士了。。。那是2005、2006年左右,深度学习的框架慢慢开始成熟。

2. 关于受限玻尔兹曼机(RBM)和深玻尔兹曼机,Ruslan说模型非常好,在GPU大规模应用之前,预训练非常有效,是替代反向传播的手段。GPU大规模应用之后,计算能力得到很大提高,反向传播被大规模应用。

3. Ruslan觉得无监督学习(包括半监督学习)的发展空间非常大,对于初学者来说,这是很好的切入点。

4. 对于初学者的建议:1)多尝试不同的事情,不要害怕尝试新的东西,不要害怕挑战难的问题。2)不要只是使用现成的框架,而是要写底层代码,知道系统背后的运作原理,知道如何在GPU部署。3)在学术界,有更多的自由来处理长期的问题、更疯狂的问题;在工业界,可以开发技术直接影响百万用户,而且有更多的计算资源;学术界和工业界都很好,关键是早点进入深度学习领域。

时间: 2024-10-31 11:31:53

deeplearning.ai 人工智能行业大师访谈 Ruslan Salakhutdinov 听课笔记的相关文章

deeplearning.ai 人工智能行业大师访谈 Yoshua Bengio 听课笔记

1. 如何走上人工智能的研究的?Bengio说他小时候读了很多科幻小说,1985年(64年出生,21岁)研究生阶段开始阅读神经网络方面的论文,对这个领域产生了热情. 2. 如何看深度学习这些年的发展?Bengio说他们从实验.直觉入手,然后才提出理论,比如为什么反向传播有效,为什么深度这么重要.2000年开始研究深度神经网络的时候,他们只是很直觉的认为神经网络更深才会更强大,并不清楚怎么论证,最初的实验也没有成功. 3. 和30年前相比,有哪些东西是很重要的,它们后来被证明是以正确的,又有哪些最

deeplearning.ai 人工智能行业大师访谈 林元庆 听课笔记

1. 读博士之前,林元庆是学光学,他自认为数学基础非常好.在宾夕法尼亚大学上课认识了他的博士导师Dan Lee,转学机器学习.他从头开始学了很多算法,甚至PCA,之前他完全不知道这些,他觉得非常兴奋,每天都能学到好多新东西.博士毕业后去了NEC做研究员(2008年),在NEC后期才开始进入计算机视觉领域,做的第一件事情就是参加第一届ImageNet比赛(2010年)获得了第一名.2011年的AlexNet给了他很大震撼,"哇,深度学习如此强大!"从那之后,林元庆进入深度学习领域. 2.

AI人工智能●转型与机遇分享会

[活动背景] 提及AI人工智能,想必大家并不陌生. 智慧城市.智能家居.物联网.语音识别.智能机器人.无人驾驶等.国务院于7月份正式发布<新一代人工智能发展规划>,人工智能正式纳入国家发展战略. 到2030年,人工智能核心规模将超过1W亿元.带动相关产业规模超10W亿,人才缺口达百万!AI人工智能即将迎来爆炸式增长. 光环国际经过近一年的筹备和打磨,精心研发AI人工智能直通车课程,将于10月28日正式开班!课程主要讲授人工智能算法.记起学习.深度学习等技术,涵盖30余个(人脸识别.语音识别等)

机器学习001 deeplearning.ai 深度学习课程 Neural Networks and Deep Learning 第一周总结

Deep Learning Specialization 吴恩达老师最近在coursera上联合deeplearning.ai 推出了有关深度学习的一系列课程,相对于之前的machine learning课程,这次的课程更加实用,作业语言也有matlab改为了python从而更加贴合目前的趋势.在此将对这个系列课程做一个学习笔记. 而这次的Deep Learning Specialization分为五门课程,分别为:Neural Networks and Deep Learning,Improv

526份行业报告+白皮书:AI人工智能、机器人、智能出行、智能家居、物联网、VR/AR、 区块链等(附下载)

随着现有技术的成熟,不可预见的发展会更快地到来,而创新则从消费者应用到商业(反之亦然),我们必须不断地寻找那些有潜力为我们自己的业务和我们的客户增值的人. 在未来30年里,超级智能一定会诞生.届时,所有的物都将相互连接,超级智能走进云端,并走进自动驾驶.健康医疗.客户服务.工业等等领域.人们的生活,将发生巨大的改变.墙裂推荐一读. 与 2017 年类似,2018 年的 CES 依然是人工智能.物联网.自动驾驶汽车.AR/VR 和健康设备等热门产品的舞台. 我们分享各个行业526份关于AI人工智能

AI人工智能时代即将来临,是什么要先行一步?

在2018年"全连接大会"上,最触动人心的一刻,无疑是万物互联未来畅想:而作为万物互联的核心便是"人",而万物互联的所要发挥的极致作用也就是充分解放"人"的机械属性,而充分发挥人的不可替代的创造性价值.无论是算法.算力还是模型训练,自动化功能及应用,自动更新与人才稀缺等十大改变中的任一一项改变都基于一个基础--协同. 协同并不是同样.统一的重复,而是犹如一个新产品的整体生命周期,不同的人的角色不同,参与新产品的生命周期的节点也不同,但都是始于同一

AI人工智能:在生活变难之前,先让自己变强!

近几年大家对AI的关注度越来越高,在2016年世界互联网大会上,人工智能被冠以"四大热词"之一,2017年12月,人工智能入选"2017年度中国媒体十大流行语". 自从2016年AlphaGo以悬殊比分打败世界顶级围棋棋手李世石后,人们开始担心人工智能机器人是否超越了人类智慧.之后围棋天才柯洁输给AlphaGo.AI入侵华尔街引发裁员狂潮.京东黑科技无人超市面世等等诸如此类的消息屡屡登上热搜榜单,人工智能技术被大量应用到各行各业中.可以预见,人工智能必将像人类历史上

百度AI人工智能产品体验不好?今日头条进军AI人工智能领域?

关于AI智能生活问题? Python语言是人工智能要用的.还有就是C+和JAVA等一些语言,算法我个人觉得应该是重点.这相当是人的大脑. 2018年12月23号,这一天传来一个非常不好的消息.也就是25号圣诞节那一天,公司发布公告:这一天每个人都要上班,领导来检查.我就想知道那个领导非得圣诞节来啊!好吧认了,毕竟给人打工得遵守别人定的规则. ** AI人工智能广泛性** 回到原题,现在非常多AI智能家具,电器,数码.也有很多盆友已经被深深吸引了!如今"人工智能"已经普遍走进中国大学校园

从大数据技术变迁猜一猜AI人工智能的发展

目前大数据已经成为了各家互联网公司的核心资产和竞争力了,其实不仅是互联网公司,包括传统企业也拥有大量的数据,也想把这些数据发挥出作用.在这种环境下,大数据技术的重要性和火爆程度相信没有人去怀疑. 而AI人工智能又是基于大数据技术基础上发展起来的,大数据技术已经很清晰了,但是AI目前还未成熟啊,所以本文就天马行空一下,从大数据的技术变迁历史中来找出一些端倪,猜一猜AI人工智能未来的发展. 最近断断续续的在看<极客时间>中「 从0开始学大数据 」专栏的文章,受益匪浅,学到了很多.尤其是非常喜欢作者