深度学习能否取代其他机器学习算法

  【编者按】深度学习在最近两年非常火爆,但深度学习能否取代其他机器学习算法?纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点,CSDN编辑将其翻译如下,并加上一些国内人工智能专家的观点,供大家参考。

  深度学习迅速地成长起来了,并且以其疯狂的实证结果着实令我们惊奇。Quora上有一个关于深度学习是否会让其他的机器学习算法过时的讨论。特别地,相关的算法,如反向传播、HMM会像感知机一样过时吗?

  这很难回答。Google DeepMind研发工程师Jack Rae对此有一个有趣的回答:

  过去几年的实证结果已经表明,当数据集足够大时,深度学习提供了最好的预测能力。但这是真的吗?我知道的一个例子,去年它并未达到对一个超过1亿行数据集的预测能力。

  他认为深度学习之所以会导致其他学习算法濒临灭绝,是因为深度学习具备非常卓越的预测能力,尤其是对大中型数据集的预测。当人们开始考虑使用深度学习作为解决一些问题如模式识别的第一选择时,其他算法将过时。

  另一方面,大多数人仍然相信深度学习不会取代所有其他模型和算法。斯坦福大学人工智能研究生Jacob Steinhart的观点收到了最多的点赞。他写道:

  1、对于许多应用程序,使用更简单的算法像逻辑回归和支持向量机可以工作的很好,而使用深度神经网络只会使事情变得复杂。

  2、然而深度神经网络(deep belief networks )是最好的一个不可知域算法,如果你有领域知识的话,那么使用其他算法,如用于语音识别的HMM、用于图形压缩并识别的小波算法等,就可以表现更好。已经有一些工作把这些领域知识合并到神经网络模型,但是这还是不足以完全取代所有其他的模型和算法。

  

  以上是由Eren Golge创立的机器学习的时间表。

  深度学习将成为主流,就像在20世纪早期初迅速提高的SVM(支持向量机)一样。然而,在深度学习成为机器学习算法的第一选择之前,深度学习的复杂性以及其大量数据的需求仍需解决。

  作者简介:Ran Bi,纽约大学的数据科学计划的硕士研究生,已经完成了机器学习、深度学习和大数据分析领域的好几个项目。

  原文链接:Will Deep Learning take over Machine Learning, make other algorithms obsolete?(翻译:王辉)

  其他专家观点:

  余凯,百度深度学习研究院(IDL)常务副院长:

  深度学习已经在取代其他的机器学习算法,或者说兼容其他算法,并且最终将可能成为一个包容其他算法的机器学习框架。关键在于,深度学习的数学框架本质上和其他算法是一样的,可以退化成传统算法。因为深度学习是一个很灵活的框架,当处理小数据的时候,可以根据实际需求采用比较浅的网络结构。

  邹永强,腾讯数据平台部精准推荐中心深度学习方向负责人

  我估计只有少数deep learning的粉丝会认可DL可以取代其他算法,另外也要看业务领域。

  李成华,京东深度神经网络(深度学习)实验室首席科学家

  目前,深度学习的应用场景主要在图像、语音、视频广告等领域,但有些业务应用,如购物篮分析,还没听说用深度学习的。

  还有个主要问题:深度学习门槛较高,硬件要求也高,相比传统机器学习算法与Hadoop结合不友好。

  但从准确率来说,随着深度学习技术成熟,取代很多传统机器学习算法是必然的。如分类、聚类、预测、推荐和搜索等,都有从传统机器学习往深度学习转的趋势。

  王浩,宝宝树数据&算法工程师

  产业界,深度学习应用绝大多数都是有监督的机器学习,研究界更多的是研究无监督式的深度学习技术。 本质上,有监督的机器学习相对已经非常成熟,只需要更多、更好质量的数据,就能轻易的战胜复杂的非监督深度学习。所以,我觉得,不会代替,得看具体的应用场景。有的时候,杀鸡需要用牛刀,但有的场景,杀鸡绝对不需要用牛刀。

  Tomasz Malisiewicz, vision.ai Co-founder, Robotics PhD, Computer Vision Expert

  我预测,每隔10~15年,神经网络将经历以下循环:他们将被遗忘10余年,正如人们感到兴奋的大型凸优化问题,然后慢慢的以一个新的、性感的名称(例如深度学习)回归。我怀疑,只要Hinton、LeCun、Bengio和他们的门徒还在(他们很可能会以不断增加),这就会发生!

时间: 2024-12-15 06:52:51

深度学习能否取代其他机器学习算法的相关文章

专家观点碰撞:深度学习能否取代其他机器学习算法

专家观点碰撞:深度学习能否取代其他机器学习算法 摘要:深度学习在最近两年非常火爆,但深度学习能否取代其他机器学习算法?纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点,CSDN编辑将其翻译如下,并加上一些国内人工智能专家的观点,供大家参考. [编者按]深度学习在最近两年非常火爆,但深度学习能否取代其他机器学习算法?纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点,CSDN编辑将其翻译如下,并加上一些国内人工智能专家的观点,供大家参考. 深度学习迅速地成长起

相比于深度学习,传统的机器学习算法难道就此没落了吗,还有必要去学习吗?

自从 MIT Technology Review(麻省理工科技评论) 将 深度学习 列为 2013 年十大科技突破之首.加上今年 Google 的 AlphaGo 与 李世石九段 惊天动地的大战,AlphaGo 以绝对优势完胜李世石九段.人工智能.机器学习.深度学习.强化学习,成为了这几年计算机行业.互联网行业最火的技术名词. 其中,深度学习在图像处理.语音识别领域掀起了前所未有的一场革命.我本人是做图像处理相关的,以 2016 年计算机视觉三大会之一的 Conference on Comput

深度学习之目标检测常用算法原理+实践精讲

第1章 课程介绍本章节主要介绍课程的主要内容.核心知识点.课程涉及到的应用案例.深度学习算法设计通用流程.适应人群.学习本门课程的前置条件.学习后达到的效果等,帮助大家从整体上了解本门课程的整体脉络. 第2章 目标检测算法基础介绍本章节主要介绍目标检测算法的基本概念.传统的目标检测算法.目前深度学习目标检测主流方法(one-stage.two-stage.多任务网络).相关算法的基本流程.算法性能的评价指标.不同算法的优缺点和性能比较等,并结合实际的应用场景和案例来介绍目标检测算法的重要性和实用

深度学习之目标检测常用算法原理+实践精讲 YOLO / Faster RCNN / SSD / 文本检测 / 多任务网络

深度学习之目标检测常用算法原理+实践精讲 YOLO / Faster RCNN / SSD / 文本检测 / 多任务网络 资源获取链接:点击这里 第1章 课程介绍 本章节主要介绍课程的主要内容.核心知识点.课程涉及到的应用案例.深度学习算法设计通用流程.适应人群.学习本门课程的前置条件.学习后达到的效果等,帮助大家从整体上了解本门课程的整体脉络. 1-1 课程导学 第2章 目标检测算法基础介绍 本章节主要介绍目标检测算法的基本概念.传统的目标检测算法.目前深度学习目标检测主流方法(one-sta

阿里云人工智能小Ai是比深度学习更高阶的算法

(上图为阿里云人工智能科学家闵万里) 4月8日,在<我是歌手>的第四季总决赛中,出现了一个不速之客,这就是扬言能预测歌王的阿里云人工智能机器人小Ai.开场前,小Ai预测黄致列夺冠概率第一,尽管最终的歌王是李玟,但小Ai成功预测了前三名. 在了解阿里云人工智能机器人小Ai的基本运作过程后,记者认为小Ai的算法其实已经不仅是深度学习,而是在深度学习之上的更高阶算法,并就此向阿里云人工智能科学家闵万里求证,得到的回复:是的. 小Ai算法高阶在哪里? 尽管阿里云方面没有透露关于小Ai更多算法方面的信息

吴恩达-深度学习-课程笔记-7: 优化算法( Week 2 )

1 Mini-batch梯度下降 在做梯度下降的时候,不选取训练集的所有样本计算损失函数,而是切分成很多个相等的部分,每个部分称为一个mini-batch,我们对一个mini-batch的数据计算代价,做完梯度下降,再对下一个mini-batch做梯度下降.比如500w个数据,一个mini-batch设为1000的话,我们就做5000次梯度下降(5000个mini-batch,每个mini-batch样本数为1000,总共500w个样本). 对于batch梯度下降(每次计算所有的样本),随着迭代

资源|5本深度学习和10本机器学习书籍(免费下载)

作者:lily 5本深度学习书籍资源推荐 深度学习(Deep Learning)byIan Goodfellow and Yoshua Bengio and Aaron Courville 中文版下载地址:https://github.com/exacity/deeplearningbook-chinese R语言深度学习实践指南(Deep Learning Made Easy with R)by Dr. N.D. Lewis 下载地址:http://download.csdn.net/deta

神经网络和深度学习之——误差反向传播算法

在讲解误差反向传播算法之前,我们来回顾一下信号在神经网络中的流动过程.请细细体会,当输入向量\(X\)输入感知器时,第一次初始化权重向量\(W\)是随机组成的,也可以理解成我们任意设置了初始值,并和输入做点积运算,然后模型通过权重更新公式来计算新的权重值,更新后的权重值又接着和输入相互作用,如此迭代多次,得到最终的权重. 信号向前传播,权重的更新反向传播,是这样吗? 是的,你的直觉没错,确实是反向传播. 1. 前馈的实质 反向传播这个术语经常被误解为用于多层神经网络的整个学习算法.实际上,反向传

Netflix工程总监眼中的分类算法:深度学习优先级最低

Netflix工程总监眼中的分类算法:深度学习优先级最低 摘要:不同分类算法的优势是什么?Netflix公司工程总监Xavier Amatriain根据奥卡姆剃刀原理依次推荐了逻辑回归.SVM.决策树集成和深度学习,并谈了他的不同认识.他并不推荐深度学习为通用的分类技术. [编者按]针对Quora上的一个老问题:不同分类算法的优势是什么?Netflix公司工程总监Xavier Amatriain近日给出新的解答,他根据奥卡姆剃刀原理依次推荐了逻辑回归.SVM.决策树集成和深度学习,并谈了他的不同