了解点OpenAI及深度学习研究前沿

前言

OpenAI是2015年底刚成立的人工智能公司,由Elon Musk领投,号称有10亿美金的投资额,由几位人工智能的顶尖好手组成。这基本上意味着一个新的DeepMind公司诞生,只不过这次OpenAI是一个组织,不属于任何一个公司。

为什么要了解OpenAI?

因为OpenAI的研究内容很大程度上代表着人工智能的研究方向,由于其非盈利性质以及地处加州硅谷这种黄金地段,未来聚集更多顶尖人才的可能性很大,成为一个和DeepMind公司抗衡的可能性非常大。OpenAI的出现将使顶级人工智能的研究不至于被Google(主要是Google,当然还有Microsoft,Facebook,Baidu,IBM,Nvidia等等)垄断。

OpenAI网址:www.openai.com

OpenAI AMA: AMA网址

OpenAI的很多成员恐怕大家都比较熟悉,有Hinton的学生,有李飞飞的学生,有Pieter Abbeel的学生,也就是Andrew Ng的徒孙了。最近Ian Goodfellow大牛也加入,DeepLearning那本书就是他主笔的。

了解OpenAI最重要的是了解人工智能的研究前沿。

人工智能最前沿的研究方向是什么?

OpenAI提了三点:

- Training Generative Models

- algorithms for inferring algorithms from data

- new approaches to reinforcement learning

那么这三类分别代表什么呢?

Deep Generative Models

第一类面向生成模型,主要任务是生成新的信息,既有有监督学习,也有无监督学习。比如Sequence to Sequence Learning。翻译:输入英文,输出中文。聊天:输入A对话,输出B对话。 输入文字,输出手写字体。还有自动生成文字(如上图,来自otoro.net),音乐,艺术(Deep dream,Neural Art)。。。 这里面也包含了one shot learning。也就是看一眼图像,就衍生出其变种,如下图:

那么这方面的研究意义在哪呢?我的观点是探索人工智能的感知能力。一方面是不同类型数据的感知,一方面是快速感知与学习。对于不同类型数据的感知。以前只是图像识别,现在开始识别艺术特征,也可以识别文字信息的特征用于翻译对话等等。然后我们发现RNN简直无敌,什么信息都能自动提取。对于同一个seq2seq网络,用在翻译,聊天,理解炉石传说的卡片。。。 RNN可以理解任意形式的内容。另一方面我们希望能够想人类一样快速感知,而不需要巨量的训练数据,也就是看一眼就认得。

Learning Algorithm & Neural Turing Machine

本质上基于RNN计算机可以学习任何东西,那么当然也包括算法和程序了。所以Neural Turing Machine是目的是让计算机能够学习程序,从而具备推理能力。举个栗子:让计算机看很多加法运算,然后学会加法,这大概是最简单的例子。但基本是这个意思。那么Neural Turing Machine需要具备外部记忆,不过RNN,LSTM本身就具备记忆功能。想象一下未来的电脑真的变成一个“脑”:一个巨大的神经网络来实现输入输出。。

上一类研究问题是实现AI更强的感知能力,那么这一类问题就更变态了,直接要实现AI不仅能理解还能推导。当然本质上和第一类问题是一样的。感知也是一种理解。归根到底都是提取某种特征或者说知识信息,并且具备生成能力。依然是用RNN,目前最新的是基于增强学习的NTM。也就是说也通过自学习来增强理解。

这一部分的研究还面向公式的证明,但这次是使用神经网络来证明公式。

其实只要能通过RNN使计算机具备理解能力,那么做什么事都一样。

Deep Reinforcement Learning

上面两类问题主要依赖于现有知识,目的是使AI具备牛逼的学习能力。但是要使AI超越人类,就需要自我学习。大家知道AlphaGo能够自我学习,关键就是利用增强学习Reinforcement Learning.

因此,这部分Deep Reinforcement Learning,重点在于使用增强学习实现自学习能力。有很多任务并不是提供很多的样本,特别在机器人控制领域。这类问题严重需要自学习能力。也就是类比为人类的运动能力。大家知道我们要打篮球打得好需要长期的练习,并不是看一眼就会的。因此,Deep Reinforcement Learning,通往AGI的终极武器,要使AI具备自我学习的能力,只要给定一个目标。

小结

人工智能的发展超出了想象,OpenAI的研究方向的进展将使人工智能具备更强的学习能力,也可以说是智能水平!三种类型的研究方向其实都相互依赖,只是各有侧重,都非常酷。而这些东西的本源是RNN。又让人想到了Jurgen Schmidbuber这个神牛了。

在这三个方向中挑一个搞都将很有意义!

时间: 2024-10-27 05:17:22

了解点OpenAI及深度学习研究前沿的相关文章

面向医学图像分析的深度学习研究方案

面向医学图像分析的深度学习研究方案 这是一篇有关"深度学习在医学图像处理方面"的研究报告的第一节,主要包含研究对象,常用方法,深度学习简介,研究现状,研究重点. 在撰写报告时,我找到了两篇 Deep learning for BioInformation / BioMedicine 的综述文章,也一并分享出来: Deep Learning in Bioinformatic Applications of deep learning in biomedicine 1. 研究背景及意义 医

主流深度学习框架对比

深度学习研究的热潮持续高涨,各种开源深度学习框架也层出不穷,其中包括TensorFlow.Caffe.Keras.CNTK.Torch7.MXNet.Leaf.Theano.DeepLearning4.Lasagne.Neon,等等.然而TensorFlow却杀出重围,在关注度和用户数上都占据绝对优势,大有一统江湖之势.表2-1所示为各个开源框架在GitHub上的数据统计(数据统计于2017年1月3日),可以看到TensorFlow在star数量.fork数量.contributor数量这三个数

神经网络浅讲:从神经元到深度学习

神经网络是一门重要的机器学习技术.它是目前最为火热的研究方向--深度学习的基础.学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解深度学习技术. 本文以一种简单的,循序的方式讲解神经网络.适合对神经网络了解不多的同学.本文对阅读没有一定的前提要求,但是懂一些机器学习基础会更好地帮助理解本文. 神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术.人脑中的神经网络是一个非常复杂的组织.成人的大脑中估计有1000亿个神经元之多. 图1 人脑神经网络 那么机

TensorFlow与主流深度学习框架对比

引言:AlphaGo在2017年年初化身Master,在弈城和野狐等平台上横扫中日韩围棋高手,取得60连胜,未尝败绩.AlphaGo背后神秘的推动力就是TensorFlow--Google于2015年11月开源的机器学习及深度学习框架. TensorFlow在2015年年底一出现就受到了极大的关注,在一个月内获得了GitHub上超过一万颗星的关注,目前在所有的机器学习.深度学习项目中排名第一,甚至在所有的Python项目中也排名第一.本文将带我们简单了解下TensorFlow,并与其他主流深度学

【深度学习Deep Learning】资料大全

转载:http://www.cnblogs.com/charlotte77/p/5485438.html 最近在学深度学习相关的东西,在网上搜集到了一些不错的资料,现在汇总一下: Free Online Books Deep Learning66 by Yoshua Bengio, Ian Goodfellow and Aaron Courville Neural Networks and Deep Learning42 by Michael Nielsen Deep Learning27 by

深度学习的黄金搭档:GPU正重塑计算方式(转载)

转载:原文链接 深度学习的黄金搭档:GPU正重塑计算方式 OFweek电子工程网讯 随着神经网络和深度学习研究的不断深入——尤其是语音识别和自然语言处理.图像与模式识别.文本和数据分析,以及其他复杂领域——研究者们不断在寻找新的更好的方法来延伸和扩展计算能力. 几十年来,这一领域的黄金标准一直是高性能计算(HCP)集群,它解决了大量处理能力的问题,虽然成本有点过高.但这种方法已经帮助推动了多个领域的进步,包括天气预测.金融服务,以及能源勘探. 然而,2012 年,一种新的方法出现了.伊利诺伊大学

转:深度学习课程及深度学习公开课资源整理

http://www.52nlp.cn/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E8%AF%BE%E7%A8%8B%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E5%85%AC%E5%BC%80%E8%AF%BE%E8%B5%84%E6%BA%90%E6%95%B4%E7%90%86 这里整理一批深度学习课程或者深度学习相关公开课的资源,持续更新,仅供参考. 1. Andrew Ng (吴恩达) 深度学习专项课程 by Courser

人工智能AI专家分享:深度学习初学解惑

---恢复内容开始--- 导语:高扬,现某创业公司数据科学家.人工智能专家.前欢聚时代资深大数据专家,有丰富的机器学习.深度学习实战经验. 在高扬老师此前的分享中,有不少同学问到高扬老师各种关于入门深度学习这个前沿技术领域的问题.部分重要问题,高扬老师做了具体的回复.真传X技术教育平台致力于让更多技术人受益其中,经高扬老师授权,我们将在此分享高扬老师专业的答疑. 今天的分享,将集中在初学深度学习的解惑:传统技术程序员要不要转型人工智能,怎样做才比较合适在AI浪潮下发展. 近来有一位同学在奇点大数

深度学习基础阶段

IDH_1000=1.1 课程介绍 & 机器学习介绍.html ; Evernote ExportIDH_1001=1.2 深度学习(Deep Learning)介绍.html ; Evernote ExportIDH_1002=2 基本概念 (Basic Concepts).html ; Evernote ExportIDH_1003=3.1 决策树(decision tree)算法.html ; Evernote ExportIDH_1004=3.2 决策树(decision tree)应用