远离神经网络这个黑盒,人工智能不止这一条路可走

来源 |《连线》 编译整理 | 量子位 若朴

神经网络横扫硅谷如卷席,各式各样的人工智能(AI)已经潜入各式各样的互联网服务之中。不过就算神经网络已经能轻松的认出猫咪的图片,但仍然有很多不足之处,所以一些人怀疑目前人工智能的模式识别系统,是否是一种先进、可靠的AI发展之路。

无论是Facebook的面部识别、微软的翻译或是Google的搜索,背后都是神经网络通过分析大量数据学会执行任务。人工智能帮助聊天机器人学习谈话的艺术,帮助无人驾驶汽车驶上公路。但是如果没有大量仔细标注的数据,AI并不能理解世界,也不通用。

另一方面,研究人员对神经网络的工作原理了解有限,很多时候,人工智能就是一个黑盒子。这种不透明导致了严重的问题:如果一辆无人驾驶的汽车撞上了行人,可能人们也无从得知为什么人工智能会做出这样的决定。

“深度学习确实得到了很多关注,它确实值得关注”,卡内基梅隆大学计算机科学教授Tuomas Sandholm说,“但是深度学习不能给你任何保证”。如果你之前看了量子位的文章,立刻能意识到这位教授就是AI赌神Libratus的创造者。

教授说的一点不错。由于神经网络中这些明显的弱点,科技巨头们正在寻找新的人工智能发展路径,最近的招聘、收购、研究以及新成立的创业公司,都瞄准了一个新的方向。

贝叶斯方法正在兴起。依照这种理论,可以通过正统的科学方法研究人工智能:从一个假设开始,然后技术数据更新这个假设,而不是像神经网络那样依赖数据推动结论。贝叶斯方法可以用来处理不确定性,可以为现有模型提供新的证据,可以做神经网络不擅长的事情。

和神经网络一样,贝叶斯方法可也从数据中学习,但完全是两一个路数的机器学习。“我们感兴趣的是让科学方法自动化”,创业公司Gamalon的创始人Ben Vigoda说,他们正在通过概率编程的方法推动这目标前进。

神经网络的快速崛起,也为众多的其他技术注入了生命力,这些技术都能让机器变得更聪明。从强化学习到进化计算,机器学习不只有一条路可走。

迷之科技

去年12月,当Gary Marcus把他只有15个人的创业公司卖给Uber时,他说自己带来了一种全新的人工智能。

他的公司名叫几何智能,一个有着雄心的小操作系统。这位47岁的纽约大学心理学教授表示,他和他的研究伙伴们正在开发一种系统,可以仅仅凭借很小的数据量学会执行任务,就像是人类一样,这种方式蕴含的能量远超深度神经网络。

Marcus认为,小数据系统对于对话机器人以及行驶在公共道路上的无人车而言,是必不可少的。“语言领域和无人车领域都有一些问题,例如永远缺乏足够的数据驱动强力的深度学习”,他说毕竟我们不能在繁忙的道路上撞毁车辆,用以收集数据避免未来的事故。

剑桥大学信息工程教授Zoubin Ghahramani是Marcus的联合创始人,他俩都不愿因谈及上述技术的细节。这在技术世界一点都不罕见,特别是与AI相关的部分,各种秘而不宣造就了一些迷之科技。不过,Ghahramani也是贝叶斯方法的拥趸。

Ghahramani专门研究一种称为高斯过程的特定类型统计模型,这有可能在他与Marcus的研究过程中发挥了作用。

高斯过程

在某些方面,高斯过程是找到特定问题最优解的一种方式。这也是另一种数学技术贝叶斯优化的基础。高斯过程已经用于帮助网站决定应该显示那些广告,或者网站主页应该如何优化。Uber一直在招聘高斯过程方面的专家以改善服务,Google也用高斯过程来协助控制高空互联网气球。

从根本上讲,高斯过程是识别不确定性的好方法。“知道你不知道是一件非常好的事情”,爱丁堡大学AI研究员Chris Williams说,“做一个自信的错误决定是最糟糕的事情”。他也是高斯过程和机器学习方面的权威作者。

2015年被Twitter收购的初创公司Whetlab,就为设计神经网络提供了一个更好的方法。设计神经网络是一个极端试错的任务,困难且耗时。但是高斯过程和贝叶斯优化可以帮助自动完整这个任务。正如WhetLab的创始人、哈佛的计算机科学家Ryan Adams所说的,这家公司正使用“机器学习来改进机器学习”。

神经网络会遇到“自信的错误”困扰,在识别不确定性时,这种优化可以帮助决绝问题。现在Adams已经离开Twitter加入Google Brain。

一些研究人员还认为,高斯过程的小数据能力,可以推进自主化AI方面发挥关键作用。“为了建立一个真正自主化的代理,它必须能够快速适应环境”,AI创业公司Prowler的首席执行官Vishal Chatrath说,“这意味着从高效的从数据中学习”。

此外,Chatrath表示高斯过程很容易解释,这个技术与神经网络不同,它不受制于黑盒问题的束缚,如果发生问题,人们可以追踪原因。

Prowler聘请了三位学者从事这方面的研究。这家公司正在搭建一套AI系统,可以从大型多人游戏和其他数字世界中学习无人驾驶技术。这是一个复杂的工作,但他们希望这能有助于在现实世界进行无人驾驶汽车的导航。

而亚马逊最近也聘请了一位专门研究贝叶斯技术的AI研究院:谢菲尔德大学计算机科学家Neil Lawrence。《不要惊慌》,这是Lawrence最近发表的一篇博客,他在文中说“通过使用数学工具来应对新一波的深度学习,我们可以确保它们基本上是无害的”。

时间: 2024-10-10 16:17:40

远离神经网络这个黑盒,人工智能不止这一条路可走的相关文章

曲子龙:搞人工智能不如养一条好狗!

原计划更新<相比其它诈骗,区块链ICO到底牛在哪?>,但里面有很多内容有一些比较深的名词可能不容易理解,于是我优先更新这篇文章,文中有很多内容与下一篇都有关联,建立我最近的几篇内容连起来阅读,可能会更容易理解. 文章会有很多争议,看不懂的话可以适当多理解几次,或者与我互动,若觉得与主流"专家"分享观点相违背又不愿意接纳我的观点,你就当我是盗版书,即可. 过去的两年多时间里,我一直从事着努力脱掉"黑客"头衔的工作,和团队跨界研究了很多领域的前沿技术,也持续

计算机视觉和人工智能的状态:我们已经走得很远了 The state of Computer Vision and AI: we are really, really far away.

The picture above is funny. But for me it is also one of those examples that make me sad about the outlook for AI and for Computer Vision. What would it take for a computer to understand this image as you or I do? I challenge you to think explicitly

楞严经白话——14.10.10

楞严经 大佛顶如来密因修证了义诸菩萨万行首 楞严经卷一 唐朝中天竺国(印度)沙门(出家人)般剌密谛 主译 乌苌国(北印度)沙门(出家人)弥伽释迦 译语 菩萨戒弟子 前正议大夫 同中书门下 平章事 清河县人 房融 执笔记录 (楞严经,原藏于龙宫,胜龙菩萨到龙宫说法,见龙藏中有此经,披阅之下,叹为希有,遂默诵而出,录呈印度国王,国王视其为国宝,严禁外流.般剌密 谛尊者,弘法愿深,两次冒险,思送中国以求宏扬,不幸皆为关卡查禁.尊者乃费数年时间,以蝇头小字书于腊纸之上,剖膊藏于肉中,方得过关航海而来,于

让数据库飞起来 十大DB2优化技巧

DB2是IBM出口的一系列关系型数据库管理系统,分别在不同的操作系统平台上服务.下文中将为大家讲解DB2十大优化技巧. 为了帮助DB2 DBA 避免性能灾难并获得高性能,我为我们的客户.用户和 DB2 专家同行总结了一套故障诊断流程.以下详细说明在 Unix.Windows 和 OS/2 环境下使用 DB2 UDB 的电子商务OLTP 应用程序的10 条最重要的性能改善技巧,希望下文中涉及到的内容对大家能够有所帮助. 一. 监视开关 确保已经打开监视开关.如果它们没有打开,您将无法获取您需要的性

《佛说大乘无量寿庄严清净平等觉经--亲闻记》阅读笔记

1.见惑是错误的见解,第一是身见,以身为自己,认定身是我,是错误的,欲知其详请参阅楞严经有详细解释.第二是边见,也就是相对的观念,一切法有大有小,有长有短,有善有恶.六道众生是生活在边见之中,我们俗话说,就是一种偏见.第三是戒取见,非因计因.在禅定中,看见牛死生天,他以为人不如牛,于是他也学牛,耕田吃草:学牛一定变牛,不能生天,不知牛在过去生中,曾造作生天之因,这就是俗话所说的成见.第四是见取见,非果计果,未证谓证.例如外道说生天可得永生,不会再堕落,此种见解实属大谬.天人寿命虽长,纵能生到非想

数据库编程总结

当前各种主流数据库有很多,包括Oracle, MS SQL Server, Sybase, Informix, MySQL, DB2, Interbase / Firebird, PostgreSQL, SQLite, SAP/DB, TimesTen, MS ACCESS等等.数据库编程是对数据库的创建.读写等一列的操作.数据库编程分为数据库客户端编程与数据库服务器端编程.数据库客户端编程主要使用ODBC API.ADO.ADO.NET.OCI.OTL等方法:数据库服务端编程主要使用OLE D

转载--《怎样制作一款优秀的塔防游戏》

怎样制作一款优秀的塔防游戏?近日,独立游戏工作室,经典塔防游戏<守护者冒险>(Defender’s Quest)开发商Level Up Labs联合创始人拉斯·杜切特(Lars Doucet)撰写专栏文章,分享了其工作室制作<守护者冒险>的11项原则.杜切特表示,塔防游戏要想最大限度发挥自身潜力,需要做到让玩家专注,并考验玩家的思考.以下是杜切特所列11项原则的主要内容编译. 1.不用滚动地图 滚动地图是“专注”的敌人.如果玩家总是担心在自己视野范围之外有敌人来犯,那么他/她将十分

struct和class的区别 观察者模式 https连接 点击button收到点击事件,中间发生了什么

问题: 4道过滤菜鸟的iOS面试题 网上已经有很多针对各种知识点的面试题,面试时有些人未必真正理解也能通过背题看上去很懂.我自己总结了4道面试题,好快速的判断这个人是否是一个合格的工程师,欢迎大家点评. 1.struct和class的区别 在面试之前你觉得所有的计算机专业的学生都应该能答的上来,事实是我面的人里有超过三分一没有答上来. 有时我还会顺便问下swfit里的array是什么类型,在大量复制时会不会有性能问题. 2.介绍一下观察者模式 也许有些人已经觉得设计模式有些过时,没有整本读过.就

逻辑思维训练550题

前序:思维训练让你更高.更强!更新时间2010-1-14 17:19:45 字数:1249 当今时代是一个知识爆炸的时代,也是一个头脑竞争的时代:在竞争日益激烈的环境下,一个人想要很好地生存,不仅需要付出勤奋,而且还必须具有智慧.随着人才竞争的日趋激烈和高智能化,越来越多的人认识到只拥有知识是远远不够的.因为知识本身并不能告诉我们如何去运用知识,如何去解决问题,如何去创新,而这一切都要靠人的智慧--大脑思维来解决.认真观察周围的人我们也会发现,那些在社会上有所成就的人无不是具有卓越思维能力的人.