人工智能系列报告：挑战与机遇并存的科技我与恶魔的h生活3

(本文来自互联网，不代表本站的观点和立场)

夸大机器人也了与机器深度联合带来的好处。几乎所有研究人员，比如DeepMind的Hassabis相信，如果我们赋予机器智能，他们或许会帮助我们解决重要问题，比如疾病和医疗保健，也会协助科学家解决气候变迁以及物理方面的难题。微软的EricHorvitz站在更加宏大的角度看到了对人工智能的需求：「人类面临的重要问题在于：我们的体验是计算的吗？如果是这样，那么，更好理解运作将告诉我们——作为这个星球存在的我们自身——什么呢？我们会如何利用获得的关于自身的知识？」

在LeCun看来，这是许多正在进行的大脑研究的错误所在，包括欧洲的人脑计划项目，为期10年，启动资金13亿美元，通过本质上在超级计算机上模拟人类大脑860亿神经元和100万亿突触来解开意识之谜。他说，「这个项目的想法是，如果你研究了神经元和突触的工作原理细节并在足够大的神经网络上以某种程度模拟之，人工智能就将以某种方式出现。」「我认为这完全是疯了。」

LeCun不打算说FB在人工智能研究上花了多少钱，但是，它被视为硅谷最具野心的实验室。「我们人工智能研究的绝大部分内容关注的是理解人们分享的意义。」扎克伯格在他网站Q&A中写道。如果你给狗拍照或者写篇有关的po文，我们就要理解这种行为，这样我们就能将那份po文显示出来并帮你与喜欢狗和的人连接起来。为了很好实现这一点，我们的目标就是打造出在基本感觉方面优于人类的人工智能系统：视觉、听觉等。1月，扎克伯格宣布2016年个人挑战是写一个简单的人工智能程序帮助打理家庭和工作事务。「你能把它视为类似钢铁侠的Jarvis之类的助理。」

LeCun是深度学习的先锋，深度学习是一种了人工智能的机器学习。当他在1980年攻读学士学位时，他看到1958年的「机」以及神经网络算法的潜力，能够使机器事物，比如图像或词汇。这种网络是一种算法，模拟大脑中神经通的结构，利用神经元网络，或者说「节点」，来执行输入（可以是任何东西——数字、声音、图像）的加权统计分析。看到神经网络的潜力，LeCun的博士论文就研究了训练神经网络来自动调节它们自身以更精确地识别模式的方法——最终创造出的算法让现在的ATM机能够读取支票。自从那时起，神经网络被其他程序员不断精炼，成为智能机器领域每一次改进的技术支柱，从自动驾驶汽车的计算机视觉到GoogleVoice的语音识别。就好像LeCun主要为人工生命发明了神经系统。

工业机器人已经应用了很长时间，它们被编程用以执行具体任务：向左移臂6英尺、抓起模组、向右扭动，将模组放到计算机主板上。每小时重复300次。这些机器和割草机一样笨。但近几年来，机器学习（能够大概模拟人脑并让机器能自己学习的算法）上的突破让计算机在语音识别和鉴别视觉模式上获得了非凡的能力。Abbeel的目标是让机器人拥有某种通用的智能——一种理解世界的方式，让它们可以自己学习完成任务。他还有很长的要走。他说：「机器人甚至还没有两岁孩童的学习能力。」比如说，Brett已会了做简单任务，如打结或叠衣服。对于人类而言十分简单的任务对机器人来说却难于登天，如认出桌子上一个邹巴巴的布球实际上是一条毛巾；部分的原因是机器人没有常识，没有之前叠毛巾尝试的记忆，最重要的是，机器人没有毛巾的概念。它看到的只是一堆颜色。

离开FB的时候，我被办公室里每个人之间的密集程度到了——这是一个人与机器共同工作的王国。无论机器人变得多么成熟，很难想象未来会有什么不同。杰出的计算机科学家和作者JeJaronLanier说，「算法是人类设计和搭建的，也反映出造物者的，」无论好坏，无论我们创造何种未来，都会是一个我们为自己设计和建造的未来。用句关于结构的老话说：一走来都是人类的造物。

数学算法已经有数千年的历史了，并已成为了现代计算的基础。数据输入，计算机工作，算法吐出结果。只是现在科学家开发了能够逆转这一过程的算法，让计算机可以自己写自己的算法。比如说你想让一架直升机上下着飞：你就写一个能给计算机带来关于直升机控制的信息（输入数据）的算法，然后你告诉它你想让它以怎样的角度怎样飞行（结果），然后，好了，计算机将会吐出自己的算法来告诉直升机应该怎么做。这一过程被称为机器学习，是人工智能背后的思：如果一台机器能够自己怎么让一架直升机上下着飞，它可能也能自己其它事，比如怎样在Tinder上寻找爱，或当你对着iPhone说话时识别你的声音，又或者在更大的尺度上，设计一个能派出终结者的天网。「人工智能是一种让机器更聪明的科学。」DeepMind联合创始人DemisHassabis如是说。

然而它出现了，已经开始。去年夏天，这个伯克利团队在一个器人中安装了一个短期记忆系统。参与此项目的计算机科学家SergeyLevine说他们注意到「这件奇怪的事」。为了对机器人中的记忆程序进行测试，他们向它发出了一个指令，让它将一颗销子放进两个开口中的一个。为了控制变量，他们又在没有记忆程序的情况下再一次进行了实验——而让他们吃惊的是，机器人仍然能将销子放进正确的洞中。没有记忆，它怎么记得该将销子放到哪里？Levine说：「最后，我们意识到，只要机器人接受了这个指令，它都会将手臂转向正确的开头。」之后，在指令消失之后，它可以通过查看自己身体如何定位来了解应该将销子放到哪个开口。实际上，这个机器人依靠自己找到了一种正确执行指令的方法。「这非常令人惊讶，」Levine说，「而且有点让人不安。」

但是，如今，那些冬天都结束了。一方面，计算机能力的持续增强也一伴随着价格降低，为成熟的人工智能算法起作用提供了所需马力。新型芯片，所谓的GPU，最初是为电子游戏处理设计的，对于运行神经网络——节点之间能有数以百万记的连接——来说已经非常重要了。

Abbeel点击了一个按钮，仿真就开始了。机器人在地上扑腾，完全不知道自己在干什么。「原则上，它可能会决定选择走或跳或跃，」Abbeel说。但这个算法实时地「学到」如果将它的腿放在它下面，它可以向前推进自己。它让机器人去分析它之前的表现，找到能让表现更好的行为，然后据此改变其未来的行为。很快它就开始像醉汉一样摇摇摆摆、步履蹒跚地站起来了。它向前一跌，摔倒又站起来，走几步，又摔倒了。但最终它立起来了，并开始朝着目标跌跌撞撞地前进。你几乎可以看到它越来越有信心，它的脚在它身下移动，速度看起来就像跑一样。这个机器人不知道自己在跑。它没有跑的程序。但不管怎么说，它就是在跑。它靠自己想通了所有这些复杂的平衡和肢体控制和物理学。这不只是惊人了，简直就是魔法！看起来就像是一条鱼在40秒内进化成了人类。

Hassabis是一位英国人工智能研究人员、神家、计算机游戏设计师和世界级的游戏玩家。

为了解决这个问题，Abbeel从儿童解决问题时不断调整自己方法的儿童心理学中得到，创造了一种方法。现在，当Brett整理衣物时，它会做类似这样的事：用它的夹子手抓起皱在一起的毛巾，试图了解它的形状，如何将其折叠起来。这听起来似乎很原始，确实是这样。但你再想想：一个机器人在学习如何叠毛巾。

DemisHassabis在谷歌DeepMind位于伦敦市中心的办公室里。

那种怀疑论是有道理的。人工智能能识别图片中的汽车以及分析你讲话的语法。但是，理解不是推理。看，不是思考。掌握围棋不似真实世界里的生活。人工智能能被认作智能之前，性小的多，必须被授以。或者，至少拥有着常识。研究人员仍有很长的要走，才能实现类似人类智能或意识。

尽管取得了所有这些进展，但是，LeCun知道这些仅是迈向通用智能的蹒跚之步。甚至图片识别，看似已经取得巨大进步，也有问题：人工智能项目被图片阴影、反射以及像素变化所。但是，最大的障碍是「无监督学习」。现在机器主要通过监督学习进行学习，监督学习意味着系统会被演示很多张图片，比如说猫的图片，直至它可以理解猫的特征。其他的，不是那么常见的方法就是加强学习，计算机被输入需要识别的信息，然后做出决定，人们告诉它这个决定的是对还是错。无监督学习并不使用反馈或输入，依赖的是你所说的人工直觉。LeCun说，「这是人类学习的方式。」我们观察，做出区别并将这些添加进我们的知识库。「那就是我们必须啃下的硬骨头。」

不管你去哪里，想象一下有个机一直对着你吧。它们就在街角，在无人机上，在40亿的手机上。2012年，FBI开发了10美金的下一代识别系统，该系统利用算法收集美国几百万人的人脸、指纹、虹膜和其他生物特征数据，而这些数据有18000家执法机构能够看到。

实际上，夸大机器人的问题在于了我们面临的智能机器兴起所带来的真实风险——机器人替代工人造成的失业，战争自动化武器的增加，以及这样一个简单的事实：越依赖机器，机器出错时我们面临的风险更大，无论错误来自技术故障还是中国黑客。当我们生活在一个与机器交谈多过与人类交谈的世界时，艺术变成了仅仅是和谐算法的输出时，会有异化的风险。人工智能时代也给隐私带来了深刻挑战，挑战不仅仅来自无人机自上而下窥视你，为了推销而你一举一动的公司也会你的隐私。正如IEET的首席技术官MarceloRinesi所言，「未来不是机器人永远踩在人类的脸上。而是我们所见之物之中都有一个电话推销员，它知道你的每件事情，而且永远不会停止向你推销东西。」

过去，创造会思考机器的努力是学术圈里哲学家和计算机科学的尝试。LeCun表示，「今天不同之处在于这家伙真的管用。FB，IBM和微软——每家公司都在部署，这里头有钱可赚。」如今，无司有啥，最好的算法和数据为赢。谷歌为何是一个如此成功的广告平台？因为更佳的算法可以预测你会点击何种广告。甚至点击率0.5%的差异对公司都意味着巨额的差异，高达500亿美元的收入差。图像识别，取决于机器学习，是在苹果、微软、谷歌和提供云服务的公司（比如Dropbox）之间竞争最为激烈的领域之一。另一个竞争战场就是完善语音识别。公司可以想见，第一个制造出交流跟人一样自然的机器将会是巨大的进步。百度的吴恩达表示「语音交互将会和触摸一样重要，一样具有能力。」谷歌和苹果都在购买人工智能创业公司，试图提供更加智能的助理，而人工智能对于自动驾驶汽车的成功至关重要，而后者对自动行业有着重要的影响，且有可能改变城市的面貌，试想一下，一旦我们不再需要给私人汽车专门开辟停车场的情景，城市将会发生改变，「人工智能已经是现在的流行语了，」的一位企业家JasonCalacanis说道。「你只要在商业计划书里提到人工智能，每个人都会关注它的。这可是时髦热点。」

尽管有像更智能的算法和更强大的机器人这样的进步，超级人工智能机器的未来更应该算是科幻，而不是科学。Facebook人工智能研究部门负责人YannLeCun说，现在「人工智能还远没有老鼠聪明。」是的，IBM用许多年的编程和数百万美元打造了沃森，它曾在2011年的Jeopardy!比赛中击败了最聪明的人类，现在也已经成为IBM的「认知计算（cognitivecomputing）」计划的基础。它可以每秒阅读8亿个页面，可以消化整个的所有资料，更不必提几十年的法律和医学期刊。但它仍然没法教你骑自行车，因为它的智能范围很狭窄——它对这个世界究竟是如何运转的一无所知。位于西雅图艾伦人工智能研究所（AllenInstituteforArtificialIntelligence）的一个最复杂的人工智能程序Aristo不能理解一个像「人们呼吸空气（Peoplebreatheair）」这样的句子。要理解这一点，你首先需要关于这个世界的一般知识——而它没有。即使它可以定义这个词，程序也不知道呼吸空气是否是人们所必须的；或者人们是每分钟呼吸一次空气，还是一辈子一次。一些了不起的成就，如让用户可以用两种不同的语言进行实时对话的Skype翻译（目前还是预览版），仍然还有很长的要走。在一个与意大利的人的对话中，我对天气的评论被翻译成了对圣经的评论。

Brett（用于解决繁琐任务的伯克利机器人）是一个已经自己如何建造和整理物体的人形机器人。

YannLecun，Facebook人工智能专家

这些都是骇人的、弗兰肯斯坦一样的东西。智能机器能够执行的任务的复杂度正在以指数速度增长。这最终将会将我们带到何处？如果机器人能自己学会如何叠毛巾，那它会不会有一天还能够给你做晚餐、动手术、甚至发动战争？人工智能也许能够很好帮助解决人类面临的最复杂的问题，如治愈癌症和气候变化——但在短期内，它也很可能增强力、隐私、提高推销员的业务效率。除此之外，更大的问题还在我们头上:机器是否有一天会有能力自己思考、对问题进行推理、表达情感？没人知道。智能机器的崛起和其它任何技术都不一样，因为这里最终受到的正是人类自己——我们也许正处在创造一种新生命形式的边缘，这不仅将标志着进化的突破，而且也可能成为我们人类的潜在。

没有YannLeCun的工作，这一切都不可能给——至少不会这么有效。LeCun几乎就是人工智能领域的摇滚明星，他也是早期开发图像识别算法的人工智能研究三人组之一。LeCun从来没有为执法机构工作过，并致力于，但无所谓——技术一旦被发明，总会界上找到它自己的一席之地的。

LeCun正在研究的一个解决方案是将FB上的每件事情都表现为一个向量，计算机就能描绘出一个空间的数据点。「我们用来表达概念，比如图片的典型向量大约有4,000维度，」他说，「因此，基本上，会是一张4,000个代表图片所有情况特征数字的列表。」向量能描绘图片，一份文本或人类兴趣。化约为一个数字，计算机就容易进行搜索和比较。如果用一个向量代表一个人的兴趣爱好，与一张图片的向量匹配，那么，这个人可能会喜欢这张图片。他说，「基本上，这将推理简化为几何结构。」

长久以来，人工智能苦恼于这样的声称：太超前于真实科学。1958年，也是「机」，也即最初所谓的神经网络系统，被引介给，一份认为不久就会产生可以复制和获取意识的「思考机器」。上世纪六十年代，当发明了「人工智能」术语的科学家JohnMcCarthy向五角大楼提出一个新的研究计划，他，大约十年后，就能搭建起人工智能系统。当那并未发生时，该领域在上世纪七八十年代经历了衰落期，也就是人们所知的「人工智能寒冬。」

Abbeel带我走进他的办公室，在那个没有窗户的小隔间里他谈论最近DeepMind所取得的突破；这家人工智能初创公司在2014年以大约4亿美元的价格被谷歌收购。几年之前，DeepMind通过计算机以超出任何人类的水平玩雅达利的《太空侵入者》等视频游戏而震撼了。但其让人惊异的原因是他们并没有将游戏规则编程到计算机中就实现这一目标。这和深蓝(DeepBlue)在国际象棋比赛中打败人类不一样，因为深蓝中已经有编程好的游戏规则。所有计算机都知道它们的目标是取得高分。计算机使用了一种被称为强化学习（reinforcementlearning）的方法，该方法类似于当它在做对了某件事时都会得到一句「好狗狗」的赞扬。通过这一方法，计算机在游戏中胡乱闯荡，自己学习其中的规则。几个小时内，它的游戏水平就已经达到了超人级别。这是人工智能领域的一个重大突破——计算机第一次依靠自己「学会了」一项复杂的技艺。

的贝尔实验室呆了一阵子后，LeCun去纽约大学当了十来年的教授。2013年，扎克伯格邀他加入FB，部分诱饵在于让他保持在纽约大学的兼职教席。马克对我说，「FB十岁了——我们必须考虑下一个二十年：人和数字世界的变成什么样子？」LeCun回忆道。「他让我相信，人工智能会在其中扮演重要角色，而且有办法使用人工智能来调节人类和数字世界的互动会非常重要。当有人告诉你，『白手起家创造一个研究组织』，很难抵制这种。」

特斯拉创始人ElonMusk人工智能的危害。

机器人学实验室（RobotLearningLab）位于大学伯克利分校校园北部边缘的一座光亮的新大楼的第七层，PieterAbbeel打开该实验室的门时说到：「欢迎来到机器人幼儿园。」这是一个杂乱的实验室：自行车靠在墙上，十几个研究生呆在胡乱摆放的小隔间、覆盖着晦涩的公式的白板间。38岁的Abbeel是瘦而强壮的家伙，他穿着牛仔裤和宽松的T恤。2000年他从比利时来到美国，在斯坦福大学攻读计算机科学博士学位，现在他已经成为世界上最重要的理导机器人智能地思考方面的专家之一。但首先，他必须至少要让它们能够「思考」。

谷歌常驻未来学家RayKurzweil已经向大众普及了「奇点（thesingularity）」的想法，其大概定义是硅基机器变得比碳基机器（人类）更智能的时刻，这时候进化的天平也会倾向前者。他曾在几年前的一次技术大会上说:「未来几年，我们的很多思考都会在云中进行。」他甚至还预测了一个奇点的准确时间：2045年。在最近的一次会议上，特斯拉和SpaceX的创始人ElonMusk不假思索地给出了一个评论，称人工智能的发展是「（summoningthedemon）」。尽管他后来告诉我说他的话是言过其实的，他说：「智能机器的兴起带来了一些我们需要考虑的问题，关于我们作为人类到底是什么以及我们在为自己打造怎样的未来。」正如他指出的那样，我们对机器的依赖已然既定：「我们已经是半机器人了。只要试试离开你的手机一段时间——你就能理解幻肢综合症。」（注：幻肢综合症的症状是：截肢或残废的患者感到自己肢体的仍然存在，否认自己有任何残缺；或无肢体残缺的患者发现自己存在第三只手、第腿。）

抛开名字的话，LeCun认为神经网络并不是模仿大脑的一次尝试。「这并不是最新、最伟大、最先进的神经科学发现，」他说道，「这常古典的东西。如果你去建造飞机，可能是因为从鸟能飞中受到了。哪怕你对鸟了解的不多，你也知道它们有翅膀，推动它们飞。但建造飞机和建造一只鸟非常不同。你需要追溯基因定律——但你无法通过研究生物是如何运作的这些细节找出基因定律。」

穿着牛仔裤和Polo衫的LeCun向我展示了实验室里平静专业的氛围。他成长于巴黎郊区，但那里的生活只给他留下一些口音的痕迹。「我所有的身份都着对教的轻视：科学家、、左翼（至少以美国的标准来说是这样的）、大学教授，以及，法国人。」他在他的网页上如此宣城。他有三个孩子，在周末时会一起玩飞机模型。

智能机器在往哪个方向加速？地球的生命花了30亿年时间从软泥中兴起并实现了更高的智能。与此相对，计算机只用了大概60年时间就从一堆硅进化到了能够驾驶汽车横穿整个国家或识别人群中的一张脸的程度。基本上每过去一周，就会有新突破被公布出来：一月份DeepMind透露已经开发出曾击败欧洲围棋冠军的算法，这种古老的中国棋盘游戏远比国际象棋复杂（这个算法名叫AlphaGo，将会在三月中旬与世界冠军过招）。当然，这样的快速进化中也有人类的功劳，但很难说我们已经达到了智能机器进化的某种拐点。我们正站在一个新的诞生的边缘吗？还要多久机器就会比我们更聪明？

并不是说超智能机器就一定会成为超的。「人工智能真正的风险并不是恶意，而是竞争，」物理学家斯蒂芬·霍金近日提出，「一个超智能人工智能将会非常擅长完成自己的目标，如果这些目标和我们的目标不一致，我们就麻烦了。你可能不是一个的蚂蚁的人，不会出于恶意踩死蚂蚁，但如果你正在负责一个水电绿色能源项目，而有一个蚁丘将因此而被淹没，那就只能算蚂蚁倒霉了。让我们不要把人类放到这些蚂蚁的上。」

这些天，你能在曼哈顿下城区的脸书办公室里看到LeCun。在一个篮球场大小的空间里，成排的人们注视着墙上的器。LeCun的人工智能实验室就在房间的一角，手下20个左右的研究员和脸书其他工作人员并没有什么区别。（他的实验室在硅谷与巴黎办公室之间的还雇佣了另外25位人工智能研究员。）LeCun坐在一条长桌的一头，和他的团队们肩并着肩。如果他往窗外看去，就能看到IBM沃森所在那栋大楼。

就人工智能来说，LeCun认为它们「非常遥远」。他这一想法是错误的：智能机器会与人类智能和情感外部特征协同进化。「人类干的很多坏事情源自、繁衍以及避开痛苦的基本需求。没有理由相信机器人也有保存的本能，除非我们将之植入机器人。但是，他们也可能共情，因为我们也会将之植入它们，这样机器人就能与人类合理互动。所以，问题在于，我们要将什么样的低水平需求动力和行为植入机器，让它们变类智能和力量的延伸而不是替代？」

LeCun说，FB人工智能最佳例子之一就是Moments，一个通过面部识别来确认朋友的新应用，你也可以给他们传照片。但是，公司到处采用了不那么先进的人工智能，从扫描图片、收视模式到当你登录时，决定首先给你展示哪位朋友的名片。人工智能也被用来管理FB处理的疯狂数据量。每天，用户上传20亿照片，观看80亿次视频。公式使用了叫工智能编码的技术，根据场景分解文件并给它们的尺寸减肥。成效虽然不是里程碑性的，但大大节省了存储，也提高了效率。

2015年1月，Tegmark组织了首次关于人工智能风险的主要会议（值得一提的是，他是一位物理学家，不是计算机科学家。实际上，发出警鸣声的几乎都是企业家，哲学家，科幻作家以及人工智能研究之外的科学家。）为期三天的会议聚集了这个领域许多顶尖研究人员和科学家，还有马斯克这样的企业家。这是效仿1975年讨论重组DNA技术的艾西洛玛会议，这次会议也被视为讨论合成技术和克隆技术的里程碑式的讨论。根据几位的介绍，2015年会议核心议题之一就是：要走多久我们才会机器智能或超人智能。一方面，有观点认为，比如人工智能先锋吴恩达人工智能超越人类智能是几百年后的事情了；而其他人，比如马斯克和伯克利的计算机科学教授StuartRussel认为这一时刻会更快到来。Tegmark说，会议讨论的中值是四十年。

第二个巨大变革是大数据的来临。机器里的智能，就像人类智能，必须被教授。人类大脑，从遗传上说，首先要进行分类，在它能区别狗和猫之前，仍然需要「」的样本。就机器学习来说，这更是实情。在变得专业之前，DeepMind在围棋和雅达利游戏上的突破需要计算机玩很多次游戏。人工智能的突破，部分受益于世界数据的雪崩，它提供了人工智能所需的教育。巨大数据库，TB的储存量，几十年的研究结果以及整个数字都变成让人工智能聪明起来的老师。

麻省理工学院物理教授MaxTegmark，马斯克未来生活的研究所。摄影：JoshReynolds/Getty

不管书本和电影里怎么描绘人工智能，但人工智能并不是悬浮在某处一箱蓝色液体中的合成大脑。它是一个算法——一种告诉计算机执行什么功能的数学方程式（可以将其看作是机器的烹饪食谱）。算法对于21世纪就像是煤对于19世纪：是我们经济的引擎和我们现代生活的燃料。如果没有算法，你的手机不能工作。也不会有Facebook、谷歌、亚马逊。算法安排航班，然后控制飞机，还能帮助医生诊疗疾病。「如果所有算法突然停止工作，那就会成为我们所知的世界。」PedroDomingos在一个受欢迎的机器学习账号TheMasterAlgorithm中这样写道。在人工智能的世界里，圣杯级的成就是找到能让机器理解这个世界的单个算法——能让物理学家解释运作规律的标准模型（StandardModel）的数字等效。

LeCun说，「如果我给你展示一段短电影视频然后问你接下来会发生什么，你很可能会猜答案。」空中的物体会落下来——你不需要对世界了解甚多就可以预测这个结果。「但是，如果是一桩复杂谜案，我会问你谁是凶手然后描述电影尾声会发生什么，你就需要很多关于正在发生事情的抽象知识。」他说，「预测是智能的精华，如何打造可以观看电影然后告诉下一帧是什么的机器？更别提知道半小时后会发生什么，客体会去往何处，存在客体的事实、世界是三维的事实——我们学到的有关世界物理的每件事（的机器）？」

当然，我们现在已经被智能机器所包围了。当你使用谷歌地图时，算法能根据交通的实时数据和预测分析绘制出最快的线并计算交通延误。当你对GoogleVoice说话时，它识别你的语音的能力建立在某种被称为神经网络的机器学习上，它能将你的话转换成声音比特，并将其与其它声音比较，然后理解你的问题。Facebook通过图像识别程序扫描数十亿张照片，从中识别出斩首视频和露阴照片，将这些不想要的内容排除在网站之外。

机器，最专业的前沿科技和产业服务平台，每日提供优质产业资讯与深度思考，欢迎关注微信号「机器」（almosthuman2014），或登录机器网站查看更多精彩内容。

技术产生恐惧——有时是正当的，有时不是。在工业时期，英国纺织工人捣毁了担心会取代他们工作的机器（事实上也确实取代了）。当电气开始时，人们相信无线电会引发疯狂（并没有）。上世纪五十年代，家庭制造商认为很快就会有核真空吸尘器。

LeCun说，「我们突破了一道墙，知道怎么做视觉了，而且管用，」「好消息是我们知道怎么进行下一步，可能管用。但这就像雾天在高速上行车50迈，某处有一面看不见的墙。此刻我们只是尽兴开车直到没油。」

Jeopardy!冠军KenJennings和BradRutter无助地看着IBM的计算机沃森得分榜。

MIT物理学家MaxTegmark，48岁，锅盖头和孩子般的渴望让他看起来比实际年龄年轻。在他位于附近的两层郊区房子里，起居室零星摆着点家具，墙上挂着鸭子和土拨鼠的图片。身为物理学家和学家，他有古怪的一面。他最为著名的是提出了平行的观点——可能存在数量巨大的，并非都遵从物理。这是一个他承认处在被人们接受的科学的边缘的观点。但是，Tegmark（在他的网站，他用0-20给自己人生最愚蠢的错误打分）用炫目的热情拥抱它。近些年，他已经变成最直率的发言人，人们脱逸的人工智能。

Abbeel笑了，「差不多。」

我说：「这个机器人移动和开始行走的方式——它看起来几乎就像是活的。」

2015年1月，Tegmark组织了首次关于人工智能风险的主要会议（值得一提的是，他是一位物理学家，不是计算机科学家。实际上，发出警鸣声的几乎都是企业家，哲学家，科幻作家以及人工智能研究之外的科学家。）为期三天的会议聚集了这个领域许多顶尖研究人员和科学家，还有马斯克这样的企业家。这是效仿1975年讨论重组DNA技术的艾西洛玛会议，这次会议也被视为讨论合成技术和克隆技术的里程碑式的讨论。根据几位的介绍，2015年会议核心议题之一就是：要走多久我们才会机器智能或超人智能。一方面，有观点认为，比如人工智能先锋吴恩达人工智能超越人类智能是几百年后的事情了；而其他人，比如马斯克和伯克利的计算机科学教授StuartRussel认为这一时刻会更快到来。Tegmark说，会议讨论的中值是四十年。

（转载请注明出处和)

去年夏天，我们坐在他的饭厅里讨论人工智能的危机以及他合伙创立的未来生命研究所（也是机器的合作伙伴之一，注）的工作，这家研究所被描述为「志愿进行研究并外联其他组织来减轻人类面临的风险」。虽然研究所咨询小组里有像是霍金之类的专家，但主要是Tegmark朋友和朋友的一个特别小组，这些人每个月会在他家里碰头一次。研究所由OpenPhilanthropyProject资助，并得到了马斯克的1000万美金的赞助。他们会资助如何最好地发展人工智能研究，并人们先进技术的风险。在我们共度晚餐的几天之后，研究所发布了一篇，而纽约时报和邮报都进行了报道。在中他们道自动化武器的。「如果任何大型军事力量推动人工智能武器的发展，那么全球军备赛势必无可避免，」信中写到。「自动化武器会成为未来的卡拉希尼科夫步枪。」这封信有超过20000人签名，包括科学家和企业家，比如霍金、马斯克、苹果联合创始人史蒂夫·沃兹尼克和诺贝尔获得者弗兰克·维尔切克。

这不是说，智能机器的兴起不是实情，或者说很难想象天网某天会从某些数据点集合中涌现出来。自动化武器，比如能够基于自身面部识别技术以及其他数据进行暗杀的无人机，的确是真的。但是，它们不会到人类。也不可能是这种情况：一些的黑客打算突然制造出一种新算法，赋予金正恩对世界发动终结者之战的能力。这更像是搭建网络本身——仅能随着时间加以完成的事情，不积硅步不足以至千里的事情。正如吴恩达最近告诉我的，「对机器人的担忧如同担忧火星人口过剩——我们会有足够的时间找出解决办法。」

伯克利机器人学习实验室研究人员正在研究机器人

「所以我们把这里叫做机器人幼儿园，」他打趣地说。他将我引见给Brett，一个高达6英尺（约1.8米）的人形机器人，该机器人由非常有名的现在已经停止营业的WillowGarage公司打造。该实验室几年前购买了这台机器人以供实验所用。Brett的意思是「用于解决繁琐任务的伯克利机器人（Berkeleyrobotfortheeliminationoftedioustasks）；它长相友好，大大的扁平脑袋上有一对大大的相机眼睛；它身材矮胖，有装配着夹子的手臂和装配着轮子的脚。目前，Brett没有工作，带着未上电的机器人神秘而的优雅站在实验室中央。临近的地板上放着一个盒子，里面装了Abbeel和学生们Brett玩耍的玩具：一个木锤、一架塑料玩具飞机、一些巨型乐高积木。Brett只是实验室中众多机器人中的一个。在另一个隔间里，一个没有名字的18英寸高的机器人被系在椅子上的吊绳牵拉着。地下室里放着一台工业机器人，它每天都在类似于机器人沙盒坏境中玩几个小时，只是为了看它能自己什么。街对面的另一个伯克利实验室里，一个手术机器人正在学习如何在人类上进行缝合，还有一位研究生在无人机智能地控制自己绕着物体旋转。「我们不想要无人机撞到东西或从天空坠落，」Abbeel说，「我们正试图它们看见。」

Tegmark相信，现在思考这个是重要的，部分原因在于人工智能进步会有多快尚不清楚。可能百年后才能达到人类智能水平。或者只需十年。他类比核能，说，「想想核弹的后果吧，」「当科学家开始研究时，如果已经提前想到了对世界意味着什么并它，现在的世界难道不会更美好吗？或者会不同？」

出于好奇，Abbeel的实验室的研究人员决定使用类似的用于帮助机器人学习游泳、跳和走的强化学习算法进行一项实验。用这个算法来玩视频游戏会怎样？让人惊讶的是，这个被称为信任区域策略优化（TrustRegionPolicyOptimization或TRPO）的算法得到的结果几乎和DeepMind算法一样好。换句话说，TRPO表现出了一种以通用的方式进行学习的能力。「我们发现TRPO能在视频游戏中击败人类，」Abbeel说，「而不只是教机器人走。」

和霍金一样，Tegmark并不相信超级智能机器需要变得才会有。他说，「我们想制造不仅有目标，目标还要与我们的目标契合的机器，」「如果你有一辆带有语音识别技术的自动驾驶汽车，你说『尽快载我去机场』，你打算去机场，但是你会被直升机追逐着赶到机场，结果还吐了。你会说，『那可不是我希望的。』汽车会回答说，『那就是你告诉我要做的事。』」

Abbeel打开一个视频。那是一个机器人模拟器。在打开的框中，可以看到有个机器人倒在黑白相间的格子地板上。「现在记住，这是和视频游戏一样的算法，」他说。机器人被设定了三个目标：尽量走足够远、不要用力踩自己的脚、将身体保持在一定的高度。「它并不知道走是什么，」Abbeel说，「它不知道自己有腿或臂——不知道任何类似东西。它只有一个目标。它需要搞清楚如何去实现它。」