趣投网

【美国《时代》周刊网站11月5日报道】题：亨利·基辛格最后的神圣战争：阻止危险的人工智能(记者贝琳达·勒斯科姆)

美国前国务卿亨利·基辛格在98岁高龄之际
，有了全新的兴趣点：人工智能。在2016年召开的比尔德贝赫聚会时代
，时任谷歌公司执行董事长埃里克·施密特说服他加入了一场关于人工智能主题的讲座
，让他对此爆发了浓重的兴趣。两人与麻省理工学院苏世民盘算机学院院长丹尼尔·胡滕洛赫尔相助
，撰写了一本令人振奋的新书——《人工智能时代》。书中探讨了人工智能迅速崛起并投入使用所带来的影响
，用他们的话说
，这“预示着人类事务的一场革命”。这本书提出的看法是
，人工智能的历程云云势不可挡
，云云天衣无缝地嵌入人类事务
，并且云云不可预知
，若是没有一定的深谋远虑与妥善治理
，它们将带来的“划时代转型”可能让人类历史走向危险的偏向。

基辛格与施密特一同坐下来接受了《时代》周刊记者的采访
，讲述了他们所展望的未来。

手艺缺乏哲学指导

问：基辛格博士
，您是一位资历深挚的政治家。您为什么以为人工智能对您来说是一个足够主要的主题？

基辛格：我在读大学本科时
，写了一篇300页的论文
，题为《历史的意义》。历史的意义和我们向那里去的主题一直占有着我的生涯。手艺事业并没有让我云云着迷；真正让我着迷的是
，我们正在进入人类意识的新时期。对此
，我们明确得还不敷透彻。

说到人类意识的新时期
，我们指的是
，对天下的认知会有差别
，至少像启蒙运动时期与中世纪之间的差别那么显着
，其时西方天下在从宗教角度认知天下转向基于理性认知天下
，这个历程是非�；郝�。这次
，转变的速率会快一些。

其中有一个主要的差别。启蒙运动时期
，保存一个基于信仰的看法天下。因此
，伽利略和已故的启蒙运动先驱们拥有一套其时盛行的哲学
，他们要在这种配景下磨练自己的头脑。你可以追踪这种头脑的生长演变。事实上
，我们现在生涯的天下没有哲学
，也没有占主导的哲学观。因此
，手艺专家可以为所欲为。他们可以研发改变天下的工具
，但没有人会说
，“我们要把它融入某个工具当中”。

问：您遇到埃里克·施密特后
，他约请您对谷歌员工揭晓讲话
，您说您以为谷歌是对文明的威胁。您为什么会这样想？

基辛格：我不希望哪一个组织垄断信息的供应。我以为
，一家公司能够提供信息
，并且能够凭证它对公众想要什么信息或以为什么样的信息可信所做的研究来调解它所供应的信息
，这是极其危险的。这样一来
，真相酿成相对而言的看法。我其时就是这样以为的。而他之以是约请我与他的算法团队晤面
，是为了让我明确
，这并非专断之举
，在为泛起哪些内容所做的选择背后
，有思索和剖析。这并没有作废我对一个私人机构拥有这种权力的担心。不过
，我正是这样进入这一领域的。

施密特：旅行谷歌的这次履历让他思索。等我们最先谈论这件事时
，基辛格博士说
，他很是担心这批手艺给人类及其生涯带来的影响
，而手艺专家在运用这些手艺时却没有弄明确它们的影响或历史。我以为
，这样的担心是完全准确的。

问：许多人以为您现在或者已往针敌手艺公司所做的事情——让人感受它们并不是真的值得信托
，它们为了改善自身谋划而接纳的许多做法对社会来说未必是好事�Ｋ剂康秸庖坏�
，您以为手艺行业首脑在这个新系统中饰演什么角色？

基辛格：我以为
，手艺公司引领各人进入了人类意识的新时期
，就像启蒙运动时期的几代人在从宗教转向理性时所施展的作用
，而手艺专家正在向我们展示怎样将理性与人工智能关联起来。这在某种意义上是一门差别的学问
，由于说到理性
，也就是我生长的情形
，证据是相互印证的。说到人工智能
，最令人震惊的地方在于
，你得出了一个准确结论
，可是你不知道其中的缘故原由。这是一个全新的挑战。因此
，从某些方面讲
，他们创立的工具是危险的。但它让趣投网文化向前迈进。若是历来没有创立出这种手艺
，我们会不会过得更好？我不知道谜底。不过既然它已经保存
，我们就必需相识它。并且也不可将它根除。我们已经在这上面消耗太多的精神。

人类失去思索能力

问：您以为人工智能兴起所带来的主要地缘政治影响是什么？

基辛格：我以为我们还没有深入研究过这个问题。想象一下
，中美之间爆发战争
，你拥有人工智能武器。和所有人工智能手艺一样
，这种武器对你妄想好的目的能够实验更有用的攻击。但它们攻击自己所认定的目的时可能也很有用。因此
，若是你说
，“A目的是我要攻击的目的”
，它们可能会以为别的什么目的更切合这样的标准。因此
，你身处一个有点不确定的天下。其次
，由于历来没有人真正在大规模军事行动中测试过这些工具
，你无法确切地知道双方的人工智能战斗机爆发互动时会泛起什么情形。这样一来
，你所处的天下可能具有彻底的杀绝性
，你的做法也保存极大的不确定性。

问：以是您担心的是人工智能过于有用吗？尚有我们不可确切知道它们的行为的缘故原由？

基辛格：我这一生大部分时间在研究我所谈论的那些问题；在人工智能这个领域
，我只研究了四年。“深度思索”盘算机通过和自己对弈
，只用四个小时就学会了下棋。它还下了一盘人类从未见过的棋局。我们现在最好的盘算机也执偾无意能击败它。若是这种情形爆发在其他领域
，而这是一种一定
，同时也是现实
，那可是一件大事
，而趣投网天下基础没有为此做好准备。

问：这本书提出
，由于人工智能历程的推进速率极快
，有人担心人类有可能失去思索、构想和反思的能力。怎么来看待这种担心？

施密特：我们已经从念书转酿成听书
，再到既没时间看
，也没时闻思索、没时间讨论的田地
，由于别的工具正应运而生。因此
，我以为这种时间和信息的加速简直凌驾了人类的能力。这是势不可挡的
，各人在诉苦这一点；他们着迷其中
，他们无法思索
，连单独用饭都做不到了。我以为人类不是生来就可以应对这样的时势。这让压力激素水平之类的工具激增。以是
，在极端情形下
，信息过载很可能逾越我们处置惩罚正在爆发的种种事情的能力。

我一直谈到
，在这本书中也提到的一点是
，你会需要一名助手。就你而言
，你是一名记者
，有一大堆事情要做
，你会需要一台盘算机助手
，它会对你说：“这些是当下要做的主要事项。这些是需要思索的问题
，搜索一下历史纪录
，会让你越发高效。”现在的问题是
，你已经很是依赖这种人工智能系统。我们在书中也说了
，谁来控制人工智能系统的所作所为？它有私见怎么办？怎样对泛起的情形加以调控？尤其是对年轻人而言
，这是个很是令人担心的地方。

若是武器自动发射

问：您在书中谈到的一点是
，人工智能有好的一面和坏的一面。这要表达什么意思？

基辛格：我们要说的是
，它可能确实会带来很是大的收益。它可能也是可以管控的。但在对某些方面加以治理上
，还保存我们尚未开展研究或者研究得不敷透彻的地方。我仍然感应担心。我阻挡由于这个缘故原由就说我们必需除掉这种手艺。它现在已经保存了。重点之一是
，我们以为应该创立某种哲学来指导这方面的研究。

问：您会建议由谁来形成这种哲学？下一步要做什么？

基辛格：我们需要由一些规模不大的整体来提出问题。我在读研究生时
，核武器是新生事物。其时
，哈佛大学、麻省理工学院和加州理工学院一些忧心忡忡的教授会在许多个周六下昼碰头
，表达自己心中的疑问：谜底是什么？我们该怎样应对？最后他们有了军备控制的想法。

问：这些整体需不需要在规模上做到国际化？需不需要在团结国的支持下做这项事情
，照旧在其他什么人的支持下？

施密特：这些事情通常的运作方法是
，有规模相对较小、相对精英的群体一直在思索这个问题
，他们需要实现对接。好比
，现在有牛津大学的人工智能与伦理战略团队
，这是很好的实验。天下各地零星保存这类小规模整体。我相识到中国也有一定命目的此类整体。但这些整体没有实现对接；这只是个最先。以是
，若是你信托我们所信托的工具
，也就是说十年后
，人工智能手艺会变得异常强盛
，那么我们最好从现在就最先思量这种手艺所带来的影响。

我给你举个我最喜欢的例子
，与军事准则有关。一切都变得更快了。我们不希望看到的时势是
，武器会基于它们自己对时势的剖析而自动发射。

基辛格：由于实验攻击的武器可能比人脑的剖析速率更快
，于是泛起了恶性循环。你很想让武器变得自动
，但你又不想让它过于自动
，自动到可以凭证你或许无法做出的判断来接纳行动。

施密特：以是
，目今各个大国之间没有就这一点睁开讨论。不过
，这是显而易见的问题。我们围绕人类速率可及的事物睁开了大宗讨论�？墒�
，当一切爆发得太快
，凌驾了人类的速率时
，该怎么办？我们需要就某种上限
，相互的设限告竣一致
，需要就这些系统的最高运行速率告竣一致
，由于不这样的话
，我们会陷入极其不稳固的时势。

阻止手艺遭到滥用

问：可以想见人们会以为很难接受您会有这样的看法。由于谷歌之以是这么乐成
，就是由于它能够提供那么多信息
，并且速率那么快。许多人会说
，你们着实对这个问题的泛起起了推波助澜的作用。

施密特：是的
，我感应忸怩。我们建设了很是非�？斓钠教�。有时它们的速率凌驾了人类能够明确的领域。这是问题所在。

问：我们有过领先手艺一步的时间吗？我们不是向来都在新手艺到来后才有反应吗？诚然
，我们不明确正在爆发的事情�？墒侨嗣堑背跻膊幻魅肺裁捶�
，灯会亮起来。出于同样的原理
，许多人并不担心人工智能的到来。

施密特：我很是担心所有这些手艺遭到滥用。我当初没有推测政府会使用互联网来干预选举。我从未想过会有这种事。我错了。我没想到互联网会云云糟糕地被用来推动反疫苗运动。我没有实时行动。我们下一次不会错过。我们会事先有所行动。

基辛格：若是你提前知道会是这种情形
，你会怎么做？

施密特：我不知道。我原来可以接纳差别的做法。若是我十年前就知道
，我原来可以打造差别的产品。我可以用差别的方法游说。我可以用差别的方法发演出讲。我可以在事情爆发之前给人们敲响警钟。

本文摘自于参考新闻