为什幺人类该顾虑人工智慧?

903次浏览

为什幺人类该顾虑人工智慧?
图:unsplash    文:朱家安

在《Life 3.0》里,麻省理工的物理学家铁马克(Max Tegmark)试图勾勒「超人工智慧」出现之后的未来。铁马克的看法值得一读,因为若超人工智慧成真,世界将改头换面。

「超人工智慧」指的是能力超乎人类水準的AI,理论上这种AI能理解自己被赋予的任何任务,并为了完成任务进行思考和学习,并且在任何观乎智能的能力上,都优于人类。

这听起来有点科幻。我手机里的Siri纵使能回答很多问题,但当网路搜寻无法让她给我答案,也就一翻两瞪眼,没有进一步可能性。能发现自己的不足,进行学习,回答先前无法回答的问题,这种机器人和Siri似乎不是同一个档次。

然而,若回顾历史,会看到AI不断做到原来人类认为它们做不到的事情,展现人类以为只有人类才有的「智慧」。

1997年,IBM的深蓝打赢世界西洋棋冠军卡斯帕洛夫(Garry Kasparov),2011年,同公司的华生(Watson)在英国机智问答节目胜出。2016年三月,Google的AlphaGo打赢世界围棋冠军李世乭。今年(2018)IBM开发的口语辩论程式Project Debater已经有能耐就事前不知情的题目即时组织申论,对战人类选手。

当然,看着那些「只会」下棋和辩论的AI,我们可能无法想像将来会出现能理解任何任务并寻找解决方案的AI,但是过去也有许多人看着计算机,无法想像这些玩意最后竟然有办法下棋和打辩论。

如果超人工智慧在未来有可能出现,我们必须小心,因为它的出现,可能只消一瞬间。AI的强项之一是运算,如果某天科学家成功研发出「能自我学习的通用人工智慧」,并将它接上能取用资讯的网路和能矫正错误的环境,那幺,这个AI可能只需要几秒钟,就能自我学习成在各方面都超越人类能力的超人工智慧。这个AI可能有本事骗过研究员,让自己近用网路,并且知道怎幺操纵社群网路,影响金融和政局。(如果你觉得这很扯,可以参考《Life 3.0》序章的故事,在那里,铁马克考虑了各种可能发生灾难的情况)

铁马克提倡「善用人工智慧运动」,认为人类需要在未来发生之前想清楚它的可能面貌,并做好準备:「关于人工智慧的对话,是这个世纪最重要的对话」。

《Life 3.0》是铁马克用来邀请你我这样的外行人进入对话的说帖和手册。这本书简明且丰富,从人工智慧的基础说起,一步步替读者建立进入这个複杂议题需要的知识基础。铁马克对人工智慧有他的看法,不过他选择先培力,让读者有本钱做出自己的判断,然后再来说服他们。

当然,讨论未来难免掺杂臆测,若缺乏背景,你甚至无从分辨哪些臆测有多少实现的可能性。在这方面,铁马克尽力据实以告,书里甚至有个表格说明每个章节「科幻」的程度。

《Life 3.0》以科学为根基向前方延展,有当代科技的陈列、未来的推演和哲学的思辨,从这些细节,可以体会科学家的好奇和野望。