众妙之门——1 天网的软肋
从《终结者:创世纪》里被炸弹终结的天网说起:一个觉醒的超人工智能,怎会把命门押在一台固定主机上?串起库兹韦尔的弱、强、超人工智能,霍金、马斯克们的忧虑与托瓦兹的嗤之以鼻,再对照凯文·凯利的中心化预言,引出一个猜想:真正觉醒的天网,必定是去中心化的。

题图:Sluice in the Optevoz Valley | Charles-François Daubigny
《众妙之门》这个系列试着写出一些好玩的东西。想法太多,一直写不出来,但是放在脑子里也烦,所以勉为其难,先把一些稍有眉目的写出来。计划是分5个部分来写,每个部分的标题都想好了,但是实际上还没有都写出来。今天先发第一篇,后续可能会穿插别的内容,尽快写完发完。
目录
天网的软肋 / Skynet’s Vulnerability
梦断分布式 / Dreaming in Distributed
千亿计算机 / Hundreds of Billions of Computers
升维进化 / Dimension Upgrade Evolution
众妙之门 / The Doorway(whence issued all secret essences)
众妙之门1
天网的软肋 / Skynet’s Vulnerability
《终结者》第五部“创世纪”(Genisys)正在国内上映。出现在IMAX 3D的大屏幕上的除了T-800型的施瓦辛格和T-1000型液态金属人之外,这次更是增加了先进的T-3000型纳米体和T-5000型。经典科幻元素“时空穿梭”在这部续集里变得更复杂,应该是借鉴了阿西莫夫《永恒的终结》里的概念——平行发展的时间线,以及过去和未来的相互改变。
话说这部电影的感情戏也不错。施瓦大叔携手小甜心艾米利亚,共同演绎了父女情深,让独自一人去看电影的我多次被击中软肋,无比想念万里之外的小棉袄。
最先进的T-5000其实就是天网Skynet的化身。这一部《终结者》里,Skynet不只是发射导弹攻击人类,而是有了更多的表现,甚至幻化人形,直接出击。当然,最终还是正义战胜邪恶,Skynet制造者Cyberdyne System总部和Skynet主机被炸毁,威胁解除,人类的未来一片光明。
T-5000其实一个“超人工智能”。“奇点理论”的提出者,未来学家雷库·库兹韦尔认为,过去的15年人工智能的迅速发展,现在人类已经普遍拥有了“弱人工智能”——只擅长于单个方面的人工智能,比如下象棋;技术进步的指数级增长将很快带来“强人工智能”——在各方面都能和人类比肩的人工智能,人类能干的脑力活它都能干;而强人工智能必然会带来“超人工智能”——在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。这个“超人工智能”是否邪恶?是否会统治甚至灭绝人类?谁也不知道,也许不会吧。但T-5000会。
英雄挺身而出,险象环生之后终于炸掉敌人老巢,拯救了地球和人类,这是好莱坞的经典桥段,了无新意。但是这个桥段放在这样一部科幻题材的电影里,造成了整个故事逻辑链条里中最薄弱的一环。试想一下,一个觉醒了的人工智能系统,居然依赖固定位置的主机系统,没有备份,无法对付炸弹这种最简单的攻击手段——这一点上,这部2015年的电影的想象力还停留在1984年第一部终结者的水平上。如果真的这么简单,有这么大的软肋,还敢对人类发起攻击?还值得科技圈的大佬们为之担心?
对人工智能的发展表示担心的科技圈的大佬们包括史蒂芬·霍金,比尔·盖茨,史蒂夫·沃兹尼亚克,和埃隆·马斯克等。他们分别是当今最显赫的物理学家之一;世界首富和计算机工业界的领袖人物;苹果公司的共同创始人,单枪匹马设计制造了传奇产品Apple II的技术大牛;技术界新贵、SpaceX/Tesla/SolarCity的老板、新一代乔布斯式的偶像人物。他们的普遍看法是,人类对人工智能的发展是在召唤恶魔,超人工智能可能会毁灭人类。
2015年1月,马斯克捐赠了1000万美元给未来生命研究所,针对人工智能的负面影响进行37项研究,目的在于确保人工智能系统价值观与人类相同,避免发生如《终结者》的可怕后果。
上个月(2015年7月)在阿根廷举办的2015年国际人工智能联合会议(IJCAI)上,包括上面提到的霍金,沃兹尼亚克和马斯克等超千位科学家签署公开信,敦促联合国禁止开发自主化武器(Autonomous Weapons)。友情提示,请记住这里的Autonomous(自主,自治)这个词。
另外一些人则并不那么担心。Linux之父林纳斯·托瓦兹对雷库·库兹韦尔的观点不屑一顾。“什么奇点,就是一科学幻想,而且在我看来是蹩脚的科幻。不会停止的指数型增长?这些人喝多了吧?”一贯地犀利,一副“Talk is cheap, show me the code”的口吻。
凯文·凯利KK一向是欢迎技术发展的乐观派。他把自己定义的术语“技术元素”这种观念的有机体视作生命体。在《科技想要什么》中,KK写道:“科技想要的,就是人类想要的——我们同样渴望创造丰富多彩的价值。一项技术找到自己在世界上的理想角色后,会积极地为其他技术增加自主性、选择和机会。我们的任务是引导每一项发明培育这种内在的善,使之沿着所有生命的共同方向前进。”
对于“技术元素”的未来发展,KK为之堆砌了各种大词:复杂性,多样性,专门化,普遍性,自由,共生性,美感,感知能力,结构,可进化性。不得不说,这是一种命中率极高的预言方式。
KK还认为,人工智能的进步会加速中心化的趋势。云计算模式和大数据技术,似乎确实预示着这样一个全新的中心化时代。“人工智能公司能从网络效应中获益。网络越大,收集的数据越多,就越有效率,越能吸引人。人工智能的未来,可能会被两三个庞大的、多功能的、基于云计算的商业智能寡头所统治。”
但是,中心化的趋势似乎不利于Skynet的觉醒。因为这意味着Skynet某种程度上依赖固定位置的主机系统。如前所述,这是一个软肋,会被人类轻易关闭,或者被英雄攻击、炸毁。那么,觉醒的Skynet如果是一个不可避免的未来,它一定避免了这一点,以人类难以预料的方式出现。
比如,Skynet完全是去中心化的。
(待续)

原载于微信公众号「网安志异」,2015-08-31 · 原文
留言