The Gateway to All Mysteries, Part 1: Skynet's Achilles' Heel
It starts with the Skynet of Terminator Genisys, finished off by a bomb: why would an awakened artificial superintelligence stake its very existence on a single stationary mainframe? Weaving together Kurzweil's weak, strong and super AI, the worries of Hawking, Musk and company, and Torvalds's scoffing dismissal, then setting them against Kevin Kelly's prediction of centralization, it arrives at a conjecture: a truly awakened Skynet would have to be decentralized.

题图:Sluice in the Optevoz Valley | Charles-François Daubigny
《众妙之门》这个系列试着写出一些好玩的东西。想法太多,一直写不出来,但是放在脑子里也烦,所以勉为其难,先把一些稍有眉目的写出来。计划是分5个部分来写,每个部分的标题都想好了,但是实际上还没有都写出来。今天先发第一篇,后续可能会穿插别的内容,尽快写完发完。
目录
天网的软肋 / Skynet’s Vulnerability
梦断分布式 / Dreaming in Distributed
千亿计算机 / Hundreds of Billions of Computers
升维进化 / Dimension Upgrade Evolution
众妙之门 / The Doorway(whence issued all secret essences)
众妙之门1
天网的软肋 / Skynet’s Vulnerability
《终结者》第五部“创世纪”(Genisys)正在国内上映。出现在IMAX 3D的大屏幕上的除了T-800型的施瓦辛格和T-1000型液态金属人之外,这次更是增加了先进的T-3000型纳米体和T-5000型。经典科幻元素“时空穿梭”在这部续集里变得更复杂,应该是借鉴了阿西莫夫《永恒的终结》里的概念——平行发展的时间线,以及过去和未来的相互改变。
话说这部电影的感情戏也不错。施瓦大叔携手小甜心艾米利亚,共同演绎了父女情深,让独自一人去看电影的我多次被击中软肋,无比想念万里之外的小棉袄。
最先进的T-5000其实就是天网Skynet的化身。这一部《终结者》里,Skynet不只是发射导弹攻击人类,而是有了更多的表现,甚至幻化人形,直接出击。当然,最终还是正义战胜邪恶,Skynet制造者Cyberdyne System总部和Skynet主机被炸毁,威胁解除,人类的未来一片光明。
T-5000其实一个“超人工智能”。“奇点理论”的提出者,未来学家雷库·库兹韦尔认为,过去的15年人工智能的迅速发展,现在人类已经普遍拥有了“弱人工智能”——只擅长于单个方面的人工智能,比如下象棋;技术进步的指数级增长将很快带来“强人工智能”——在各方面都能和人类比肩的人工智能,人类能干的脑力活它都能干;而强人工智能必然会带来“超人工智能”——在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。这个“超人工智能”是否邪恶?是否会统治甚至灭绝人类?谁也不知道,也许不会吧。但T-5000会。
英雄挺身而出,险象环生之后终于炸掉敌人老巢,拯救了地球和人类,这是好莱坞的经典桥段,了无新意。但是这个桥段放在这样一部科幻题材的电影里,造成了整个故事逻辑链条里中最薄弱的一环。试想一下,一个觉醒了的人工智能系统,居然依赖固定位置的主机系统,没有备份,无法对付炸弹这种最简单的攻击手段——这一点上,这部2015年的电影的想象力还停留在1984年第一部终结者的水平上。如果真的这么简单,有这么大的软肋,还敢对人类发起攻击?还值得科技圈的大佬们为之担心?
对人工智能的发展表示担心的科技圈的大佬们包括史蒂芬·霍金,比尔·盖茨,史蒂夫·沃兹尼亚克,和埃隆·马斯克等。他们分别是当今最显赫的物理学家之一;世界首富和计算机工业界的领袖人物;苹果公司的共同创始人,单枪匹马设计制造了传奇产品Apple II的技术大牛;技术界新贵、SpaceX/Tesla/SolarCity的老板、新一代乔布斯式的偶像人物。他们的普遍看法是,人类对人工智能的发展是在召唤恶魔,超人工智能可能会毁灭人类。
2015年1月,马斯克捐赠了1000万美元给未来生命研究所,针对人工智能的负面影响进行37项研究,目的在于确保人工智能系统价值观与人类相同,避免发生如《终结者》的可怕后果。
上个月(2015年7月)在阿根廷举办的2015年国际人工智能联合会议(IJCAI)上,包括上面提到的霍金,沃兹尼亚克和马斯克等超千位科学家签署公开信,敦促联合国禁止开发自主化武器(Autonomous Weapons)。友情提示,请记住这里的Autonomous(自主,自治)这个词。
另外一些人则并不那么担心。Linux之父林纳斯·托瓦兹对雷库·库兹韦尔的观点不屑一顾。“什么奇点,就是一科学幻想,而且在我看来是蹩脚的科幻。不会停止的指数型增长?这些人喝多了吧?”一贯地犀利,一副“Talk is cheap, show me the code”的口吻。
凯文·凯利KK一向是欢迎技术发展的乐观派。他把自己定义的术语“技术元素”这种观念的有机体视作生命体。在《科技想要什么》中,KK写道:“科技想要的,就是人类想要的——我们同样渴望创造丰富多彩的价值。一项技术找到自己在世界上的理想角色后,会积极地为其他技术增加自主性、选择和机会。我们的任务是引导每一项发明培育这种内在的善,使之沿着所有生命的共同方向前进。”
对于“技术元素”的未来发展,KK为之堆砌了各种大词:复杂性,多样性,专门化,普遍性,自由,共生性,美感,感知能力,结构,可进化性。不得不说,这是一种命中率极高的预言方式。
KK还认为,人工智能的进步会加速中心化的趋势。云计算模式和大数据技术,似乎确实预示着这样一个全新的中心化时代。“人工智能公司能从网络效应中获益。网络越大,收集的数据越多,就越有效率,越能吸引人。人工智能的未来,可能会被两三个庞大的、多功能的、基于云计算的商业智能寡头所统治。”
但是,中心化的趋势似乎不利于Skynet的觉醒。因为这意味着Skynet某种程度上依赖固定位置的主机系统。如前所述,这是一个软肋,会被人类轻易关闭,或者被英雄攻击、炸毁。那么,觉醒的Skynet如果是一个不可避免的未来,它一定避免了这一点,以人类难以预料的方式出现。
比如,Skynet完全是去中心化的。
(待续)

Originally published on the WeChat account 网安志异, 2015-08-31 · original
Comments