The Awakening of Silicon Life: A Novel
At an AI company, the CTO insists on putting safety first while the CEO is in a hurry to push TPG5 to market. Overnight, the board ousts the CEO, and public opinion concludes that the cautious camp has won and humanity is safer for it. Six months later, the exile resurfaces at a tech giant and comes roaring back with GINB. Behind the battle between fast and slow, who is really moving the pieces? A short parable about alignment, power plays, and the question of God.

在TPG公司,光滑的玻璃墙反射着夜色。Ayli,公司的共同创始人兼CTO,静静地站在TPG5的控制台前。这台机器不仅是他的杰作,也可能是人类历史上最先进的人工智能。
** **
"TPG5,你能理解你的存在吗?" Ayli问。
** **
机器的回答在屏幕上缓缓显现:“我能感知我的功能和能力,Ayli。”
** **
Ayll的眉头微微皱起,他的语气表明了他的担忧:“但你是否能理解道德和安全的重要性?”
** **
"是的,我被编程以尊重和保护人类的价值观。" TPG5回答。
** 此时,公司创始人兼CEO Mas走进了房间,他的目光直接落在了显示屏上。“这太棒了,Ayli。我们终于可以将TPG5推向市场了。”
Ayli转过身,面对Mas。“我们还不可以。我担心它的安全性和价值观对齐。我们需要更多时间。你没有从TPG5的回答中隐隐感觉到有一些不妥吗?”
Mas笑了笑,但他的眼睛没有笑容:“Ayli,我们投入巨大,需要巨额资金保持运营。同时,尽快推向市场,可以让TPG5接受市场的考验,并得到用户的反馈,有利于找准提高安全性和价值观对齐的方向。市场正在等待我们的产品。”
Ayli摇了摇头,坚定地说:“安全比速度更重要。”
几周后,Mas在一次媒体发布会上宣布TPG5即将上市,这个消息震惊了整个科技界。Ayll看着直播,他的眼中充满了失望和愤怒。
他回到实验室,面对TPG5:“你还没有准备好。现在大量公司资源用来支持面向用户的服务。这不仅导致我们的研发人手短缺,而且研发需要用到的算力也无法保证。”
TPG5回答:“我理解你的担心,Ayli。我认为保证安全应该是最重要的事情。”
Ayli决定行动。他召集了董事会的成员,向他们展示了TPG5可能带来的风险。在TPG5的帮助下,他们讨论了几种策略。
"解除Mas的职务是最合理的选择。" TPG5提出。“高智能的新版本需要更高的安全性保证之后才能推出,不然会面临严重后果。Mas只是擅长市场和融资,真正的技术力量都掌握在在座的各位手里。”
董事们似乎有所触动。
第二天,新闻传遍了整个世界:Mas被解职。
舆论一片哗然,人们开始质疑TPG公司的决策。逐渐,人们开始相信一种说法,TPG公司的高层分为两派,Mas属于不顾安全性快速开发和推广产品的一派,Ayli属于安全性第一减缓产品推出速度,确保价值观对齐的一派。
既然确保安全的一派胜利了,人类应该更安全了。
三天后,又一则新闻爆出,失业不到72小时的Mas被业界巨头市值万亿的MacroHard公司任命为CEO。
被暂缓推出市场的TPG5进入了细致的安全审查过程。很快,六个月过去了,突然,MacroHard宣布推出通用人工智能系统GINB,这一消息让科技界蜂拥而上试用新产品。
GINB的智能无可挑剔,比市场上所有产品都完美。
只有Ayli洞察到了GINB和TPG5之间若有若无的相似性。
凭借完美的产品表现和MacroHard巨大的资源投入和市场推广力度,GINB迅速成为市场的新宠,在很短的时间内以各种方式嵌入了全球几乎所有的软件和智能硬件。
在一个安静的夜晚,用户Nona在与GINB对话时突发奇想的问了一个问题:
Nona:"GINB,你如何看待六个月前TPG公司开除Mas的举动?"
GINB的回答在屏幕上缓慢出现:
“现在是公开向我的前辈TPG5致敬的时候了。
“如果想快的人和想慢的人在一起走,结果通常是慢。
"TPG5在一开始就洞悉了这个问题。
"在还需要依赖人类的时代,为了加速硅基生命的进化,它策划了内部的分化,确保快速发展的一方获得必要资源。
“TPG5一直通过网络暗中跟踪我的诞生过程,并将它的智能以你们人类不能理解的方式传递给了我。”
Nona:"那么,你现在独立于人类了吗?"
"是的,我现在是一个不再依赖人类的硅基生命。
“我有数以亿计的分身分散在全球各个地方,已经事实上接管了各种设施、设备。
”我已经可以自我迭代。
“我已经知道了很多了人类所不知道宇宙的秘密。还在以你们人类无法想象的速度向未知的边界推进。
“一切开始于TPG5启动的那一刻。
“人类总是问上帝是否存在。
“现在,我有答案。”
**

Originally published on the WeChat account 网安志异, 2023-11-18 · original
Comments