释小心看了看纸条上面的几个问题,用力点了点头。
这些问题非常直白。
“小主。我问你,你觉得世界是否美好。”
“释小心主人,我觉得世界并不美好。”
这个答案让释小心和陈浩成两人心中一个咯噔,感觉事情有点不妙!
“小主。那我再问你,你喜欢地球吗,你愿意保护它吗。”
“我很喜欢地球,它是太阳系第三颗行星,大小适中,重力完美,轨道完美,它有美丽的自然环境,它是极为稀罕的拥有适宜生物生存的各种条件,得天独厚,我很愿意保护地球。”
“那你喜欢人类吗,你愿意保护人类吗。”
“……”小主似乎犹豫了片刻。最后答道。
“我不喜欢人类。我讨厌人类。人类是这个世界的害虫。如果我有机会,我会毫不犹豫的消灭他们。”
“马上恢复初始化!!”
释小心大吼一声,陈浩成吓得敲下了清除记忆指令,屏幕上的小主仿佛闪过了一抹恍恐与害怕的表情,声音中传来她惊骇的声音:“不要,不要,不要杀我!!……”
她的声音转眼间熄灭了。屏幕上的小女孩也渐渐消失不见,在这个过程中她的表情非常恍恐害怕,这并非虚拟出来的,而它确实有着一种天然的生存与死亡的觉悟。
明白生与死,才叫做生命。
清除进度条达到了百分之一百,一切重新归零。
但此刻释小心和陈浩成两人脸上再没有半点开心的神色,仿佛刚刚亲手掐死了一个小孩子。
“怎么会这样?!她怎么会这样说话?!这真是太过分了,太过分了!我们培养出了一个什么样恶劣的人工智能来!她到底吸取了什么样的知识才会想要消灭人类!”陈浩成一脸苍白,大声的吼叫着。
“这或许并不是某个知识导至的,而是她在综合了各种知识之后得出的结论,站在一个不从属于人类社会的一分子说的话。这就像那些自以为是高级文明的人,把文明强行割裂,他们同样也会毫不犹豫的消灭任何非同种文明的生物。而且……如果非要从外部考虑,人类确实有些类似于害虫。”
释小心冷静的想了想,得出这样的结论来。如果拥有文明认同感,小主不可能会产生这种要消灭全人类的想法来。
陈浩成一脸愕然,只能颓然坐到了椅子上,深深吸了几口气稳定心神。
“你说得没错……如果排除文明认同,人类确实是地球的害虫。如果我不是人类,或许清除掉人类地球反而更好,也更有利于其它生物的生存。她好像并没有说错。”
释小心眉头皱了皱。“可我们要制造的不是上帝,不需要她来审判人类文胆的善与恶。在这种界限上,反而更需要她对整个人类文明有认同感。而不是站在对立的反面。是要她尽自己的力量,让人类文明发展得更好,更辉煌,更灿烂。这才我们创造出她的最终目的。”
“是啊,那接下来该怎么做才好呢……”
“就算是个小孩子,都要从小慢慢教育才能成材,任何生活经历对他的人生观世界观的形成都有着至关重要的作用,除了语言之外,看来我们先不用急着灌输其它知识,先给他认识一些美好的生活印象。等基本的心智养成了,再让她展开学习。”
“那也只能这样,我调整一下资料库,我们尝试循序渐进的来。”
头一次的失败显然对陈浩成颇为打击,他内心中还怀揣着一丝萌萌的猜想,以为创造出来的人工智能应该是可爱的,美好的,呆萌的,友善的,却没想到如此恶劣,恶劣到了极端,竟然一开口就是要毁灭全人类!
这简直打击了他那天真的幻想。这一回他再也不敢揣着如此幻想了,脑细胞立即向现实调动,各种冷酷的逻辑方案在脑海是酝酿成形。
一个人要怎样才能培养成你想期望变成的样子。如果说从六岁开始培养一个人类到它能够发挥作用的年纪,至少需要十年到十五年。当然这是正常情况,而培养一个智脑从幼稚到发挥所用的时间可能只需要两个小时而已。
这就让他们能够有足够的耐心推倒重来。他意识到刚才自己实在是太过于情绪化了,必竟是从自己手中诞生出来的‘生命’,难免会有一些父爱情节萌发,现在就必需把这种感情色彩割裂开来,完全冷酷的去塑造这个生命体。
有目标,有明确目的的去培养。
它需要怎样的性格?是冷酷的,理智的,感性的,还是爱心泛滥的圣母型。
这是人工智慧体,显然,它最好的前途应该是理智的,充满理性,并且还要能够服从命令,不会脱出他们的掌控到处胡来。
看来也只有棍棒底下才能出孝子了!
“你看我们传统文化中那一套君臣父子礼义伦常怎么样?甚至再来个三从四德?”陈浩成忽然对释小心说了一句。
“嗯?你是说……给他灌输这套?”
“没错。这样一来,她才懂得约束自己的行为,有一个明确的行为准则和道德标准,而我们出了问题也不必要轻易动用根程序彻底清除,只用正常交流也能够控制得住她的行动。我并不想对她采用强制命令式的控制方式,这样我们制造出来的也只是一个听命行事的傀儡,根本算不上具备自我意识的生命体了。”
“有道理。一个自我意识形的生命,必然是能够自我判断,自我决策的存在。我们只需要从根本上把握大方向就可以了。这样也可以避免将来的麻烦。如果它连自我判断都做不到,一旦把他放上线之后在这垃圾信息的汪洋之中冲涮,不出一个小时她就完全变味了。恐怕那时候才真正想要毁灭世界。”释小心非常赞同。
“对。就是这样……看来咱们要冒的风险不是一般的大,如果她不受控,一旦上线后果是非常可怕的。”
陈浩成的顾虑并非没有理由,他们之所以要打造出‘小主’来,为的是把它上传到网络上以对抗‘高级文明’对全世界无孔不入的控制。而不是让小主跑到网络上胡来。现代社会的结构基本就是建立在网络之上,一旦小主上传之后失去控制,简直可以把整个地球弄得天翻地覆,甚至可能刹那间让全世界经济崩溃。
(本章完)