第八四七章 保险

不清楚原理、逻辑，就投入使用，这在以往是不可想象的。

但现在，一切非完全创造性的技术细节，都有强AI代劳，人类才能这样当甩手掌柜。

不论“混沌”中枢，还是“里世界”，人类要彻底研究透彻，都需要很长时间，这也是当下净土民众的钻研方向之一。

活动完回露营地，夜色已深，方然和同伴没打扰睡梦中的女孩们，拖出两条睡袋，铺在柔软干燥的草地上，当然，所谓“干燥”，显然也是虚拟数据的临时调整，甚至不需要当事者下令，就会自动进行。

万籁俱寂，窝在舒适的睡袋里，一睁眼就是深邃的星空，

看上去真的很美。

“里世界”，可想而知，是一处毫无大气污染、光污染也完全受控的所在。

躺在草地上，头一次这样仔细的观看浩瀚星空，方然没心思睡觉，内心揣摩，这会是盖亚上哪一地的夜空景色，还是AI生成的虚幻。

“睡不着，方然？

不会还在回想刚才的一场激战吧，呵呵。”

“那倒没有，不过，这样的活动还挺有趣的，不仅可以体验历史，还可以稍微体会一下，历史事件里那些当事者的心情。”

“是啊，反正我的感受，战争可真不能当做一场儿戏。”

名叫冯云，来自西大陆的男人，无拘无束的向方然说起过往经历，现实世界里，原本应该是九十岁高龄的老者，几十年前一直在西大陆“捕火”地下城做管理员，一直到后来的“蚩尤”失控为止。

再往后，一系列逃亡经历后，幸运的进入“天梦”地下城，

才躲过一劫，直到成为净土的一员。

多年的人生经历中，并未亲历战争，这对旧时代幸存至今的民众而言，司空见惯，一切只因从第三次盖亚大战起，人类的内战形态，就近乎完全演变为无人化、自动化与智能化的机器厮杀，人类参战者极其罕见。

当然，在滨海边疆大区等地，武装力量中仍然留存有一些人类，

但也毕竟只是个案。

过去经历如此，对冯云、乃至许多人而言，一生都没真正经历过战争，无缘直面那生死一线、命运不由自己的疯狂瞬间。

对战争，这世间最残酷之事的理解，也只能局限于大量文字、图象与视频资料。

人，对同一件事，看法因立场不同而大相径庭，这很常见。

今天的净土民众，如何看待过去，如何看待人类的漫长历史，乃至于对其中的每一个历史瞬间，持什么样的态度，这，取决于民众的世界观，又进一步决定了他们会怎样看待现在，又怎样看待未来。

这仅仅是一个人文学科领域的问题吗，

当然不。

风险，在任何历史时期，始终都存在，即便今天的净土，从“里世界”到“盘古”，也只是一系列社会秩序的维持者，而不是人类世界的上帝。

文明2.0也好，未来世界也罢，一切终究要靠人去设想，建设，

因而无法天然规避任何内部破坏。

即便这种破坏，站在方然、或者普通民众的立场上，并没有任何理由，也没有任何动机，也不能一概掉以轻心，甚至认为根本不可能。

这一点，早在萌生退意、计划在适当时间辞去“管理员”职务，并永久性的将这一职位注销时，方然就想过很多，首先，管理员的职位，是不能留，并非他不相信任何人，而是未来世界并不再需要这样的一人决策之体制。

其次，如何才能确保在自己离任后，人类文明的长治久安。

一个人，生活在文明2.0时代，会有什么理由去破坏现有体制，方然委实想不出来，但，他也没有以己度人、直接摈弃这种可能。

不管出于什么动机，一切妨害、破坏乃至颠覆文明现存秩序的行为，都必须有所防范，为此，在接受“意识迁移”之前，方然对“盘古”下达指令，由这一强人工智能负责净土的总体框架，管理社会的方方面面。

而人类，在这一框架内，拥有近乎完全的自-由，唯有一件事是无法做到的，

那就是修改“盘古”的核心逻辑。

拒绝人为修订，这种措施，是可以一劳永逸的杜绝风险，同时也会断绝强人工智能的改进升级之可能，似乎是很不明智的策略。

不过，方然的本意并不是这样，他没有命令“盘古”拒绝一切外来的改进、重构等指令。

之所以出现这样的情况，原因，一点也不复杂，人类无法跟上强AI的思维，就是其绝对无法改进“盘古”根本障碍。

改进，对一切人造之物，似乎都是很寻常的操作，即便功能已臻完美的机器、系统，总归也可以因人的需求变化，甚至只是主观好恶，而进行一系列的改变。

但是对“盘古”这样的强人工智能，情况就完全不同。

“盘古”，脱胎于原NEP大区的“强人工智能研发项目”，一开始必然是人类设计、建造与运营，并长期听从管理员的号令，从这一角度，可以说，功能强大的“盘古”与寻常人造之物并无区别，

一切都可以由人类决定。

但是，与过去一切人类创造之物不同的，是其具有“某种切实存在的自我思维”。

正是这种思维，赋予了“盘古”与众不同的强AI特质，不仅可以解决一般计算机系统能解决的问题，

还能创造性的探索、研究，解决陌生的新问题。

这种能力，或者说，栖居着这种能力的系统，虽然是人一手打造，在开机、持续运行后，却已经事实上脱离了人类的掌控，岂但无法更改（除非断电），就连稍微解析并理解其内部的运作机理，

都完全是一种痴心妄想。

这方面，早在西历十六世纪初，当时的盖亚净土相关机构就有过报告。

当时的“盘古”系统，不论算力、还是预测的“自我意识”深度，都和今日不在一个量级，即便如此，研究者们仍推算，要想切实理解、掌握其一天的工作量，

哪怕忽略转移、解析过程，单组织人力去理解，都需要至少十万人年之巨。8)