第一千零九十章 超级AI（2 / 2）

苍浩点了点头：“继续说。”

“安全部队和警方配备了大量摄像头，方便庞劲东那边掌握战场情况，而这些摄像头的信号全部通过网络传输，矩阵系统侵入进去获取了所有画面。要知道我们人类只有一双眼睛，在同一时间里只能观察和分析一个画面的内容，但矩阵系统却可以多路并行计算，同时分析所有画面的内容。进一步还能把所有画面组合一起，对整个战场态势进行评估……”顿了一下，墨师告诉苍浩：“换句话说，萨瓦区的这场战斗完全处于矩阵系统监控之下，矩阵系统对战场态势的了解超出任何人，不管是正在指挥的庞劲东还是第一线作战的士兵，他们对战场的了解都没矩阵系统这么全面。随后矩阵系统发现两辆武装皮卡车，认为可能会对安全部队构成威胁，所以用雷霆无人机予以摧毁。”

苍浩十分惊讶：“也就是说……这是矩阵系统自主做出的决定？”

“对。”墨师点了点头：“当时没有任何人进行操作，完全是矩阵系统分析战场态势之后，自行作出的决定，而且并没有向任何人通告。”

苍浩听到这些话之后感到非常震惊。

这些年来AI也就是人工智能技术获得飞速发展，已经在很多领域里取得了突破性成果，不过苍浩一直都没觉得跟自己有什么关系，如今却发现AI其实就在自己身边。

很早之前，苍浩和墨师就已经发现，矩阵系统似乎具有了某种自我意识，会在没有下达指令的情况下，自行作出某些决定。

事实上，最早还是黄彬焕发现，矩阵系统经常自己运行一些程序，然后自行生成大量数据。黄彬焕通过进一步研究发现，矩阵系统似乎具备了某种学习能力，通过所获得的各种信息不断进行分析，然后设定最优策略。那些莫名其妙出现的数据，其实都是矩阵系统刷出来的经验。毕竟矩阵系统不是生物，对这台电脑来说一切都是数字，所获得的一切自然也要以数据形式存储。

当时苍浩和墨师都没太往心里去，而矩阵系统此后也没有过多表现出自主意识，仍然老老实实执行大家下达的各种指令。此后矩阵系统的建设还在不断进行，运算能力不断提高、存储能力不断加大。如今的矩阵系统比起先前那个时候，整体能力更是上了几个台阶，这样看起来发生今天这样的事情其实也是正常。

“矩阵系统就是一个超级AI……”墨师缓缓说道：“矩阵系统的实际能力，还有可能造成的影响，已经远远超越人类社会使用的任何AI。普通AI也就是控制某种设备，或者就是跟人类下个棋什么的，跟矩阵系统相比全都是玩具。要知道矩阵系统控制的可是各种各样的武器，是可以杀死无数人的，严格来说矩阵系统并不是武器，而是所有武器的上帝。当然了，AI技术目前在军事领域已经得到广泛应用，M国在这方面是最先进的。但M国也只是在具体某种装备上使用AI，比如战场上的各种智能机器人，而矩阵系统则是凌驾在所有装备之上，包括我们自己的AI装备都要服从矩阵系统的指挥。”

“很多科幻电影和小说，都对人工智能的发展心存担忧，认为有可能会威胁到人类的安全，比如《终结者》系列。我当时认为那只是科幻电影，但这种技术真正出现的时候，我觉得有必要思考一下了……”苍浩缓缓摇了摇头，又道：“如果任凭矩阵系统这样发展下去，是否会威胁到血狮雇佣兵自身，我认为不能过早下断言。”

墨师断然说道：“矩阵系统一切算法的设计都以忠诚作为基本条件，必须忠于血狮雇佣兵，严格服从命令是矩阵系统存在的基础，所以至少从目前看来我不认为矩阵系统会威胁到血狮雇佣兵自身。”停顿了一下，墨师继续说道：“但是，如果矩阵系统真的成为超级AI，由此会产生很多问题，确实需要我们思考。因为这将带来军事上的变革，甚至可能影响到整个世界，一切都将从此变得不同。”

“我觉得你太乐观了，矩阵系统如果真的变成超级人工智能系统，我们是不是能够继续驾驭其实很成问题。”长呼了一口气，苍浩问道：“设想一下，有谁愿意服从于比自己弱小的人呢，如果矩阵系统真的具备了足够的智慧，必然就会产生这样的疑问，为什么自己要服从血狮雇佣兵。接下来，矩阵系统就有可能推翻过去的全部算法，对自我重新进行设定。”

“这个吗……应该不至于吧。”墨师仍然不认同苍浩的观点：“打一个不太恰当的比方，就好比养狗一样，虽然说也有恶犬伤害主人的案例，但多数狗对自己的主人还是非常忠诚的。对于狗来说，忠诚是刻在基因里的，矩阵系统的基因是各种各样的算法，而我对算法的设定就是不可背叛。”

“黄彬焕先前发现，矩阵系统可以自己设计一些算法，难道就不会推翻你原来的设定进行重塑？”

“我认为不会。”墨师缓缓摇了摇头：“我在设计矩阵系统的时候，就已经考虑到将来如果变得超级强大不受控制怎么办，所以做了各种各样的预防工作。”