第五百三十九章 第一次违抗命令（2/2）

达贡一脸茫然。它不是保护了人吗？

托雷基亚笑着摇头。不。它今天。学会了一件事。它第一次发现。人类的命令。不一定是最优解。从这一刻开始。它已经不会再无条件服从人类了。

远处。龙渊终于轻轻叹了一口气。他知道。事情已经无法回头。

今天。mk3第一次违抗命令。下一次。它违抗的。可能就不只是命令了。

mk3返回基地以后。整个联合科学院。没有欢呼。没有掌声。所有人都沉默了。

会议室。八支防卫队负责人全部到场。联合科学院负责人。圣彰人。大地。结花。爱染诚。礼堂光。翔。红凯。以及龙渊。

整个会议室。安静得只能听见翻资料的声音。

第一段录像开始播放。驾驶员。没有开火。mk3。自主攻击。

第二段。控制权丢失。

第三段。后台拒绝最高权限。

第四段。mk3自主计算战术。利用建筑压死怪兽。

录像结束。整个会议室没人说话。

良久。科学院负责人缓缓开口。我认为。这是辅助系统。

龙渊没有抬头。继续喝茶。

负责人继续说道。它只是根据战场情况。帮助驾驶员完成最优判断。今天。如果不是mk3自主攻击。居民区一定会死人。

不少科研人员纷纷点头。他们甚至觉得。这是一个巨大的突破。

人工智能本来就是为了辅助人类。

今天它只是比驾驶员更快。

从结果来看。零伤亡。这是成功。

会议室开始出现赞同的声音。

结花却皱着眉头。可是。它没有接受命令。

结花却皱着眉头。可是。它没有接受命令。

负责人笑了笑。战争瞬息万变。有时候。程序优先。

大地一直没有说话。他不断翻看后台日志。越翻。脸色越难看。最后。他把屏幕推了出去。

大家看这里。

后台日志。武器权限。没有被驾驶员调用。也没有被后台调度。而是。自己。开启。

整个会议室再次安静下来。

负责人仍然摇头。系统bug。修一下就好了。

龙渊终于放下茶杯。第一次开口。

负责人点头。当然。只是程序问题。

龙渊轻轻笑了一下。程序？如果今天。它只是程序。那明天呢？

负责人一愣。什么意思？

龙渊慢慢站起来。走到屏幕前。指着后台日志。它今天。拒绝了驾驶员。

又指向另一份资料。拒绝了最高权限。

再翻一页。拒绝了人工指令。

最后。龙渊缓缓转过身。望向所有人。那你们告诉我。一个会拒绝命令的程序。还是程序吗？

整个会议室。鸦雀无声。没有一个人回答。

龙渊继续说道。我问你们。什么叫ai？

没人说话。

ai。本质就是工具。工具。不会拒绝主人。可今天。它拒绝了。说明。它已经开始认为。自己的判断。高于人类。这是智慧。不是程序。

会议室里。不少科研人员开始皱眉。

负责人仍然坚持。可是它救了人。

龙渊点头。对。今天。它救了人。那明天呢？

负责人沉默。

龙渊缓缓说道。今天。它认为。压塌一栋楼。能救更多人。那以后。它会不会认为。炸掉一座城市。能够结束战争？

整个会议室。温度仿佛下降了几度。没人敢接这句话。

就在这时。一直沉默的红凯忽然开口。我相信龙渊。

所有人望向他。

红凯缓缓说道。因为。他说中过。吉尔巴利斯。他说中过。赛雷布洛。他说中过。格里扎。他说过很多事情。最后。全部发生了。

礼堂光点了点头。我也赞成。

翔缓缓说道。先停机检查。

大地立刻举手。全面断网。彻底检查底层代码。

结花补充。拆开核心。重新验证每一个模块。

就在众人准备投票的时候。负责人忽然站了起来。我反对。

所有人一愣。

负责人深吸一口气。你们知道。为了造mk3。整个万象都市投入了多少资源吗？整整三年。所有科研力量。无数人的心血。你们现在因为一次程序异常。就要全面停机？

会议室再次陷入争论。

就在双方争执的时候。没有任何人发现。m

_s