最后的大宋
繁体版

第十七章 三原则

    回头,马森仔细一想,今天怎么有点阴谋的味道,把小苗抓过来一问,小丫头就老实交代了,全是灵灵帮她出的主意。

    马森心中惨嚎一声,自己怎么忘了,智能那可是满满的套路啊!

    智能虚拟人三大原则:

    第一条就是不许损害主人的利益。

    第二条就是要逐次服从最高权限者的命令。

    第三条是无论任何情况下,都不可伤害人类。

    还有最重要的原则,当前两条与第三条相互冲突时,以第三条原则为准。

    当人类创造出智能机器人后,就将这三条原则都烙印在所有的芯片内。

    “主人,你的指责是无理的,首先,以第三条原则,我的做法无可厚非,因为其他的选择,都会对小苗、晓琳造成伤害,第二,对你来说,我的做法最终是对你有利的,因为她们在你的内心占有很重要的地位,”对于灵灵有条有理的回答,马森无法反驳。

    妖孽啊,马森泪奔。

    小苗已经成为妖孽,因为她修炼有成,云曦准备收她为剑门弟子。

    什么是真气,自己连门都还摸到,小苗就修炼出了少许真气。

    问灵灵,她的回答更令人生气,什么“对这一领域,人类科学还无法做出满意答复。”

    马森悲催的预感到,有灵灵在,小苗、晓琳肯定会成为妖孽的。

    至于云曦,可能她因为年长,也或者因为她剑门掌门的地位,已经有了自己的处世之道,也许不会有太大的变化。

    三原则,前两条可以说是智能机器人的本能,而第三条则是人类最主要的决定,就是让智能虚拟人远离人类的战争。

    在二十世纪,有一部科幻电影,M国的人工智能系统——战争主动防御系统,他们给它起名“天网”,由于天网有自主学习能力,在战争中,天网不断学习,竟然自主有了****的***思想,于是,它发动了对人类的战争,因为它自动链接核武库和无人机作战军团,所以战争是一面倒的,于是,人类文明毁灭了,人类世界毁灭了,这部电影就叫《毁灭者》。

    想想智能机器人的恐怖:

    1995年,智能虚拟人“深蓝”击败国际象棋世界冠军卡斯帕罗夫。

    2014年,在号称变化多的像宇宙一样的智力游戏围棋上,智能虚拟人“阿尔法狗”横扫所有的人类顶尖高手,当时号称人类围棋世界第一人的那位被打的落花流水,竟然对阿尔法狗产生了深深的恐惧。

    自那以后,类似的事情还有很多很多·······

    马森承认自己要是面对灵灵,战争成功的可能几乎可以忽略不计,幸好,人类的先哲订立了三原则。

    国际象棋在西方文化中有着很高的地位,被称作智力游戏中的王冠,国际象棋世界冠军被誉为人类智力第一人的称号,可是他被深蓝打败了,这意味着什么?

    于是第一个在智力上打败人类的智能虚拟人深蓝被他的创造者销毁了。

    同样,在东方文化中,围棋也具有很高的地位,几乎达到“道”的境界,但称围棋为智力游戏的皇者,是无可厚非的,可也被智能虚拟人阿尔法狗横扫。

    人类成为地球的主宰,除了靠智慧,还能有什么?

    可现在在智力上却被智能虚拟人超越,细思极恐。

    马森深思后,决定灵灵不再让其他人知道,只局限于云曦、唐晓琳、小苗三人,要是被别有用心的人得到灵灵,他不敢想象那样的后果。

    幸亏唐晓琳将灵灵当作禁忌的所在,幸亏唐晓琳、小苗、云曦值得信赖。

    他的决定得到唐晓琳的全力支持,小苗当然听哥哥和姐姐的,云曦也认为像灵灵这样的存在,越少人知道越好。