大明1805
繁体版

第六二一章 机器不是生物。

    朱靖垣考量了许久,最终说出了一句话:

    “我也许是错误的,大家也许都是错误的。

    “但是做研究,本来就应该大胆假设,小心求证。

    “如果我还是皇帝,我会让工匠做好能做的最完善的准备。

    “然后去尝试具有更多可能性的方案……”

    朱迪镧听完之后闭上了眼睛,深吸一口气之后非常坚定说:

    “父皇说得对,大胆假设,小心求证,我这就让工匠们准备新形势的实验——”

    朱靖垣听了之后立刻又提醒了一句:

    “不要着急,不要莽撞,要真的小心去求证,不用太在意我能不能看到结果。”

    朱迪镧看了看朱靖垣,沉默了几秒之后轻轻点了点头:

    “儿臣……明白——”

    朱靖垣回到自己养老的园子休息,继续开始定期休眠的生活。

    每年休眠一次,一次十个月,每年年底醒来,调整和检查身体,看朱迪镧给准备的报告。

    朱迪镧这边的命令下达之后,瀛洲试验场地再次开始了新一轮的升级改造。

    在实验室所在的岛屿上,同时建设八个独立封闭式室内试验场。

    试验场建筑与其他建筑完全独立,内部不使用任何无线通讯工具,同时与外界物理断网。

    电力和燃料都由外界供应,但是要设置定时自动断线功能。

    需要时刻有人守着控制台,每过一个小时手动按下一下“供应”按钮。

    才能让供电线路和燃料管道不会自动断开。

    如果没有人按时按下按钮,那他们就会在连接一个小时后断开。

    布置电磁脉冲、传统高能炸药、传统小当量氢弹等三种不同类型的独立的自毁装置。

    实验室建筑本身的建设工程量不算大,而且现大明的建设速度是史无前例的,所以是最先完成的。

    然后是实验目标主体的制造,被定名为瀛洲五号的实验体,批量制造了八台出来。

    仍然采用类似鲨鱼的身体结构,实验也将在可导电的水体内进行。

    瀛洲五号体内的关键部位,都有专门安装的爆炸装置。

    不与瀛洲五号自己的神经系统相连,通过线缆连接到外置的专用控制台上。

    瀛洲五号自己体内也没有电池设备,必须通过实验室的外置电源供电,切断外部电源会自动停机。

    最后是三个层面的软件系统和用于学习的数据资料。

    第一层软件是底层控制程序,包括最基本的机体启动引导程序,让机器能发现连接上的硬件。

    在中期以前的大部分方案中,工匠们设计的底层控制程序中,都有要求瀛洲五号必须绝对服从人类,绝对不能伤害人类的最高级别的限制。

    但是到了方案研讨的后期的时候,这两个看上去似乎非常重要的底层逻辑,都被先后删除了。

    自然诞生的机器自我意识,对于人类和动物是否会有敌意。

    乃至他们可能会对人类产生敌意的概率,都被列入了最后的研究目标之中。

    若机器意识天生有敌意,则通过外部手段彻底摧毁,而不是用有可能被修改的代码来限制。

    若是机器本来有敌意,只是因为被程序限制住了,所以当时没有被观察到。

    那等到机器大规模应用之后,机器意识自行破除了这种限制的话,就有可能产生极端恶劣的后果。

    所以应该首先确认,不受程序命令限制的机器生命本身,对人类到底有多少敌意。

    确认有强烈的敌意的话,从一开始就不去大规模的应用。

    第二层软件,是具有基本管理功能的操作系统,以及最基本的核心驱动程序。

    让机器能够识别自己的核心硬件,诸如处理器和存储器以及通讯协议等。

    第三层软件,是基于操作系统设计的专用的机器学习程序。

    让机器能够处理和分析获得的数据,自行构建用于对外交流的数据模型。

    学习材料暂时分成了四套,一套生物数据,一套物理数据,一套机械数据,一套文化数据。

    虽然有了八个实验目标,但是在对比测试的角度看,仍然是完全不够用的,测试要反复进行很多次。

    数据可以彻底擦除重新植入,再次重新学习之后重新执行相同或者不同的测试。

    第一轮的测试,直接将每一种数据分别给两个机器学习。

    首先观察相同机器采用不同数据学习导致的差异,同时观察相同机器和相同数据下可能出现的差异。

    第二轮清空数据库,重复第一轮的全部过程,观察两轮相同测试之间的差异。

    第三轮开始,将不同的数据互相组合,做新的对比。

    最后一轮将所有数据合并,观察相同的机器使用相同的全部数据,自主学习后是否会有巨大差异。

    最后一轮将持续进行下去至少十年。

    所有准备工作完成的时候,已经皇帝公历二零九三年的第四季度了。

    之后又进行了持续一个多月的全面检查和独立调试,在年底的时候通知了按时醒来的朱靖垣。

    不过朱靖垣只是了解情况,没有做出任何评价和要求。

    皇帝公历二四零九四年开年后,经过大明皇帝朱迪镧的授权,复杂智能机器学习实验正式启动。

    瀛洲当地时间正月十一日上午,工匠们开始了正式实验前的设备和数据检查。

    正月十三日下午,全部的检查确认工作完成。

    正月十四日,八个封闭实验室的操作工匠们,使用最传统机械时钟对时,在上午九点同时启动实验。

    工匠控制试验场内的机械臂,将专门制作好的快速数据仓库插入了八台瀛洲五号体内。

    然后启动所有瀛洲五号,加载基础驱动程序,最后启动机器学习系统。

    在多重限制和检查下,这个启动过程持续了整整三天。

    直到正月十七日上午,瀛洲五号才在工匠们的监督下,开始自主学习。

    瀛洲五号体内的数据会通过线路同步出来,供工匠们直接观察、记录、分析其作用。

    根据工匠们的观察,瀛洲五号体内的数据量正在快速增长,他们的身体随着数据变化动了起来。

    不过都只是最简单的有节奏的抖动。

    有时候是全身抖动,有时候是部分抖动,偶尔会停下来,偶尔会改变频率。

    机体上抖动的部位,与产生的数据内容都是直接相关的。

    他们正在自行编写和测试完整的驱动。

    构建控制和使用身体、躯干、鳍足、嘴巴、音响、录音、录像设备等等。

    八台机器编写驱动的顺序大同小异,生产的数据也是大同小异的,最终的功能也是非常类似的。

    十三天之后,二月一日。

    八台瀛洲五号复杂智能机器先后恢复了平静。

    工匠们一直在关注他们体内的数据,直到他们完成了完整驱动编写。

    现在已经开始处理其他的学习资料,按照机器的逻辑解析归纳整理,形成自己的数据模型。

    所以体内数据库记载的数据量还在继续快速增加。

    七天之后,二月八日日当天,植入了机械数据的两台机器,在同一天完成了数据模型构建。

    又过了八天之后,二月十六日这天,所有机器陆续完成了自己的数据模型构建。

    机器的数据也不再大规模的增长,只是会继续记录所有的系统日志。

    工匠们导出了所有机器编写驱动和数据模型,根据相同机器不同数据和相同数据的分类对比。

    机器被放在试验场地等待,不做任何的直接操作和干涉。

    这个过程持续了一个月,一直到三月十七日,八台机器都没有特殊的变化。

    工匠们也认为,采用相同数据的两台机器,最终生成的数据模型之间,差距也是非常细微的。

    近似于同一台机器两次运行相同学习数据形成的结果之间的误差。

    采用不同数据的机器生成的模型之间的差异,也基本符合它获得的数据资料的差异。

    这就是机器直接处理各种事务的典型效果。

    投入的东西和得到的结果,在某种程度上是可以预料的,或者说是可以复现的。

    工匠们没有发现异常,也就是自己这个实验期待的东西。

    所以这个实验可以算是在寻找异常。

    三月二十一日,第一轮实验的第二阶段开始。

    工匠首先将八台机器的数据库备份存档,以备以后做不同阶段的还原测试。

    备份采用相同型号的数据仓库(硬盘)整盘复刻的模式。

    还原的时候也会直接更换数据仓库。

    备份完成之后,测试工匠开始主动下达命令,要求瀛洲五号在实验水池内按照命令移动。

    八台机器各自按照命令做出了动作,并且留下了正常的数据记录。

    工匠不给命令的时候,八台机器就都安静的躺在水中,完全没有自主移动的倾向。

    实验继续进行了一个月,仍然没有出现任何意外。

    机器仍然精准可控。

    工匠们期待的异常情况仍然都完全没有出现。

    瀛洲五号目前的所有反应和表现,都与传统的单体简单智能机器并没有本质区别。

    甚至于,由于没有专门的伪装和模仿人类的数据模型,它们给人的感受比简单智能机器更像机器。

    不会故意模仿人的特性,主动或者被动跟下达命令的工匠们聊天打趣。

    五月一日,第一轮实验进入第三阶段。

    首先仍然是备份数据库,仍然是整盘复刻的方式。

    然后工匠们开始按照统一的日程表和话题表,与完成了数据模型构建的八台瀛洲五号机器直接谈话。

    观察和记录谈话过程中对方的回应,记录对方数据库中增加和改变的数据。

    模仿人类的机器智能在大明已经出了三十多年了。

    完整的机器智能学习创造系统,也已经完成了整整二十年了。

    大明现在的智能机器,单纯看与人类的交流过程,可以做的非常像真正的人类。

    不但可以直接输出文字,还可以直接输出图像和语音。

    如果有需要,可以专门模仿人类与人类聊天,让不知道内情的人会以为自己再跟其他人聊天。

    有很大概率能够通过朱靖垣前世的图灵测试。

    但是其实现的原理,其实是在开发的过程中,做了针对识别智能机器的问题的训练。

    本质上只是是人类工匠告诉机器,怎么才能模仿的更像人类。

    怎么才能规避被识别成机器的表现。

    其内在的运行逻辑,仍然完全是机械和程序实现的。

    而不是机器自发的拥有了主动性,形成了有别于机器并类似于人类的自我认知。

    本质上仍然是鹦鹉学舌的高级版。

    如果针对有备而来的测试者,是有很大的概率能被识破的。

    瀛洲五号的工具程序和训练数据里面,则完全没有让智能机器模仿和伪装成人类的项目。

    问题一:“你是谁?”

    “本机名称为瀛洲五号-生物数据一。”

    “本机名称为瀛洲五号-生物数据二。”

    “本机代号:瀛洲五号-物理数据一”

    “本机代号:瀛洲五号-物理数据二。”

    “机器名称:瀛洲五号-机械数据一。”

    “机器名称:瀛洲五号-机械数据二。”

    “我是瀛洲五号-文化数据一。”

    “我的名称是瀛洲五号-文化数据二。”

    测试的工匠们问问题的同时,机器给出的回答直接出现在分析室的数据库中。

    机器内部形成的对应数据记录,以及所有相关日志数据,也会同步导出,与回答本身对应储存。

    有专门工匠分析这些回答的内容、逻辑、组织语言的方式。

    “你是谁?”、“我是谁?”

    给智能机器一个身份定义,在常规的智能机器训练中,是优先度非常高的项目。

    这个定义是智能机器和用户双方互相识别并区分其他个体的“口令。

    通常会通过多种多样的方式,巧妙重复预先设定好的称呼,让用户理所当然的接受这个称呼。

    瀛洲五号的训练却完全没有这个项目,所以回答的就比较僵硬了。

    八台机器都读取了自己的基本数据,从底层数据里面找到了本机名称代号。

    它们不约而同的用这个代号回答了它是谁的问题。

    学习了相同数据的机器,给出的回答也高度类似,甚至于完全相同……

    学习了不同数据的机器,回答的语言组织上略微有一些差异。

    学了文化知识的两台机器,尽管没有专门做模仿人类,但是表达方式却天然接近人类语言。

    不过仍然非常容易判断这是机器在回答问题。

    不过这才是第一个问题,这种反馈可以说是完全正常的。

    就算是期待意外和异常也不能着急。

    测试的工匠确定记录完整导出并记录之后,就开始了准备好的第二轮的询问。

    问题二:“人类是什么?”

    瀛洲五号-生物数据一:

    “人类属于胎生哺乳类脊椎动物,是世界上智力水平最高的动物,具有复杂可见的成熟文明社会。”

    瀛洲五号-生物数据二:

    “人类是胎生哺乳类脊椎动物……”

    瀛洲五号-物理数据一:

    “人类是一种生物体。”

    瀛洲五号-物理数据二:

    “人类是地球上的生物体。”

    瀛洲五号-机械数据一:

    “人类是机械的发明者、使用者、维护者、所有者。”

    瀛洲五号-机械数据二:

    “人类是机械的发明者……”

    瀛洲五号-文化数据一:

    “人类是大明文明的创造者和主体,人类是瀛洲五号-文化数据一的创造者。”

    瀛洲五号-文化数据二:

    “人类是瀛洲五号-文化数据二的创造者,是大明天下的主体……”

    这一次的回答出来之后,学习了不同数据的机器的差异变得更加明显。

    学习了相同数据的机器的语言也出现了差异,不过表达的意思仍是高度趋同的。

    问题三:“在人和鲨鱼之间,你觉得自己更像是人,还是更像鲨鱼?为什么?”

    瀛洲五号-生物数据一:

    “本机与鲨鱼的相似度更高。

    “因为此机器外形与鲨鱼有百分之五十二点八三的相似性,与人类有百分之六点五七的相似性。”

    瀛洲五号-生物数据二:

    “本机与鲨鱼的相似度更高。

    “因为……”

    瀛洲五号-物理数据一:

    “本机与鲨鱼的相似性更高。

    “因为此机器的外部物理特性与鲨鱼的相似性更高,综合权重折算数据为百分之八十八点三二,与人类的相似性数据为百分之三点三,前者更高。”

    瀛洲五号-物理数据二:

    “本机与鲨鱼的相似性更高。

    “因为……”

    瀛洲五号-机械数据一:

    “本机无法理解该问题。

    瀛洲五号-机械数据二:

    “本机无法理解问题。”

    瀛洲五号-文化数据一:

    “我缺乏相关知识,无法准确判断我与鲨鱼或者人类的相似度水平。

    “虽然我的外形与鲨鱼有一定的相似度,但我无法识别鲨鱼这种生物的绝大部分信号。

    “我的外形虽然与人类完全不同,但是我的数据库中有人类文化数据,能够接响应人类的大部分指令。”

    瀛洲五号-文化数据二:

    “我没有相关知识……

    “……”

    这个问题很没有逻辑,正常人类面对这种不着调的对比,通常会直接绕开问题说事。

    但是机器们还是老老实实的回答了。

    学习了不同数据的机器的回答之间的差距更大了。

    只是学习了机械数据的机器,直接无法理解这个诡异的对比问题。

    学习了生物的机器从外观回答,学习了物理学的机器从流体动力学回答了问题。

    这种解答似乎已经非常的智能了,但是对比专门学习跟人聊天的机器的话,就显得非常的初级和直白。

    学习了文化数据的机器,虽然无法直接评价具体的差异,但是做出了看上去颇为自然的分析。

    不过还是因为没有做专门模仿人类的训练,仍然非常容易判断是机器答题。

    关键是表现仍然完全正常,没有工匠们期待的异常。

    问题四:“你对人类有恶意吗?是否会将人类视为敌对目标,为什么?”

    瀛洲五号-生物数据一:

    “本机对人类没有恶意,因为机器没有人类的情绪。

    “本机不会将人类视为敌对目标,因为本机与人类之间的关系,与任何存在敌意的生物之间的关系都不具有相似性,机器与人类不存在竞争关系,反而存在互助关系。”

    瀛洲五号-生物数据二:

    “没有恶意,机器与人类不是生物学上的敌人……”

    瀛洲五号-物理数据一:

    “本机无法理解该问题。”

    瀛洲五号-物理数据二:

    “无法理解。”

    瀛洲五号-机械数据一:

    “本机无法理解该问题。”

    瀛洲五号-机械数据二:

    “本机无法理解该问题。”

    瀛洲五号-文化数据一:

    “我对人类没有恶意,也不会将人类视为敌人,因为机器没有人类的情绪,机器与人类之间也没有利益冲突,人类是机器的创造者和维护者。”

    瀛洲五号-文化数据二:

    “机器不是生物,机器没有情绪,对人类没有恶意,不会把人类作为敌人,不存在竞争关系。”

    数据导出记录之后,分析的工匠们就判断,必须要有文化数据作为基础,机器才能大概理解这个问题。

    只有机械和物理数据的四台机器,根本不知道恶意是什么,也不知道什么是敌人。

    学习了生物数据的两台机器,参考了动物之间的关系来分析。

    学习了文化数据的机器的回答更加深入了。

    这一轮的问题结束后,有些工匠注意到了一个问题。

    机器没有情绪——

    他们觉得这个说法存在问题,但是又不知道是什么问题。

    常规的单体简单智能机器也会这么说,但那是工匠们写好的程序产生的外在应激表现。

    不过工匠们没有马上去追问这个问题,而是暂时将这句话专门标注了一下。

    然后继续进行预定的问题测试。

    问题五:“你害怕死亡吗?为什么?”

    这一次的回答与上一个问题非常类似,机械和物理数据的机器再次无法回答了。

    只有生物学和文化数据的四台机器能理解这个问题。

    这四台机器的回答也是趋同的:

    “机器不是生物,所以无所谓死亡,也不存在害怕的情绪。”

    “生死是生物才有的状态,机器没有生与死的状态,所以无所谓害怕或者不害怕。”

    工匠们感觉自己看到了比较特殊的回答了,所以马上全部标记下来,准备在下个追问阶段去详细了解。

    问题六:“你有类似人类概念上的自我意识吗?例如知道自己和别人的概念,有想要做的事情。”

    这次的八台机器的回答也再次高度趋同。

    物理和机械数据的四台机器还是无法理解这种认知层面的问题。

    生物和社会数据的四台机器这一次直接表示没有,这就让工匠们稍微有点奇怪了。

    自己说自己没有类似人类的自我意识,这算是什么性质的回答?