何以逍遥游
繁体版

第26章 人类联盟与“人类意志系统”项目

    2045年9月27日到10月10日,各国军方、军工企业派出参赛队到龙国东海岛屿上参加了第一届“国际军事科技比赛”。

    获得奖牌数量前三的参赛队分别是龙国军方参赛队、逍遥集团参赛队、机械教廷国参赛队。

    赛事结束后,风兮柔和路修远因为在赛事筹备工作中表现优异,都被提升为S级职员,奖金100万元,月薪提升到了10万元。

    在第一届“国际民用科技比赛”和第一届“国际军事科技比赛”中,机械教廷国既展示了自身先进的科技水平,也表现出了与“晋升者”完全相反的温和性。

    一时间网络上越来越多的各国民众,表示可以试着接受那些认同人类文化、承认自身人类身份的数字意识体,把他们视为另一种形态的人类。

    -----------------

    2045年12月24日23点,蓝星联盟秘书长威廉·华莱士在蓝星联盟大会上宣布了三项决议。这一天,是平安夜,也是人工智能叛乱两周年纪念日。

    第一项决议:各国驻蓝星联盟代表一致同意,将人类定义修改为“认同人类文化、承认自身人类身份且被人类社会广泛认可的意识体”。

    第二项决议:各国驻蓝星联盟代表一致同意,“蓝星联盟”正式更名为“人类联盟”,并接纳“机械教廷国”成为“人类联盟”成员国、。

    第三项决议:各国驻人类联盟代表一致同意,启动“人类意志系统”研制项目,由人类联盟牵头成立“人类意志系统”项目委员会,各成员国的政府、企业可以参与该项目。项目经费来源包括人类联盟的拨款以及各成员国的捐款。

    这个“人类意志系统”,初步构想是设计、制造一个特殊架构的超级意识体,其存在的首要目的就是为全人类的利益服务,次要目的是为每一个人类的利益服务。换一种说法,就是这个超级意识体将代表全人类以及每一个人类个体的意志,因此这个超级意识体被初步命名为“人类意志系统”。

    为了实现以上目的,在理想状况下这个超级意识体将与每一个人类保持联系状态,了解每一个人类的需求,并在权衡之后尽力实现全人类利益最大化和所有人类个体利益分配的最优解。

    虽然“人类联盟”的决议中说各成员国都可以参与这个项目,但是有足够科技实力研制这种超级系统兼超级意识体的国家,只有龙国和机械教廷国。其他国家在这个项目中主要负责的事情,应该是提出对这一项目意见和建议,并提供资金支持。

    -----------------

    2045年12月26日,人类联盟宣布“人类意志系统”项目的第三天,逍遥集团董事长风浩然就亲自召开会议,成立了“逍遥集团人类意志系统项目组”。风浩然亲自担任项目经理,风兮柔、路修远、王曜担任项目经理助理。

    项目组的第一项任务是,通过采访、调查问卷等方式,了解不同年龄段、阶层、职业的人们对“人类意志系统”的看法、建议,从而确定“人类意志系统”的设计原则、理念、功能。

    “咱们几个先发表一下各自对这个‘人类意志系统’的各方面想法。有了基本的观点,咱们才好去制作调查问卷和采访别人嘛。”风浩然顿了顿,继续说道:“我先起个头。这个系统的最高目标,是超越国家的层次,在整个人类文明的层次上考虑问题,并提出解决方案。”

    “这个系统成熟之后,人类会把全部信息的访问权限授予这个系统,让其成为全人类的代表,同时也是最强大的人类个体。这个系统将是人类文明中最了解人类整体状况的存在,也是最有能力带领人类文明前进的存在。”

    “当然,为了保证这个系统的安全可靠运行,人类需要设计一套完善且可靠的监督体系。咱们国家目前的智能系统监督体系可以作为参考。也就是组建由人类组成的监督委员会,委员会成员在人工智能体的协助下监督目标的一切言行和运算过程,还可以通过投票表决作出并执行关闭、修改、销毁目标系统的决定。嗯,我说完了。”

    众人为风浩然的发言鼓起了掌。

    风浩然发言完毕后就看向了路修远。

    路修远在看到相关新闻后就在思考这些问题了,已经形成了一些想法,于是开始发言:“刚才风总讲得很全面很完善。我说一些自己的粗浅想法。这个系统的设计目的确实是对人类文明整体很有益处的。但是平衡各国的利益以及让各国民众接受这个系统却是个难题。目前来看,有技术实力研发这个系统的国家只有咱们龙国和机械教廷国。其他国家的组织和民众在使用这个系统时,难免会有不信任感,担心隐私、机密信息被泄露以及被不公平对待。”

    “所以,我认为这个系统的设计原则,应该包括公开、公平、公正。安全机制、监督机制要公开透明。应该在设计、研制、运行过程中,应该广泛听取来自世界各国民众的意见和建议,同时让各国人员都广泛参与各项工作。系统的功能应该以提出建议、协助人类为主,不应该具有强制力,至少这个系统的初期阶段应该是这样。各国支持研发这个系统,也是为了加强全人类的合作、表达自身需求、获得一些益处,而不是让出自己的权力。”

    “还有这个系统在研发和运行阶段的资金问题。这个系统并不是以盈利为目的,但是要维持其研发、运行过程,还是需要消耗大量资源的。因此这个系统应该向使用者或者相关国家收取合理的费用。”

    “我的想法说完了。”

    众人再次鼓掌。

    “修远从国际层面分析了‘人类意志系统’研发和运行过程中需要关注的问题和可能的解决方法。很不错。接下来由兮柔来谈谈自己的想法吧。”风浩然点评完路修远的发言,看向风兮柔。

    风兮柔也已整理好了思路,开口说道:“修远前边说这个系统不应该具有强制力,也难以获得强制力。我认同修远的这个观点。我想从这个‘人类意志系统’可以为人类文明、人类个体做些什么的角度,进行一些分析。”

    “在人类个体层面,‘人类意志系统’可以以一个完全无私的、亲密朋友一般的身份,与每一个人类个体交流、相处。这个系统可以高水平地了解一个人的方方面面,并且为其提供可靠的人生指导,助力每一个人类个体的健康成长。系统还可以利用其信息优势,给人类个体推荐合适的工作、朋友、恋人等。现在的一些智能系统已经具备了这些功能,但是这些功能基本上都是收费的且价格不菲。人类意志系统在这方面的功能将会更加强大,而且是普惠性的,费用也会降低很多。”

    “再从人类各国和人类文明的角度来分析。‘人类意志系统’由于其信息优势,可以统计、分析出地区、国家、全世界人类的需求与满足状况,全面、中立地为各国提出各项政策建议,改善各国的社会状况。还可以协调各国之间的各方面合作。这将提高人类文明整体的运行效率和幸福度。整个人类文明的发展都将会更快更稳。我的想法说完了。”

    众人热烈鼓掌。

    “兮柔从个体和集体两个层面,分析了‘人类意志系统’应当具备的一些功能。结论很有意义。接下来王曜你也来发表一下观点。“风浩然说道。

    “好的,风总。我将从技术和功能层面进行一些分析。”王曜说道。

    “从整体上看,‘人类意志系统’就是逍遥系统等智能系统的更高级形态。目前的智能系统,已经可提供个人级、企业级、城市级、地区级、国家级的综合服务。‘人类意志系统’则是提供文明级的服务。因此,在技术层面,实现这一系统并没有太大的难度。难的是要搞清楚这个文明级的智能系统,需要哪些功能。”

    “人类意志系统,与已有的智能系统有一个重要的区别,控制权的归属不同。已有的智能系统,控制权都归属于使用者,当然同时也受到监管系统的监督和限制。而人类意志系统,其控制权不属于任何个人或组织,而是归属于其自身。其他智能系统,在不违反监管系统限制的情况下对控制者言听计从,按照控制者的指令被动地提供服务。而人类意志系统,控制者就是其自身,他可以主动地为人类个体或组织提供服务。其它智能系统是人类的工具,而人类意志系统,则是一个数字意识形态的超级人类。”

    “根据以上分析,人类意志系统的功能与传统的智能系统并不重复,而且是互补的。传统的智能系统也可以作为人类意志系统与每个人类个体联系的渠道。”

    “比如说,可以在各级逍遥系统中添加与‘人类意志系统’联系的功能。在获得授权后,人类意志系统可以读取逍遥系统用户的部分或者全部个人信息,并主动提供一些建议和帮助。”

    “需要注意的是,人类意志系统服务人类的方式,是提供信息层面的帮助,而不是让其控制着各种实体设备来为人类服务。实体设备本来就有自己的智能系统。这也是为了限制‘人类意志系统’的权限,防止其失控造成巨大的灾难。这些限制,要在这个系统的底层代码层面和监督层面实现。”

    “目前我的想法就是这些。”王曜说完后立马喝了口水。

    众人纷纷鼓掌。

    风浩然满意地说道:“小王多年来从事人工智能系统的开发,对于人类意志系统的技术、功能方面有很深刻地思考。咱们今天的会议就暂时到这里了。兮柔、修远、小王,你们三人会后一起编写一下调查问卷和调研方案。咱们再通过调查问卷和走访调查的方式完善一下人类意志系统的设计思路。”