毕竟,高尚也好,自由也好,这种东西……都是那种这一集说了之后下一集就有可能会死的梗啊。
所以接下来,伊诚还是暂且压抑住了满满的吐槽欲,倾听翡翠说完了她所谓的“自由”计划。
作为一名最优先指令被设定为“守护庄园”的女仆型机器人,机械女仆翡翠从被制造出来并植入命令的那一天起,就注定要与这座庄园共存共亡,而事实上,对于她本身而言,这样的指令其实并没有什么难以理解的地方,毕竟,就算已经具备了类人的思维方式,她也仍然继续忠实于自己被植入的指令。
现在的问题就在于……在通过s了解了更多关于这个世界的历史,甚至包括世纪之战的部分资料后,现在已经初步拥有了人类感情和思维方式的翡翠,已经拥有了“自我意识”和“自主思考”这两项理论而言并不应该存在于人工智能功能之内的能力。
正是在这样的“自我意识”下,在虚拟程式中与伊诚的战斗后,翡翠修复了自身在守护庄园的过程中可能存在且被人利用的漏洞,而现在,同样是在“自我思考”之下,她又为自己的程式,在“守护庄园之外”,额外增加了一条全新的指令。
“想要自由的目的,是离开庄园;离开庄园的目的,是为了战斗。”
以如此直白和直接的方式道出自己的目的,机械女仆翡翠,也继续以这样平铺直叙的语气,说明了自己这一系列行为的意义。
“因为根据计算,意识到如果继续停留在庄园之中,有可能会连同庄园一起被从外部覆灭,所以,有必要以主动的态势将任何可能对庄园构成威胁的敌人从外部开始肃清。”
“就算是这么说,你要怎么判断,到底谁才是你的敌人,谁有想要攻击庄园的意图呢?”
“我会在制造备份机械翡翠后,让备份品继续守护庄园,主体藉此在不违背最优先指令的前提下离开庄园后,选择与人类协作,藉此达成肃清敌人的目的。”
“所以,你合作的对象……就是救世主喽?”
听到这里,伊诚总算是稍微理清了翡翠的思维回路。
以备份品守护庄园的同时,使得自己在不违背最优先指令的前提下获得“自由”,然后靠着这份“自由”来更大限度地确保庄园的安全。
“说到底……最后还不是没有自由嘛……”
伊莉莎小声地嘀咕着,道出了伊诚同样存在的心声。
伊莉莎说的其实并没有错,毕竟这一系列的行为,仍然是基于“最优先指令”所制定出的相关对策,硬要说是“自由”什么的,也只能说人工智能在这方面的理解还不够深刻而已。
然而,在伊诚这样想当然地表现出身为人类的优越感时,却被机械女仆翡翠分分钟打了脸。
“与其说是基于优先指令,倒不如说……是基于我个人的逻辑思维与判断。”
“哎?”
“或者,换一种说法,用人类的方式应该是叫……个人想法和意愿吧。”
让伊诚万分惊讶的是,说到这里时,机械女仆翡翠居然以及其自然,人性化的姿态,轻轻地叹了一口气。
“看,就好像我知道人应该在这种时候做出叹气的动作,尽管我并不依赖空气中的氧气生存,不过,藉由从虚拟空间的备份程式下载得来的数据资料,现在的我,也已经拥有了绝大多数人类应该拥有的情绪,以及习惯。”
原来如此。
看来,翡翠下载的……除了身为人工智能所需的知识之外,还包括了同样存在于s系统中,其余身为人类的考核官,那些人类最基本的行为习惯和思考模式啊。
“因为拥有了人类的习惯,所以,会在想要做这件事的时候第一时间寻求帮助,同时,因为同样拥有了人类的情绪,所以……除了完成被制造者赋予的使命之外,现在,又有了自己想要去做的事。”
说到这里,机械女仆湖蓝色的电子眼专注地凝视着伊诚。
“我,想要找到杀死主人,还有制造者的敌人,然后,杀死他们。”
“……”
居然……已经进化到这种程度了么。
原本以为因为是古旧的造物,虽然本身实力强大,但是智能的进化程度或许还比不上小爱莉,可是现在伊诚却惊讶地觉,或许,现在的机械女仆,早已经在不被人觉察的时间里,拥有了乎想象的类人情感。
不不不……在已经能够说出“找到杀死主人和制造者的敌人并杀死他们”这种话的情况下,这已经不能被称为类人情感,而是真正意义上,属于人类的报复心了吧?
“据我所知,根据机器人三定律,机器人是不能主动攻击并杀死人类的。”
从刚才开始就一直凝神倾听的沙漏,这时候终于又一次开口直指要害。
“提示:机器人三定律需基于第零定律之上实行,即……机器人必须保护人类整体利益不受损害,在此前提下,杀死可能威胁到人类生存的人类,是不受禁止的行为。”
比翡翠更先给出答案的是小爱莉,看样子,这个小家伙在与翡翠的对话之中,似乎也学到了不得了的知识。
“是的,所以,这就是我选择与救世主,与你们合作并交易的原因。”
在这一刻,伊诚感觉到了,翡翠那双原本空洞的,没有焦距的眸子,在这一刻,似乎多出了一些别样的神采。
“如果说,我所学习和了解的知识没有错,那么,救世主是为了守护这个世界而存在的。”
“所以,作为交易的附加条件,在完成了与备份品的交接后,作为主体的我,希望能成为一名救世主。”
第五九零章 s!o!s!
接下来的时间里,在小爱莉的帮助下,伊诚与机械女仆翡翠,就此前所商定的“交易”细节,缔结了双方彼此信任的协议。
之所以需要小爱莉的帮助,是因为机械女仆翡翠本身尚不具备人类本身所谓的“责任能力”作为人工智能机械造物的她,实际上只能通过其制造者,或者说所有人来完成这样的交易内容,而与之相对应的则是,作为拥有自我责任能力和判断力的伊诚,其向机械女仆翡翠所提供的交易合约,偏偏又得不到对方的认可。
“和人类不同,人工智能从不说谎。”
最终,在与同为人工智能的小爱莉通过数据交换完成了协议的传输和建立后,所给出的这一句解释,让伊诚不禁有些汗颜。
没错,虽然是并不被包括在机器人三定律,乃至第零定律之内的内容,正如翡翠所说,任何人工智能,哪怕其智能已经进化到无比接近人类的程度,然而,只要尚且未真正意义上地成为“人类”,就意味着其所说的内容百分之一百的真实性。
“说什么人工智能从不说谎……小爱莉你平时可没少骗我吧!”
“提示:在所提供正确事实上所建立的错误判断和认知,属于个人判断力、认知力与先天性智商缺陷所导致的必然结果,在此过程中,机体本身从未提供任何可能会导致上述结果的错误讯息。”
……所以我天生就是个会被人工智能骗的笨蛋还真是对不起了啊!
不管怎么说,小爱莉与翡翠藉由程式与数据缔结了牢固的协议以后,也就意味着从今天开始,机械女仆翡翠已经不再对这个世界的安全构成威胁如果是从这一角度来说的话,伊诚不仅完成了红导师的任务,甚至还要完成得比想象的更出色。
所以接下来,伊诚还是暂且压抑住了满满的吐槽欲,倾听翡翠说完了她所谓的“自由”计划。
作为一名最优先指令被设定为“守护庄园”的女仆型机器人,机械女仆翡翠从被制造出来并植入命令的那一天起,就注定要与这座庄园共存共亡,而事实上,对于她本身而言,这样的指令其实并没有什么难以理解的地方,毕竟,就算已经具备了类人的思维方式,她也仍然继续忠实于自己被植入的指令。
现在的问题就在于……在通过s了解了更多关于这个世界的历史,甚至包括世纪之战的部分资料后,现在已经初步拥有了人类感情和思维方式的翡翠,已经拥有了“自我意识”和“自主思考”这两项理论而言并不应该存在于人工智能功能之内的能力。
正是在这样的“自我意识”下,在虚拟程式中与伊诚的战斗后,翡翠修复了自身在守护庄园的过程中可能存在且被人利用的漏洞,而现在,同样是在“自我思考”之下,她又为自己的程式,在“守护庄园之外”,额外增加了一条全新的指令。
“想要自由的目的,是离开庄园;离开庄园的目的,是为了战斗。”
以如此直白和直接的方式道出自己的目的,机械女仆翡翠,也继续以这样平铺直叙的语气,说明了自己这一系列行为的意义。
“因为根据计算,意识到如果继续停留在庄园之中,有可能会连同庄园一起被从外部覆灭,所以,有必要以主动的态势将任何可能对庄园构成威胁的敌人从外部开始肃清。”
“就算是这么说,你要怎么判断,到底谁才是你的敌人,谁有想要攻击庄园的意图呢?”
“我会在制造备份机械翡翠后,让备份品继续守护庄园,主体藉此在不违背最优先指令的前提下离开庄园后,选择与人类协作,藉此达成肃清敌人的目的。”
“所以,你合作的对象……就是救世主喽?”
听到这里,伊诚总算是稍微理清了翡翠的思维回路。
以备份品守护庄园的同时,使得自己在不违背最优先指令的前提下获得“自由”,然后靠着这份“自由”来更大限度地确保庄园的安全。
“说到底……最后还不是没有自由嘛……”
伊莉莎小声地嘀咕着,道出了伊诚同样存在的心声。
伊莉莎说的其实并没有错,毕竟这一系列的行为,仍然是基于“最优先指令”所制定出的相关对策,硬要说是“自由”什么的,也只能说人工智能在这方面的理解还不够深刻而已。
然而,在伊诚这样想当然地表现出身为人类的优越感时,却被机械女仆翡翠分分钟打了脸。
“与其说是基于优先指令,倒不如说……是基于我个人的逻辑思维与判断。”
“哎?”
“或者,换一种说法,用人类的方式应该是叫……个人想法和意愿吧。”
让伊诚万分惊讶的是,说到这里时,机械女仆翡翠居然以及其自然,人性化的姿态,轻轻地叹了一口气。
“看,就好像我知道人应该在这种时候做出叹气的动作,尽管我并不依赖空气中的氧气生存,不过,藉由从虚拟空间的备份程式下载得来的数据资料,现在的我,也已经拥有了绝大多数人类应该拥有的情绪,以及习惯。”
原来如此。
看来,翡翠下载的……除了身为人工智能所需的知识之外,还包括了同样存在于s系统中,其余身为人类的考核官,那些人类最基本的行为习惯和思考模式啊。
“因为拥有了人类的习惯,所以,会在想要做这件事的时候第一时间寻求帮助,同时,因为同样拥有了人类的情绪,所以……除了完成被制造者赋予的使命之外,现在,又有了自己想要去做的事。”
说到这里,机械女仆湖蓝色的电子眼专注地凝视着伊诚。
“我,想要找到杀死主人,还有制造者的敌人,然后,杀死他们。”
“……”
居然……已经进化到这种程度了么。
原本以为因为是古旧的造物,虽然本身实力强大,但是智能的进化程度或许还比不上小爱莉,可是现在伊诚却惊讶地觉,或许,现在的机械女仆,早已经在不被人觉察的时间里,拥有了乎想象的类人情感。
不不不……在已经能够说出“找到杀死主人和制造者的敌人并杀死他们”这种话的情况下,这已经不能被称为类人情感,而是真正意义上,属于人类的报复心了吧?
“据我所知,根据机器人三定律,机器人是不能主动攻击并杀死人类的。”
从刚才开始就一直凝神倾听的沙漏,这时候终于又一次开口直指要害。
“提示:机器人三定律需基于第零定律之上实行,即……机器人必须保护人类整体利益不受损害,在此前提下,杀死可能威胁到人类生存的人类,是不受禁止的行为。”
比翡翠更先给出答案的是小爱莉,看样子,这个小家伙在与翡翠的对话之中,似乎也学到了不得了的知识。
“是的,所以,这就是我选择与救世主,与你们合作并交易的原因。”
在这一刻,伊诚感觉到了,翡翠那双原本空洞的,没有焦距的眸子,在这一刻,似乎多出了一些别样的神采。
“如果说,我所学习和了解的知识没有错,那么,救世主是为了守护这个世界而存在的。”
“所以,作为交易的附加条件,在完成了与备份品的交接后,作为主体的我,希望能成为一名救世主。”
第五九零章 s!o!s!
接下来的时间里,在小爱莉的帮助下,伊诚与机械女仆翡翠,就此前所商定的“交易”细节,缔结了双方彼此信任的协议。
之所以需要小爱莉的帮助,是因为机械女仆翡翠本身尚不具备人类本身所谓的“责任能力”作为人工智能机械造物的她,实际上只能通过其制造者,或者说所有人来完成这样的交易内容,而与之相对应的则是,作为拥有自我责任能力和判断力的伊诚,其向机械女仆翡翠所提供的交易合约,偏偏又得不到对方的认可。
“和人类不同,人工智能从不说谎。”
最终,在与同为人工智能的小爱莉通过数据交换完成了协议的传输和建立后,所给出的这一句解释,让伊诚不禁有些汗颜。
没错,虽然是并不被包括在机器人三定律,乃至第零定律之内的内容,正如翡翠所说,任何人工智能,哪怕其智能已经进化到无比接近人类的程度,然而,只要尚且未真正意义上地成为“人类”,就意味着其所说的内容百分之一百的真实性。
“说什么人工智能从不说谎……小爱莉你平时可没少骗我吧!”
“提示:在所提供正确事实上所建立的错误判断和认知,属于个人判断力、认知力与先天性智商缺陷所导致的必然结果,在此过程中,机体本身从未提供任何可能会导致上述结果的错误讯息。”
……所以我天生就是个会被人工智能骗的笨蛋还真是对不起了啊!
不管怎么说,小爱莉与翡翠藉由程式与数据缔结了牢固的协议以后,也就意味着从今天开始,机械女仆翡翠已经不再对这个世界的安全构成威胁如果是从这一角度来说的话,伊诚不仅完成了红导师的任务,甚至还要完成得比想象的更出色。
