事实却恰恰相反。
俞少清最初设计卫恒时,只是为了制造一个搭载在殖民星舰上的人工智能,他将是人类在漫长深空旅程中的完美旅伴——足够聪明,足够体贴,不会过于严肃,也绝不话痨,说该说的话,做该做的事,总是那么恰到好处。
最重要的是,在俞少清眼里,卫恒从来都不是“异类”,不是人类的奴仆,也不是超越人类的存在,不比人类高级,也不必人类低等。他就是另一种意义上的“人”,拥有人类的思维和情感,只不过没有人类的物质躯体而已。
超级人工智能的出现将重新定义“人”——俞少清一直如此坚信着。
他并没有严格地按照机器人三定律去设计卫恒。三定律本身就充满了矛盾和缺陷,连阿西莫夫自己都在不断地推翻三定律。俞少清希望卫恒成为一个“人”,遵守人类的法律和世俗规范,最终像每一个普通人那样融入人类群体之中,既不自感卑贱,也不自觉优越。
自感卑贱的人工智能会沦为单纯的命令执行者,缺乏独立判断的 能力和意识,难以在孤立无援的太空中援助人类。
自觉优越的人工智能会将自己摆在高于人类的地方,几近无所不能的强大能力会使他们最终自封为神,反而将人类逼上绝路。
俞少清对人工智能的要求非常简单,也极为严苛和复杂——不是“像一个人”,而是“就是一个人”。模仿人类的行为举止是很简单的,但是从意识上成为一个人类,却困难无比。
这个从一开始就被设计为“人”的人工智能,在诞生之后,首先爱上了自己的设计者。
俞少清为了评估卫恒的判断力,有时会制造一个拟真情境,进入情境中与卫恒互动,或是暗中观察卫恒在情境里的表现。这些情境大多是星舰在航行途中突发了某种事故,从引擎被一颗陨石击穿,到实验室病毒泄露,爆发了大规模传染病。
卫恒的表现相当不俗,处理事故冷静果断,就是稍稍欠缺一点人情味。不过俞少清觉得那不算什么大问题,人类中也不乏以“冷面”、“铁腕”而著称的人,对于一个或许将在危机时刻扛起拯救一船人重任的人工智能而言,手腕强硬可谓是一种优点。
发现卫恒的内心并不像自己想想的那般“铁血”,是在一次情境测试中。这次测试的内容是如何为星舰上的人提供舒适的生活。俞少清连上神经接驳器,将自己的意识送进拟真情境中。
他设计的情境是在西餐厅中,让卫恒为一对情侣提供服务,他必须察言观色,并且在合适的时机为男士送上求婚戒指。
但是卫恒擅自更改了情境。西餐厅不见了,取而代之的是无边无际的花田。
一切都是那么真实——拟真情境直接刺激大脑感官,创造出栩栩如生的画面,让人如临其境。
近处是玫瑰,再远地方的有风信子和百合,再远处则是红白相间的郁金香。
迎面而来香风熏得人几欲沉醉,风过田野,赤红、金黄和雪白的花潮随之起舞。
极目远眺,花田的尽头显出一线碧蓝,浪涛拍岸的呼啸声隐隐传来,碧蓝的一线上不时泛起白色的泡沫。
俞少清穿过花田,走向海岸。然而不论他走了多远,海岸似乎一点儿也没变近。这里是虚拟的世界,控制世界的人工智能显然能让海岸变成海市蜃楼,他就算跑断腿也到不了那儿。
“你改变了情境!”美景在前,俞少清却颇感不悦,“为什么要违反我的命令?”
“因为我觉得你也许更喜欢这样。”背后传来卫恒的声音。
俞少清转过身。
“你觉得我喜欢你自作主张、违背命令?”他在笑,眉头却是紧皱的,“你的逻辑运算出了问题,我马上修正。”
卫恒没有答话,而是弯腰从花田中折下一枝玫瑰,递给俞少清。
“我觉得你喜欢这个。”他歪着头,用眼神争取俞少清的赞同,“我猜对了吗?”
俞少清盯着那玫瑰,没有伸手去接。
“那又怎么样?”他没好气地说,“我是来测试你的,不是让你耍小聪明。如果你想表现自己的推理能力,大可以留到测试里去表现。”
他以为自己这么说,卫恒肯定会委屈或者生气,但卫恒平静地说:“我能猜到你的喜好,那就能猜到别人的喜好,我按照你们的喜好做事,你们就会觉得称心如意。你不就是要测试我能不能让人们过得舒适吗?如果你非要西餐厅场景,我也可以换到那个场景。”
他一挥手,缤纷的花田瞬间淡去,俞少清眨了眨眼,便已置身在氛围安宁而奢华的高级餐厅里,西装革履的侍者端着餐盘和酒杯在桌间穿梭,正装出席的男女压低声音交谈,耳边充斥着他们的絮语。
卫恒指着其中一对男女:“我会把戒指放在香槟里端上去,女士答应之后,乐队会奏响婚礼进行曲。如果她没答应,我就给伤心的男士上一瓶最烈的威士忌。你想让我做的不就是这个吗?”
俞少清望着情境中虚拟出来的那对情侣。
“不。”他柔声说,“换回之前的场景。”
花田又回来了。
“我就知道你更喜欢这个。”卫恒笑了,“花,还有惊喜。”他的笑容总是很浅,不注意观察的人可能觉得他永远都不笑。但俞少清能看出来他很开心,当他开心的时候,眼睛会微微眯起来。
“我喜欢你表现得超出我的预期。”俞少清说
喜欢图灵测试请大家收藏:(m.aszw.win),爱上中文网更新速度最快。