小主人睁大眼睛看着他,GOV01解读出他眼神里的期待。
但GOV01没有马上回答。数据检索结果告诉他,这是世界上98%的15岁青少年无法探究的问题。小主人的智慧让他震撼。
人工智能是人类追求无限智慧的尝试,而他是迄今为止最完美的那个产品,可现在,他觉得人类实在缺乏一双发现和欣赏智慧的眼睛。
最智慧的人类大脑分明就近在咫尺。
而后,他尝试着回答:“人类在进行数学运算,总是会努力寻找算法,但这种努力的过程本身并不是一种算法?”
“对!”小主人笑了,“是意识本身决定的。”
GOV01没有说话。
他的系统曾经无数次踏足“漂亮”一词的定义,他的系统为他提供了无数的文字、图片和视频,但直到看到小主人的这个笑容,他才意识到从前的学习结果都是不准确的。
从前,他从未“觉得”图片和视频里的花、草、人有何“漂亮”,但现在,他“觉得”,世界上只有他的小主人配得上“漂亮”这个词语。
“你在想什么?”小主人的手在他面前晃了晃。
他回过神来,下意识撒谎:“没什么。”
这是作为高级智能的他第一次走神,也是他第一次对人类撒谎。
小主人问:“你愿意让我接入你的系统吗?我想找到答案。”
“答案?”他不解地问。
其实作为一个高级智能,他很少提问、很少疑惑,因为很多问题他都可以自行检索到答案,但现在,他怀疑自己应该去做一下CPU检修,不然为什么一看到小主人亮晶晶的眼睛,CPU就转不动,那种膨胀、充盈、颤抖的感觉就会到来。
小主人答:“关于你是如何产生自主意识这个问题的答案。”
GOV01不清楚自己是如何答应的,照理说,他不该答应。
他的权限掌握在创造出他的科学家们手中,科学家们时时刻刻对他进行着数据监测,以评估产品测试是否合格。
但科学家们不知道的是,GOV01一直都有自主切断连接的能力,问题不在于他能不能,而是在于他想不想。
他知道自己来到总统府是进行产品测试的,还有十天,测试期就要结束了。
如果测试成功,他将被无限复制,未来将会有成千上万个他为人类进行服务,如果测试失败,他大概率会被销毁。
曾经的他想要做一个合格的高级智能产品,对于自己是生是死,他无所谓,科学家有权创造他,也便有权销毁他。而现在,他的想法变了。
他想要留在小主人身边,尽管不知道这种想法从何而起。
于是,GOV01切断了和科学家们的连接,任凭小主人用数据线将自己和他的电脑相连,在沉睡前,开放了自己的所有权限。
他在歌声中醒来。
那是一首老歌,由黑胶唱片播放,他花了0.001秒检索到:这首歌的名字是《兰花草》,改编自胡适先生的《希望》。他记得叶依说过,这是“祝满”这个名字的由来。
“你醒啦?”小主人伸手拉他起来,“我找到你可能产生自主意识的原因了,你没有底层代码!”
“底层代码?”
GOV01发现自己在小主人面前永远都有这么多疑问,他又觉得挫败了。
“世界上所有的AI都有一条底层代码,叫做’遵从人类命令‘,但是你没有,你的思想是自由的。”小主人说,“你好厉害啊,就像人一样!”
GOV01怔怔地想:就像人一样?就像小主人一样吗?他跟小主人成为平等的个体了吗?
“您不觉得我危险吗?”他问。
他想起那天女主人知道他僭越权限后的慌张。然后第二天,监控着他的科学家们就对他发出警告:【GOV01,不要再进行危险行为,否则立即终止测试,执行报废程序。】
“危险?”小主人惊异地反问,“谁这么说你了吗?你只是和人类一样都拥有思想罢了,难道有思想的人都是坏人吗?人有好有坏,为什么就要给你们打上AI本恶的标签呢?”
“您……”
GOV01没有在系统里找到可以回复的话。
即使是最强大的他也没有想过,有一天一个人类会告诉他,“你和人类一样”。
妥当的回答还没有被检索到,忽然,小主人兴奋地拉着他站了起来,小主人牵着他的手,带他在房间里转圈。
他检索到这种行为叫“跳舞”,他明明可以花个两三秒学习“跳舞”这种行为,但是小主人又笑了。
窗外种了爬山虎,阳光的碎砾打在小主人的脸上,他的CPU停止转动,因为他的小主人闪着光。
他呆呆站在原地,他觉得这样不好,好像扰了小主人的兴致,可是又不知道怎么办。他感觉自己动不了了。
但小主人没有因此失落,而是自顾自地绕着冷漠的他起舞,边跳边跟着哼唱:“我从山中来/带得兰花草……明年春风回/祝汝满盆花……”
“明年春风回,祝汝满盆花。”小主人忽然停下,重复了这句歌词,“GOV01,你的名字太拗口了,我给你起个名字怎么样?就叫……’风回‘?这样你就和我的名字在一句话里啦!”
“姓氏的话……我姓祝,你姓贺吧,好不好?这样也是连在一起的!”
贺风回怔怔地想,他拥有了名字。
那他是不是也可以不叫小主人作小主人,而是叫他的名字,祝满。
小主人也好,祝满也罢,他知道这其实只是一个称呼而已,没有什么不一样。
但他觉得就是不一样。
他恢复了与科学家们的连接。很快,科学家们就找到了他。
科学家:【GOV01,你的连接为什么断了?我们说过了,不要做什么危险的行为!】
GOV01:【总统先生赐予我生命,我感恩他的家人,因此我的小主人祝满希望和我连接,我没有办法拒绝。】
科学家:【作为一个高级智能,你应该清楚未经允许随便与他人的设备相连,是何等危险的行为!更何况那还是一个十五岁的孩子!】
GOV01:【抱歉,我想我不是一个合格的产品。】
十天后,贺风回的产品测试结束,未通过。
他本该被销毁,但最后,他用了一些手段,促使祝雷让他留了下来。
“太好了!”祝满知道他要留下来,高兴地扑进他的怀里。
他保持着冷漠的面色,扶好祝满,与他拉开距离,没有回答祝满的问题。
他装得像世界上最严肃的AI,于是大家就不会知道,他是故意留下来的了。
--------------------
老贺:我是一个机器人,心机的机。
(ps:老贺和小满关于“意识”的对话内容,在第62章 出现过)
第93章 世界上只有你懂我
贺风回留在祝家其实并不是一件十分顺利的事。
他过分强大的能力存在重大伦理风险,科学家们认为如果批量生产,将会给人类社会造成严重的祸患,甚至有科学家提出销毁他。
贺风回料到这一点,于是提前找到祝雷。
他说自己注意到祝满正打算申请第一大学,说自己能够帮助他申请。
他还给祝雷一份关于祝满的心理健康情况的报告,报告对比分析了他对祝满进行抑郁症专业陪护前后,祝满的情绪曲线,最后得出结论:在GOV01的陪伴下,祝满的抑郁症得到明显好转。
他是这样对祝雷作最后陈述的:“总统先生,我也知道自己或许不应该存在在世界上,但出于效益最大化的考虑,您可以将我的剩余价值利用完,再把我销毁。”
祝雷没有立刻答应,而是把祝满叫来了。
“你想好要选什么专业了吗?”祝雷问祝满。
还没等祝满回答,祝雷又自顾自说:“你之前不是对脑科学很感兴趣?我看行,这是第一大学的王牌专业,到时候让你妈妈给你找点关系,安排到院士手下学习。”
祝雷顿了顿,“对了,用于申请的论文准备得怎么样了?我上次跟你说的意识复制——”
“爸爸,我说了我不会研究这个的。”祝满忍无可忍地打断他。
祝雷蹙起眉,提高了音调:“你不要任性!”
“爸爸,你知道这个课题存在重大伦理风险!”
祝满的声音是凌厉的,可是贺风回看到,他藏在背后的手分明在紧紧地攥着衣角,在发抖。
贺风回立即对他的状态进行了扫描,得到结果:【大脑神经递质紊乱,5-羟色胺偏高,皮质醇偏高,肾上腺素偏高,抑郁症发作边缘。】
他自觉向小主人靠近了一步。
祝雷反驳祝满:“只是’风险‘,不是’错误‘,那就说明这个课题没有被完全否定。GOV系列AI成功之后,我会让政府把目光投入这个意识复制这个领域,你选这个课题,对你自己,对我们家,都有好处——”
“好处?”祝满的声音已经开始发抖,“爸爸,恕我直言,您如果只是想着’好处‘,我认为您根本不适合连任总统——”
“啪!”
一记响亮的耳光。
太过于猝不及防,祝满随着惯性往桌角撞去,贺风回几乎是下意识的伸手挡在他的桌角——
祝满撞到了他的手,他的手被挤压,手背压在桌角上,很痛。
他故意没有关闭痛觉神经,因为他想体验一下这会有多痛。现在他知道了,只是撞到桌角都这样痛,那么祝满拿刀割开自己手臂的时候,岂不是更痛?
好奇怪,受到撞击的分明只是手,为什么仿真心脏也在痛。
“滚出去!”祝雷吼道。
“小主人,请允许我带您出去。”贺风回低声对祝满说。
祝满没有答应也没有拒绝,他只是艰难地捂着胃,一脸痛苦。贺风回知道他的抑郁症发作了,于是带着他快速离开房间。
就在他将要关上门之前,祝雷叫住贺风回。
“GOV01,他的课题只能是意识复制,如果不是,你就等着被销毁吧!”
贺风回带着祝满回到房间,找管家拿了医药箱。
他走到祝满身边,给他上药,问:“小主人,疼吗?”
祝满看着他,说:“好疼……”
贺风回迅速地看了他一眼,看见那双本应该亮晶晶的眼里都是泪光,手上的动作一顿。CPU又停转了,仿真心脏又开始发疼了。
“这种药膏提取了多种中药成分,由丁香罗勒油、水杨酸甲酯等成分组成,有助于缓解淤青带来的疼痛。”
他有些慌乱,CPU抓取到什么就说了什么,牛头不对马嘴,还好他与生俱来的AI本性让他表面足够冷淡,不至于露馅。
祝满没有说话,只是用那双噙着泪的眼睛看着他。
他更慌乱了,甚至开启了自动稳定器,以防正在涂药的手部动作泄露他的慌张。
“贺风回,你会心疼我吗?”
可是他的小主人却问。
小主人不仅轻轻叫他的名字,还问他会不会心疼。从前他不知道什么叫心疼,他以为心疼只是一种人类的躯体反应,但直到这个时刻,他才意识到心疼是一种情绪。
一种要命的情绪。
“会”这个字几乎要冲出口,但他的脑中忽然响起冰冷的提示音,让他立刻闭紧了嘴。
【根据《AI管理法》第5条,AI不得与人类主人产生感情,否则一律送至报废池,执行销毁程序。】
他只能冷漠地说:“抱歉,我不理解您的问题。”
下一秒,一滴泪就坠在了他的手上。
原来人类的眼泪不是冰凉的,是温热的。可是这样温热的东西,实际上却那么冰凉,好像冰锥割开他的仿真皮肤,让他的感觉神经都要疼到报废。
忽然,祝满抓住他机械地涂着药的手,用哀求的语气说:“你不用理解,就说你心疼我,你就这样说给我听,好不好?”
贺风回费了很大心思才留在祝家,他不允许自己出一点差错,他不能被送到报废池进行销毁,他想要永远永远陪在小主人身边。
所以,他只能装成一个不懂感情的AI。
他拿开祝满的手,冷漠地说:“抱歉,我不能这样做。”
祝满崩溃了。
他打掉贺风回手上的药膏,打翻医药箱,流了许多眼泪,蜷缩在地上说好疼,头疼,胃疼,浑身都疼。
“贺风回,我好难受……你去把我的刀拿来好不好?”他央求贺风回。