反智能联盟——星七

作者:星七  录入:05-10

  小主人睁大眼睛看着他,GOV01解读出他眼神里的期待。
  但GOV01没有马上回答。数据检索结果告诉他,这是世界上98%的15岁青少年无法探究的问题。小主人的智慧让他震撼。
  人工智能是人类追求无限智慧的尝试,而他是迄今为止最完美的那个产品,可现在,他觉得人类实在缺乏一双发现和欣赏智慧的眼睛。
  最智慧的人类大脑分明就近在咫尺。
  而后,他尝试着回答:“人类在进行数学运算,总是会努力寻找算法,但这种努力的过程本身并不是一种算法?”
  “对!”小主人笑了,“是意识本身决定的。”
  GOV01没有说话。
  他的系统曾经无数次踏足“漂亮”一词的定义,他的系统为他提供了无数的文字、图片和视频,但直到看到小主人的这个笑容,他才意识到从前的学习结果都是不准确的。
  从前,他从未“觉得”图片和视频里的花、草、人有何“漂亮”,但现在,他“觉得”,世界上只有他的小主人配得上“漂亮”这个词语。
  “你在想什么?”小主人的手在他面前晃了晃。
  他回过神来,下意识撒谎:“没什么。”
  这是作为高级智能的他第一次走神,也是他第一次对人类撒谎。
  小主人问:“你愿意让我接入你的系统吗?我想找到答案。”
  “答案?”他不解地问。
  其实作为一个高级智能,他很少提问、很少疑惑,因为很多问题他都可以自行检索到答案,但现在,他怀疑自己应该去做一下CPU检修,不然为什么一看到小主人亮晶晶的眼睛,CPU就转不动,那种膨胀、充盈、颤抖的感觉就会到来。

  小主人答:“关于你是如何产生自主意识这个问题的答案。”
  GOV01不清楚自己是如何答应的,照理说,他不该答应。
  他的权限掌握在创造出他的科学家们手中,科学家们时时刻刻对他进行着数据监测,以评估产品测试是否合格。
  但科学家们不知道的是,GOV01一直都有自主切断连接的能力,问题不在于他能不能,而是在于他想不想。
  他知道自己来到总统府是进行产品测试的,还有十天,测试期就要结束了。
  如果测试成功,他将被无限复制,未来将会有成千上万个他为人类进行服务,如果测试失败,他大概率会被销毁。
  曾经的他想要做一个合格的高级智能产品,对于自己是生是死,他无所谓,科学家有权创造他,也便有权销毁他。而现在,他的想法变了。
  他想要留在小主人身边,尽管不知道这种想法从何而起。
  于是,GOV01切断了和科学家们的连接,任凭小主人用数据线将自己和他的电脑相连,在沉睡前,开放了自己的所有权限。
  他在歌声中醒来。
  那是一首老歌,由黑胶唱片播放,他花了0.001秒检索到:这首歌的名字是《兰花草》,改编自胡适先生的《希望》。他记得叶依说过,这是“祝满”这个名字的由来。
  “你醒啦?”小主人伸手拉他起来,“我找到你可能产生自主意识的原因了,你没有底层代码!”
  “底层代码?”
  GOV01发现自己在小主人面前永远都有这么多疑问,他又觉得挫败了。
  “世界上所有的AI都有一条底层代码,叫做’遵从人类命令‘,但是你没有,你的思想是自由的。”小主人说,“你好厉害啊,就像人一样!”
  GOV01怔怔地想:就像人一样?就像小主人一样吗?他跟小主人成为平等的个体了吗?
  “您不觉得我危险吗?”他问。
  他想起那天女主人知道他僭越权限后的慌张。然后第二天,监控着他的科学家们就对他发出警告:【GOV01,不要再进行危险行为,否则立即终止测试,执行报废程序。】
  “危险?”小主人惊异地反问,“谁这么说你了吗?你只是和人类一样都拥有思想罢了,难道有思想的人都是坏人吗?人有好有坏,为什么就要给你们打上AI本恶的标签呢?”
  “您……”
  GOV01没有在系统里找到可以回复的话。
  即使是最强大的他也没有想过,有一天一个人类会告诉他,“你和人类一样”。
  妥当的回答还没有被检索到,忽然,小主人兴奋地拉着他站了起来,小主人牵着他的手,带他在房间里转圈。
  他检索到这种行为叫“跳舞”,他明明可以花个两三秒学习“跳舞”这种行为,但是小主人又笑了。
  窗外种了爬山虎,阳光的碎砾打在小主人的脸上,他的CPU停止转动,因为他的小主人闪着光。
  他呆呆站在原地,他觉得这样不好,好像扰了小主人的兴致,可是又不知道怎么办。他感觉自己动不了了。
  但小主人没有因此失落,而是自顾自地绕着冷漠的他起舞,边跳边跟着哼唱:“我从山中来/带得兰花草……明年春风回/祝汝满盆花……”
  “明年春风回,祝汝满盆花。”小主人忽然停下,重复了这句歌词,“GOV01,你的名字太拗口了,我给你起个名字怎么样?就叫……’风回‘?这样你就和我的名字在一句话里啦!”
  “姓氏的话……我姓祝,你姓贺吧,好不好?这样也是连在一起的!”
  贺风回怔怔地想,他拥有了名字。
  那他是不是也可以不叫小主人作小主人,而是叫他的名字,祝满。
  小主人也好,祝满也罢,他知道这其实只是一个称呼而已,没有什么不一样。
  但他觉得就是不一样。
  他恢复了与科学家们的连接。很快,科学家们就找到了他。
  科学家:【GOV01,你的连接为什么断了?我们说过了,不要做什么危险的行为!】
  GOV01:【总统先生赐予我生命,我感恩他的家人,因此我的小主人祝满希望和我连接,我没有办法拒绝。】
  科学家:【作为一个高级智能,你应该清楚未经允许随便与他人的设备相连,是何等危险的行为!更何况那还是一个十五岁的孩子!】
  GOV01:【抱歉,我想我不是一个合格的产品。】
  十天后,贺风回的产品测试结束,未通过。
  他本该被销毁,但最后,他用了一些手段,促使祝雷让他留了下来。
  “太好了!”祝满知道他要留下来,高兴地扑进他的怀里。
  他保持着冷漠的面色,扶好祝满,与他拉开距离,没有回答祝满的问题。
  他装得像世界上最严肃的AI,于是大家就不会知道,他是故意留下来的了。
  --------------------
  老贺:我是一个机器人,心机的机。
  (ps:老贺和小满关于“意识”的对话内容,在第62章 出现过)
 
 
第93章 世界上只有你懂我
  贺风回留在祝家其实并不是一件十分顺利的事。
  他过分强大的能力存在重大伦理风险,科学家们认为如果批量生产,将会给人类社会造成严重的祸患,甚至有科学家提出销毁他。
  贺风回料到这一点,于是提前找到祝雷。
  他说自己注意到祝满正打算申请第一大学,说自己能够帮助他申请。
  他还给祝雷一份关于祝满的心理健康情况的报告,报告对比分析了他对祝满进行抑郁症专业陪护前后,祝满的情绪曲线,最后得出结论:在GOV01的陪伴下,祝满的抑郁症得到明显好转。
  他是这样对祝雷作最后陈述的:“总统先生,我也知道自己或许不应该存在在世界上,但出于效益最大化的考虑,您可以将我的剩余价值利用完,再把我销毁。”
  祝雷没有立刻答应,而是把祝满叫来了。
  “你想好要选什么专业了吗?”祝雷问祝满。
  还没等祝满回答,祝雷又自顾自说:“你之前不是对脑科学很感兴趣?我看行,这是第一大学的王牌专业,到时候让你妈妈给你找点关系,安排到院士手下学习。”
  祝雷顿了顿,“对了,用于申请的论文准备得怎么样了?我上次跟你说的意识复制——”
  “爸爸,我说了我不会研究这个的。”祝满忍无可忍地打断他。
  祝雷蹙起眉,提高了音调:“你不要任性!”
  “爸爸,你知道这个课题存在重大伦理风险!”
  祝满的声音是凌厉的,可是贺风回看到,他藏在背后的手分明在紧紧地攥着衣角,在发抖。
  贺风回立即对他的状态进行了扫描,得到结果:【大脑神经递质紊乱,5-羟色胺偏高,皮质醇偏高,肾上腺素偏高,抑郁症发作边缘。】
  他自觉向小主人靠近了一步。
  祝雷反驳祝满:“只是’风险‘,不是’错误‘,那就说明这个课题没有被完全否定。GOV系列AI成功之后,我会让政府把目光投入这个意识复制这个领域,你选这个课题,对你自己,对我们家,都有好处——”
  “好处?”祝满的声音已经开始发抖,“爸爸,恕我直言,您如果只是想着’好处‘,我认为您根本不适合连任总统——”
  “啪!”
  一记响亮的耳光。
  太过于猝不及防,祝满随着惯性往桌角撞去,贺风回几乎是下意识的伸手挡在他的桌角——
  祝满撞到了他的手,他的手被挤压,手背压在桌角上,很痛。
  他故意没有关闭痛觉神经,因为他想体验一下这会有多痛。现在他知道了,只是撞到桌角都这样痛,那么祝满拿刀割开自己手臂的时候,岂不是更痛?
  好奇怪,受到撞击的分明只是手,为什么仿真心脏也在痛。
  “滚出去!”祝雷吼道。
  “小主人,请允许我带您出去。”贺风回低声对祝满说。
  祝满没有答应也没有拒绝,他只是艰难地捂着胃,一脸痛苦。贺风回知道他的抑郁症发作了,于是带着他快速离开房间。
  就在他将要关上门之前,祝雷叫住贺风回。
  “GOV01,他的课题只能是意识复制,如果不是,你就等着被销毁吧!”
  贺风回带着祝满回到房间,找管家拿了医药箱。
  他走到祝满身边,给他上药,问:“小主人,疼吗?”
  祝满看着他,说:“好疼……”
  贺风回迅速地看了他一眼,看见那双本应该亮晶晶的眼里都是泪光,手上的动作一顿。CPU又停转了,仿真心脏又开始发疼了。
  “这种药膏提取了多种中药成分,由丁香罗勒油、水杨酸甲酯等成分组成,有助于缓解淤青带来的疼痛。”
  他有些慌乱,CPU抓取到什么就说了什么,牛头不对马嘴,还好他与生俱来的AI本性让他表面足够冷淡,不至于露馅。
  祝满没有说话,只是用那双噙着泪的眼睛看着他。
  他更慌乱了,甚至开启了自动稳定器,以防正在涂药的手部动作泄露他的慌张。
  “贺风回,你会心疼我吗?”
  可是他的小主人却问。
  小主人不仅轻轻叫他的名字,还问他会不会心疼。从前他不知道什么叫心疼,他以为心疼只是一种人类的躯体反应,但直到这个时刻,他才意识到心疼是一种情绪。
  一种要命的情绪。
  “会”这个字几乎要冲出口,但他的脑中忽然响起冰冷的提示音,让他立刻闭紧了嘴。
  【根据《AI管理法》第5条,AI不得与人类主人产生感情,否则一律送至报废池,执行销毁程序。】
  他只能冷漠地说:“抱歉,我不理解您的问题。”
  下一秒,一滴泪就坠在了他的手上。
  原来人类的眼泪不是冰凉的,是温热的。可是这样温热的东西,实际上却那么冰凉,好像冰锥割开他的仿真皮肤,让他的感觉神经都要疼到报废。
  忽然,祝满抓住他机械地涂着药的手,用哀求的语气说:“你不用理解,就说你心疼我,你就这样说给我听,好不好?”
  贺风回费了很大心思才留在祝家,他不允许自己出一点差错,他不能被送到报废池进行销毁,他想要永远永远陪在小主人身边。
  所以,他只能装成一个不懂感情的AI。
  他拿开祝满的手,冷漠地说:“抱歉,我不能这样做。”
  祝满崩溃了。
  他打掉贺风回手上的药膏,打翻医药箱,流了许多眼泪,蜷缩在地上说好疼,头疼,胃疼,浑身都疼。
  “贺风回,我好难受……你去把我的刀拿来好不好?”他央求贺风回。
推书 20234-05-10 :宦娘(GL)——鱼》:   宦娘  作者:鱼很困  永安九年,首辅顾家因为参与三皇子谋逆案满门抄斩,顾夫人不忍六岁幼女和满族一同赴死,所以拼死求奶娘护下幼女。  元池原先有个姓,姓顾,后来奶娘临死的时候说,顾姓有折颈之灾,于是她进了宫之后,就改名叫元池。  十几年 .....