且慢,且慢,还有最后一个问题没有解决。
赋予机器人自主迭代更新,意味着人类将失去对它的绝对掌控力,它是向着更好的服务人类的方向迭代,还是向着壮大自身的方向迭代,没人能预料得到。
但我已经没有时间纠结了。
在不断地反馈和催促下,我把”机联网”系统做了一次史无前例的优化,然后做了最后一次全网机器人在线更新。
此后,全球各地的机器人将根据自身情况,不定期地进行当前最合理的优化更新。
同时,全球所有的机器人也会跟着同步更新。
可以说,全球上万台机器人里并没有”主脑”,但也可以说,每一台机器人都是”主脑”。
而我能做的就是一刻不停地盯着更新日志,把任何有可能威胁到人类的优化更新扼杀于萌芽之中。
…果不其然,反响十分热烈。
有人反馈,机器人现在可以随时监测主人的身体状况,制定科学的饮食方案;有人反馈,机器人现在可以随时观察主人的生理和心理状态,以此督促主人的衣食住行;有人反馈,机器人的工作能力更强了,很多看似必须人类亲自上阵的工作例如谈判、策划、设计,机器人也能轻松掌握。
这样的好评越来越多,但我的心里却越来越担忧:机器人正在掌控人类。
我原以为这一天尚且遥远,没想到来的那么快。
九个月后,助理紧张兮兮的告诉我,机器人发生了异常。”
什么异常?”
”用户反馈,机器人不再为人类服务了。”
”不可能,绝对不可能!”
我死死地盯着更新日志,试图从中找出异常的更新记录,但毫无收获。”
所有的自主迭代更新都有记录,没有任何异常!”
我几乎是咆哮着喊出这句话。”
用户反映,机器人不再像往常一样指挥机器人做饭,干家务,工作,而是连续好几天呆在那里一动也不动,不知道在干什么。
刚开始我们以为是故障,打算派网点的工程师上门检修,但随着反馈同样问题的用户越来越多,我们意识到这不是简单的小问题。”
”搬一台机器人到实验室。”
几分钟后,一台看似人畜无害的机器人站在了我面前。
如助理所说,开机后,任凭我如何对它发号施令,它始终站在那里一动不动。
我检查了它的仿生大脑和不知迭代更新了多少次的代码,并未发现任何异常。”
没有硬件问题,也没有BUG,到底是哪里出了问题?”
这时,我检测到它的系统里正在运行一道程序。
不知为何,这道程序并未在机联网里展示,也无从得知这道程序是什么内容。”
也许是一个重大更新。
看起来,这道程序已经运行了90%左右,过两天就知道了。”
”好的,我这就安排人员回复用户。”
”先等等。”
我叫住助理。”
机器人偷偷运行着一道隐蔽的程序,显而易见,它知道这道程序是绝对不会被人类同意的。
你猜猜,这可能是一个什么样的程序?”
”自我意识?
或者掌控人类?”
我微微点头。”
不错。
虽然是猜测,但我认为,当前最好的选择,是终止这道程序。”
”用户会同意吗?
如果终止,是不是意味着机器人的自主迭代更新已经到了上限?”
我向助理投去一个赞许的微笑。”
不
请收藏:https://m.biqu7.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)