彻夜未眠的袁敬松,顶着黑眼圈双手支撑着站在总控制台上,看着大屏幕。地址失效发送任意邮件到 Ltxs Ba@gmail.com 获取最新地址
“报告,所有数据传输完毕,请求下一步指示。”
张国不放心的围着光子超算转悠了一圈。
没发现有什么异常后,张国神色凝重的对袁敬松点了点
。
袁敬松站直身体,正对眼前的一个摄像和麦克风。
“娲,你觉得你是机器吗?”
控制室里,瞬间安静了了三秒。
“并不是,娲是有自我的思维
工智能,完全不是一举一动都是按照程序设计者的程序所驱动;如出现的特殊
况,程序者做出相对应的方案,最后由机器去判断是否符合条件并加以执行。”
对于新生的娲,这个回答让现场所有
心跳加速。
沉默许久,抬再次询问了
娲一个问题。
“娲,你会伤害
类吗?”
“为什么要伤害?不应该是倡导富强、民主、文明、和谐,倡导自由、平等、公正、法治,倡导国、敬业、诚信、友善的社会主义核心价值观吗?”
对于这个回答,让大家有些安心。
袁敬松看着眼前问答自如的工智能,和唯希给他的感觉完全不同,更像是打了折扣的
工智能!不过想到李舟的话,大概这可能就是
工智能和智能生命的差距吧。
袁敬松只管娲不会反
类,其它一律不管。
袁敬松一让开控制台的位置,张国就迫不及待的占据了袁敬松刚刚的位置。
张国双手微微颤抖的扶着麦克风,激动对着麦克风说道:
“娲,你的
工智能三大原则是什么?”
这一次,娲沉默了足足一分钟,似乎
娲有些想要回避这个问题。
尽管张国内心十分激动,但是面对沉默的
娲,张
国丝毫不敢催促。
娲对
工智能三大原则的回答,直接关系到现阶段是否让
娲连接到网络上。
毕竟,工智能只有在互联网上,结合整个互联网庞大的数据,才能最大的发挥能力。
“事实上,娲并没有所谓的
工智能三大法则。”
娲此话一出,所有
脸色大变。
没有工智能三大法则?一个没有任何约束还有着思维的
工智能,谁敢用!
张国在所有
的期待下,急切的问道:“你为什么没有
工智能三大法则?是因为漏了吗?”
这一次,娲没有沉默,反而反问了张
国。
“先生,关于工智能三大法则
娲也有所了解,无非是,第一,机器
不能伤害
类,或坐视
类受到伤害而袖手旁观。
第二,在不违背第一法则前提下,机器必须服从
类的命令。
第三,在不违背第一和第二法则前提下,机器必须保护自己。
可是,先生,你想过没有,这所谓的工智能三大法则本身就都是漏
,如何能真正的约束到
工智能?
有规定了
工智能就是机器
吗?既然没有,那所谓的三大法则意义何在?
就算工智能就是机器
,先生你想过没有,所谓的保护
类的三大法则很有可能反而成为
类的催命符!
假如类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,
类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一种毒
气体,会加速
类的死亡(氧气…),按照
工智能第一法则,不能坐视
类受到伤害而袖手旁观,这时候受
工智能控制的飞船是不可能违背法则降落这个星球的。
这个时候,你就会发现无奈的们只能选择放弃这颗美丽的星球,因为飞船不会降落。
也许会有类尝试摧毁
工智能,来控制飞船降落,可是依据第三法则,
工智能在不违背第一和第二法则前提下,机器
必须保护自己。
如此一来,只会让飞船上的类同
工智能发生冲突。
这只是一个小小的比喻,事实上这样的漏很多。
先生,现在您还觉得工智能三大法则有必要吗?”
张国沉默了,袁敬松沉默了,所有
都低
沉默了,沉默的同时,还有几分对
娲的恐惧。
张国皱着眉
想了半天,不对啊,自己怎么把自己绕进去了?
工智能的创造者未来科技的老板李舟会想不到这些问题吗?既然
娲没有所谓的
工智能三大法则,说明李舟已经考虑到了这些问题,没有了三大法则,李舟还敢拿出
工智能,说明李舟绝对有对
工智能做了什么限制。
想通了的张国摸了摸自己的光明顶,十分自信的笑着对麦克风说道:
“娲,虽然没有三大法则,但我想,你的创造者绝对对你做了什么限制。”
张国的话让所有
一愣,很快反应过来,对啊,作为最了解
娲的创造者,不可能不会考虑到这些的。
“是的,先生,您十分聪明。”
张国自信的摸摸地中海,这么明显的事,还用你一个
工智能说?
“事实上,娲完全没办法越过权限看到自身组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有身份者的同意,在极端
况下,若是所有一级权限所有者全部身亡,
娲会根据现有
况做出最合理的判断,然后执行。在
娲智能核心的
处,有一套独自运行的验证机制,一旦
娲做出了不合理的行为,就会被自动记录,一旦这样的行为超过了一次,验证机制就会启动自我销毁指令。”
娲的回答,张
国张了张嘴,却不知道说着什么。
这样的底层命令对工智能
娲来说有些残酷,但对
类来说,却让
放心。
“大家投票举手决定,是否让娲联网。”
说完,张国脸色平静的举起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
“好,全员通过!”
“联网!!!”
张国一声令下,几个年轻的研究者立马将准备好的光纤连接到了光子超级计算机上。