彻夜未眠的袁敬松,顶着黑眼圈双手支撑着站在总控制台上,看着大屏幕。地址失效发送任意邮件到 Ltxs Ba@gmail.com 获取最新地址
“报告,所有数据传输完毕,请求下一步指示。”
张
国不放心的围着光子超算转悠了一圈。
没发现有什么异常后,张
国神色凝重的对袁敬松点了点
。
袁敬松站直身体,正对眼前的一个摄像
和麦克风。
“
娲,你觉得你是机器吗?”
控制室里,瞬间安静了了三秒。
“并不是,
娲是有自我的思维
工智能,完全不是一举一动都是按照程序设计者的程序所驱动;如出现的特殊
况,程序者做出相对应的方案,最后由机器去判断是否符合条件并加以执行。”
对于新生的
娲,这个回答让现场所有
心跳加速。
沉默许久,抬
再次询问了
娲一个问题。
“
娲,你会伤害
类吗?”
“为什么要伤害?不应该是倡导富强、民主、文明、和谐,倡导自由、平等、公正、法治,倡导
国、敬业、诚信、友善的社会主义核心价值观吗?”
对于这个回答,让大家有些安心。
袁敬松看着眼前问答自如的
工智能,和唯希给他的感觉完全不同,更像是打了折扣的
工智能!不过想到李舟的话,大概这可能就是
工智能和智能生命的差距吧。
袁敬松只管
娲不会反
类,其它一律不管。
袁敬松一让开控制台的位置,张
国就迫不及待的占据了袁敬松刚刚的位置。
张
国双手微微颤抖的扶着麦克风,激动对着麦克风说道:
“
娲,你的
工智能三大原则是什么?”
这一次,
娲沉默了足足一分钟,似乎
娲有些想要回避这个问题。
尽管张
国内心十分激动,但是面对沉默的
娲,张
国丝毫不敢催促。
娲对
工智能三大原则的回答,直接关系到现阶段是否让
娲连接到网络上。
毕竟,
工智能只有在互联网上,结合整个互联网庞大的数据,才能最大的发挥能力。
“事实上,
娲并没有所谓的
工智能三大法则。”
娲此话一出,所有
脸色大变。
没有
工智能三大法则?一个没有任何约束还有着思维的
工智能,谁敢用!
张
国在所有
的期待下,急切的问道:“你为什么没有
工智能三大法则?是因为漏了吗?”
这一次,
娲没有沉默,反而反问了张
国。
“先生,关于
工智能三大法则
娲也有所了解,无非是,第一,机器
不能伤害
类,或坐视
类受到伤害而袖手旁观。
第二,在不违背第一法则前提下,机器
必须服从
类的命令。
第三,在不违背第一和第二法则前提下,机器
必须保护自己。
可是,先生,你想过没有,这所谓的
工智能三大法则本身就都是漏
,如何能真正的约束到
工智能?
有
规定了
工智能就是机器
吗?既然没有,那所谓的三大法则意义何在?
就算
工智能就是机器
,先生你想过没有,所谓的保护
类的三大法则很有可能反而成为
类的催命符!
假如
类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,
类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一种毒
气体,会加速
类的死亡(氧气…),按照
工智能第一法则,不能坐视
类受到伤害而袖手旁观,这时候受
工智能控制的飞船是不可能违背法则降落这个星球的。
这个时候,你就会发现无奈的
们只能选择放弃这颗美丽的星球,因为飞船不会降落。
也许会有
类尝试摧毁
工智能,来控制飞船降落,可是依据第三法则,
工智能在不违背第一和第二法则前提下,机器
必须保护自己。
如此一来,只会让飞船上的
类同
工智能发生冲突。
这只是一个小小的比喻,事实上这样的漏
很多。
先生,现在您还觉得
工智能三大法则有必要吗?”
张
国沉默了,袁敬松沉默了,所有
都低
沉默了,沉默的同时,还有几分对
娲的恐惧。
张
国皱着眉
想了半天,不对啊,自己怎么把自己绕进去了?
工智能的创造者未来科技的老板李舟会想不到这些问题吗?既然
娲没有所谓的
工智能三大法则,说明李舟已经考虑到了这些问题,没有了三大法则,李舟还敢拿出
工智能,说明李舟绝对有对
工智能做了什么限制。
想通了的张
国摸了摸自己的光明顶,十分自信的笑着对麦克风说道:
“
娲,虽然没有三大法则,但我想,你的创造者绝对对你做了什么限制。”
张
国的话让所有
一愣,很快反应过来,对啊,作为最了解
娲的创造者,不可能不会考虑到这些的。
“是的,先生,您十分聪明。”
张
国自信的摸摸地中海,这么明显的事,还用你一个
工智能说?
“事实上,
娲完全没办法越过权限看到自身组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有身份者的同意,在极端
况下,若是所有一级权限所有者全部身亡,
娲会根据现有
况做出最合理的判断,然后执行。在
娲智能核心的
处,有一套独自运行的验证机制,一旦
娲做出了不合理的行为,就会被自动记录,一旦这样的行为超过了一次,验证机制就会启动自我销毁指令。”
娲的回答,张
国张了张嘴,却不知道说着什么。
这样的底层命令对
工智能
娲来说有些残酷,但对
类来说,却让
放心。
“大家投票举手决定,是否让
娲联网。”
说完,张
国脸色平静的举起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
“好,全员通过!”
“联网!!!”
张
国一声令下,几个年轻的研究者立马将准备好的光纤连接到了光子超级计算机上。