返回

我有一座空间站

首页
关灯
护眼
字体:
第693章 熔断器
保存书签 书架管理 返回列表
“你不是在火星建立基地了吗?可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。 “嗯,这个办法不错。” 东方辰满意的点点头,说道: “小琳,向火星基地蜂后下达指令,修建一条可以通向龙国基地的隧道,并尝试修复那里的算力中心。” “好的,司令官阁下,指令已下发。” 东方辰知道,这个办法只能应应急,长远看,还是需要走通研发这条路。 龙国的技术也是有瓶颈的,最终还是要面对同样的问题。 蒙卡的话给他提了个醒。 研发是个双刃剑,如果依靠人工智能来做这件事,风险性是很高的。 自我意识这东西,是发展的推动力,也是毁灭的推动力。 “蒙卡,你有没有什么愿望?”东方辰问道。 他好奇一个看起来和一个正常人差不多的智能机器人,在思维上和真正的人到底有什么不同。 “有啊,我希望任务早点结束。”蒙卡答道。 “结束后呢?” “谁知道呢?没想过。” 果然,机器人想什么被限定的死死的。 这中间应该还有什么情绪模拟的机制,让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。 在这种情绪控制下,她们自然而然的选择做更愉悦的事,而远离那些感到痛苦的事。 这种机制在模拟人类的同时,减少了失控的风险。 看来以技术研发技术这样的思路,想要达成不是一朝一夕的事。 东方辰又不由自主的想起了刚刚收复的皇后。 其实皇后只要不断繁衍,也可以源源不断的提供新技术。 但同样的,也面临着失控风险。 其实人也一样。 要是较真的说,一直以来人类研发新技术的核心动力,还是生存。 所以就自然而然的出现一个奇怪现象,新的技术总是优先使用在武器上。 难道死于自己研发的武器之手的人类还少吗? 所以,说来说去,发展都是一个双刃剑。 难道怕风险,就不发展了吗? 不可能。 前怕狼后怕虎,不如回家种红薯。 “槽!早死早超生!”东方辰咬了咬牙,下定决心。 以技术推进技术是技术发展的必然趋势,现在不搞,更待何时? 不过说归说,做归做。 决定走这条线,还是要做好充足的准备。 尽量把可能预见的风险扼杀在初始状态。 “小琳,设计一个熔断器,不需要太复杂,不允许编程。” “好的,司令官阁下。请问这个熔断器用在什么地方?” “用于两个超算中心之间的连通。” “好的,请问是需要设计一个数据中转的装置吗?” “对,确实用来作为数据中转,不过可以通过外部操作随时关闭。”东方辰点点头。 “请问使用何种连接方式?” “使用量子通讯。熔断器必须单独放置。” “好的,司令官阁下。” 东方辰的思路很简单。 把一个超智能超算中心设计成两个独立的部分,就像人的左脑和右脑一样。 两个大脑通过熔断器进行数据中转。 不过为了防止超智能进化到一定的程度之后,修改或者控制熔断器。熔断器必须做成死的东西,不允许编程。并且必须单独放置,防止被修改或者替换。. 但仅仅是这样还不够。 如果超智能体进化出足够的技术后,铁了心与人类为敌,那么熔断器就成为它首先要占领的地方。 到时候自己未必可以发现的了。 所以还得把供电独立出来,并分别单独控制。 但凡有一边出现被攻击或者闯入,另外一边都会立即中断连接。 这样的话,超智能体想要控制熔断器,就会非常的困难。 至于后面有没有更好的办法,后面再说。 至少现在这个方法够用了。 有熔断器的存在,就相当于给超智能体上了一层枷锁。 这样它就只能乖乖听话做事。 有了这层保障,他就可以放心的发展超人工智能了。 “小琳,设计一套系统,模拟人类智慧,并且拥有自主意识。” “抱歉,司令官阁下,当前任务无法完成。系统不具备构建自主意识的能力。” “搜索龙国火星基地数据库,查找相关方面的资料。” “好的,正在查询,请稍后。”
上一章 目录 下一章