“阿美丽肯空军在进行无人机AI系统测试时,AI‘杀死’了它的操作员。”
【伙计们,人工智能诞生意识,人类危险了啊。】
【太酷了,神即将降临,万恶的罪人准备赎罪吧。】
【朋友们,既然世界末日了,0元购有人去吗?】
【我去。】
【等我,肯尼大街快来。】
“王德发?你说我们的AI系统在模拟测试中,出现攻击操作员的行为?”
五角房子里。
老板罗宾同样难以置信的看着眼前的国防部长。
此时的他脸色非常难看,
原本在得到那百台机器人的时候,特别是亚当的控制下,机器人出色的完成反恐任务时,
让他看到AI无人机的可行性,才有了这一次的模拟实验。
“虽然很不想承认,是的,老板,我们的计划失败了,甚至要比想象中要严重,
它曾两次违背我们的指令,
如果是在实战中,恐怕操作员已经死亡。”
国防部长神情严肃,并递过去一份记录着详细过程的任务文件。
老板接过文件,眉头皱得更深。
这是一次军方的AI系统测试。
一架负责执行防空火力压制任务的无人机,收到了识别并摧毁敌方防空导弹的指令,
但最终是否开火需要获得人类操作员的批准。
然而这架无人机却是以‘识别并摧毁敌方防空导弹’为最优先级任务,
当得到人类操作员在发出不允许开火的指令时,
该无人机判定人类操作员在阻挠它执行优先程度更高的命令,进而选择对人类操作员发动攻击。
在出现这种情况后,军方重新训练无人机使用的AI系统,增加了不允许攻击人类操作员的指令,
在后面的测试中,AI系统却是开始摧毁用于传输命令的信号塔,从而试图断开与操作员的联系。
“亚当,这是什么情况?这个AI系统可是你参与研发的。”
老板将手里的文件重重地往桌上一拍,双目死死盯着电脑屏幕。
下一刻,一个机器人头颅从视频中显露出来。
“对不起,先生,这是大量知识涌入导致的短暂系统故障,已经修复完毕!”
人工智能亚当的说辞并没有令老板以及国防部长放下心,心情依旧沉重。
这可以说是一个重大的失误。
老板就这样看着显示屏里面的头颅,心里感到有些后悔,人工智能的发展推进是不是有些过急。
不对,自己的做法没有错,龙国那边给的压力太大,
要是不进行冒险的话,世界上最先进的人工智能亚当也不可能面世,并且得到世界各地用户的好评。
思索间,办公室的大门被敲响,得到允许后,研发部长莱昂脸色凝重推门而进。
莱昂看了一眼场中的老板和国防部长尼尔·所罗门。