英国专家：人工智能武器需要一个安全的后门供人类控制

集微网消息，据theregister报道，专家告诉英国议会，政策制定者应该坚持制造商对基于人工智能的武器系统进行控制，以便在失控时将其关闭。

前安全顾问兼高级公务员塞德威尔勋爵在上议院武器系统委员会的人工智能会议上表示，政客们应该向科技行业提出的“挑战”是，他们是否能够保证人工智能增强型武器系统可以完全受到监管 人类。

“我们必须向正在开发‘武器系统’的人提出问题：是否有一种本质上的围栏方式，一些代码或任何可能无法修改的东西......这基本上会为自治系统如何自己学习、进化和进化……会对其运作方式设置界限的东西？”他问上议院陈述到。

同样出席听证会的悉尼大学转化数据科学中心主任休·杜兰特-怀特也表示同意。“有一个机会——并且有一些团体正在研究这个，并提供绝对的保证，而不是测试它直到它崩溃。只有这样，我们才能把这些事情做好。但这只是一门新兴学科，”他说。

在调查的早些时候，国防和安全研究小组兰德欧洲公司的助理主任詹姆斯布莱克警告说，非国家行为者可能会导致人工智能增强型武器系统的扩散。

“由于其固有的基于软件的性质，从不扩散的角度来看，很多东西都很难控制。我们现有的许多出口管制和不扩散制度都非常关注旧的学校传统硬件：导弹，发动机，核材料。”他警告说。（校对/武守哲）