早在2017年2月，剑桥大学的生存威胁研究机构相关人员就列出了10种可能导致世界末日、人类灭绝的威胁。名列前茅的正是人工智能和“杀手机器人”。
业界普遍认为，截至目前，人类的武器已经进行了两次革命：火药和核武器。现在“杀手机器人”所代表的致命性自主武器系统正在拉开第三次革命的帷幕。
【问题复杂】军用机器人革命是福是祸
人工智能迅速发展给社会各个领域带来深远影响，对军事作战系统研发也带来全新理念。
耶鲁大学的研究人员把军用机器人列为人工智能技术最有前途的应用领域之一。军用机器人的用途太诱人：既可降低己方士兵的风险，又能降低战争的代价。它省去了军人的薪水、住房、养老、医疗等开销，又在速度、准确性上高于人类，而且不用休息。它不会出现只有人类战斗员才会有的战场应激障碍，情绪稳定，无需临战动员，一个指令，就能抵达人类不可及之处，完成各种任务。
然而，人工智能界的专家学者及防务分析人士认为，军事机器人革命带来的伦理、法律及政策等问题，尤其是自主武器能否自行判断杀敌与否，是人们亟须担忧和讨论的现实问题。
大多数专家学者一致认为，使用致命武器时，人应当是负责启动的关键要素。对什么样的人工控制才是最适宜的讨论还未结束，相关的政策制定又已被人工智能技术的飞速发展甩在身后。随着具有认知能力人工智能系统的出现，更复杂的问题出现了。
【安全隐患】自主武器可靠性难测试
新美国基金会研究人员、防务政策分析人士辛格在其著作《连线战争：21世纪机器人革命和冲突》中指出，地缘政治、知识前沿领域不断前进的动力甚至是追求利益的科技企业，都是人工智能发展不可阻挡的力量。简单来说，大部分人现在最感到恐惧的是该不该让能够“思考”的人工智能系统决定是否杀人。
同时，学界还担心，如果“杀手机器人”被大规模列装，一个潜在的问题令人不安：它们如何识别平民和战斗人员？它们会不会滥杀无辜？
新美国安全中心技术和国家安全项目主管沙雷表示，自主武器系统可能因代码问题或黑客攻击而失灵，机器人攻击人类部队，人类无法作出反应或局部局势迅速升级的情况都有可能发生。自主武器系统的可靠性难以测试，会“思考”的机器系统可能以人类操控者从未想象到的方式行事。
美国国防部前副部长米勒认为，自主武器系统在战事激烈的地区执行任务，让机器全权负责的诱惑可能会难以抵制，技术上的可能总是让人们作出利于形势的选择。
【法律伦理】机器犯错谁来负责
“如果机器人犯错误，责任应该归谁呢？”英国的一名机器人技术教授诺埃尔·沙尔吉说道，“显然这不是机器人的错。机器人可能会向它的电脑开火，开始发狂。我们无法决定谁应该对此负责，对战争法而言，确定责任人非常重要。”
伦理学家眼里，杀手机器人同样存在致命的缺陷。这意味着将剥夺自然人生命的权利交给非自然人，等于将人的生命和人的尊严交给机器来判定，不但没有平等性，也是对人类生命权以及人格尊严的侮辱。
观点
“杀手机器人”何时出现？
“目前世界上还没有严格意义上的‘杀手机器人’”，中科院自动化所学者李长亮说，马斯克描述的场景在未来存在可能性，但近几年不会出现。不过外界有猜测认为，美国一些军火公司可能已经掌握人工智能武器的相关技术，但从掌握技术到真正投放产品，还有一段路要走。 终极考验
如何让“杀手机器人”有“正义感”
1942年，美国著名科幻小说家阿西莫夫曾创立机器人定律。其中首要定律便是：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。那么，问题又来了，当机器人的主人和其他人类冲突时，机器人又该如何抉择？
这恐怕正是我们担心的核心所在。事实上，自1920年戏剧《罗莎的万能机器人》上演以来，无论是电视剧《神秘博士》，还是电影《终结者》《异形终结》《西部世界》《我，机器人》以及《银翼杀手》等科幻电影和小说，一直贯穿这一主题：人类设计并主导的“杀手机器人”最终成为反叛者，拥有独立意识，从战争的辅助工具转变为与人类为敌的杀戮者。
关于机器人题材的电影和故事几乎没有好结局。这源自我们人类的深层恐惧——如何让杀手机器人有“正义感”？
纽约州立大学布法罗分校的媒体理论助理教授特罗·卡尔佩（Tero Karppi）指出，“在此之前先有了相关技术和科技，这些系统的构想和研发才得以变成现实。”
如果我们能以某种方式为机器智能编码、使其无法区分人类与机器之间的区别呢？这是个很有意思的想法：如果没有“人类”与“机器”之分，也就不会有“人类与机器之争”了。
卡尔佩提出，或许我们可以从根本上改变未来机器对人类的理解方式。
要想在未来与机器人和平共处，关键是要意识到，机器人归根结底不过是人类创造出的产物。未来的机器人不会是来自外太空的科技强军（但愿如此），而是由人类一手打造的。
“机器智能已经成为了现实，我们需要学会与它们共处，”卡尔佩指出，“这不仅仅是一个技术或工程问题，还囊括了文化、人性和社会关系。” ■综合新华社、解放军报
