7月初，美国达拉斯警察局在处理一次针对警方的暴力事件中，用远程控制方式让一个排爆机器人炸死了犯罪嫌疑人。虽然此前机器人和无人机已在军方获得广泛的应用，但在美国本土，执法部门用机器人杀人还尚属首次。

    此事一出就迅速引发了大量的关注和讨论，诸如“机器人杀人”这样充满噱头的字眼大量出现在新闻标题中。那么人们是否应该为此感到紧张和担忧呢？

    军用无人机

    战争一直以来都是推动技术前进的重要力量，在战场上遥控杀戮自然不是什么新鲜事物。

    早点的例子有英国在1346年克雷西战役中引入的英格兰长弓和第二次世界大战期间，纳粹德国研制的V-1和V-2火箭。

    在14—15世纪的英法百年战争中，长弓是英国弓箭手的主战武器。射程可达300米左右，具有一定的破甲能力，能在对阵时对敌方冲锋的士兵和战马造成巨大伤害。纳粹德国的V-1和V-2火箭在当时是一种极为先进的武器，可谓是现代弹道导弹的鼻祖。V-2火箭的最大速度可以达到4倍音速，几乎无法防御。英国因火箭袭击死亡1.16万人，伤6.6万人。

    如今，遥控武器的使用更为普遍。“捕食者”和“收割者”这样的无人机就是其中的代表，它们早已被用于传统战场。

    与有人驾驶飞机相比，无人机更为高效，具有轻便灵活、滞空时间长、不易被发现的特点。此外，还能避免飞行员的死伤。美国白宫今年7月1日发布数据称，2009年至2015年，美国在阿富汗、伊拉克和叙利亚3个战区以外地区共发动473次袭击，其中大部分是无人机袭击。无人机已从美国情报机构的实验项目发展成美国在海外高度依赖的空中打击力量。目前，欧洲正在研制神经元无人机，随着人工智能技术发展，无人机的自主作战能力将越来越强。

    但是，批评者认为，由于这种打击手段缺乏风险，从根本上降低了使用致命武器的门槛，极易导致滥用。此外，近年来备受诟病的还有无人机造成平民伤亡等附带损伤问题。

    地面武装机器人

    除了天上飞的，还有地上跑的。如今，机器人同样被部署到地面部队。

    韩国就用机器人哨兵来守备边界。这些机器人配有热感应、运动检测装置和机关枪与榴弹发射器。研发人员表示，其优点是不会疲倦，不会睡着，能随时保持警戒。当感知到潜在的威胁后，它会立即通知指挥中心，在接到开火命令后进行射击。

    值得注意的是，其开火命令仍然由人类发出。这回到了“达拉斯事件”的关键点上——机器人仍然是在人类的控制之下。未来我们真正需要担心的不是遥控武器而是那些能够自主作战的自动化武器，而这两者经常被错误地混为一谈。真正的自主机器人系统将不再需要人类发出的开火或引爆命令，这也是韩国武装机器人未来发展的目标。下一步这些机器人可能会被教会如何辨别敌友，然后再自行开火。

    未来学家设想一群预设了目标的将战争法和交战规则编入程序的纳米机器人进行战斗的情景，美国海军已经在用无人机集群进行这样的尝试。但目前的问题是这种机器人如何应对复杂局面和伦理困境，如在某种特定场景下是否开火，以及面临可能出现的平民伤亡如何抉择。这与目前自动驾驶汽车面临的问题几乎别无二致——是选择撞上一群孩子，还是让自己的乘客受伤。

    这些担忧在自动化领域也是一个老话题。此前争议最大的是美国在冷战期间设计的一种在遭到核打击后第一时间进行反击的计算机系统。

    网络安全隐忧

    当自动化遇到互联网后，这一问题会变得更为复杂。

    同样是在冷战期间，美国制造了一台被称为半自动地面防空系统（Sage）的装置。它可以被称为最早由人工操作的实时控制计算机系统，借助联网的计算机，它能接收各个雷达站传来的信息，识别出入侵美国领空的苏联飞机。不久后，用于反击的导弹系统也被接入其中。一位美国空军上尉曾对此表示过担忧，认为用计算机控制导弹发射非常危险。如果有人侵入这样的计算机系统，将导弹瞄准美国的城市而非苏联的轰炸机那会怎样？

    这些来自自动化和遥控系统的问题，可以说是目前我们所面临的网络安全问题的始祖。然而，时至今日，远程控制和全自动化系统的风险依然存在。

    虽然军事用途的无人机和机器人大都会通过特殊的加密通道进行控制。但任何黑客都会告诉你这句网络安全领域的经典语录——“没有绝对安全的系统”。

    如今，机器人已经开始接管汽车的方向盘，未来它们也将获得武器的控制权。虽说，各种自动化武器已在战争中获得了大量的应用，但本土安全和治安是一个完全不同的领域。

    军用机器人距离普通人的生活比较遥远，而警用机器人就在你我的身边。“警方如何划定使用机器人的场合和界限？”“机器人是否会被滥用，增加过度执法的可能？”“达拉斯事件”后，类似的担忧成为了现实的问题。

    对于使用机器人来说，风险和利益如何平衡，远程控制与全自动化孰优孰劣目前还不清楚。但可以确定的是，随着新技术和新使用场景的出现，必须立即着手修正现有法规和政策，设定必要的界限，确保更为安全的使用机器人，为人类造福。