如果我们转向故事的光明面 ， 我们会发现这些自主（管理）武器有几个好处 ， 例如 ， 如果机器代替他们发动战争 ， 它们能够挽救士兵的生命 ， 并且它可以——如果它们落入负责任的军事机构之手——帮助士兵仅瞄准敌军中的战斗人员 ， 避免无意中杀死友军、儿童和平民（类似于自动驾驶汽车在即将发生碰撞时刹车以挽救驾驶员生命的方式）， 这些武器还可以用来防御杀手和肇事者 。
但是这些武器的负面影响以及由于使用这些武器而落在人类身上的责任远远超过这些好处 ， 而这种最大的责任是道德责任 ， 因为几乎所有的道德和宗教体系都将人类灵魂的丧失视为一个棘手的、有争议的问题 ， 需要强有力的论证和审查 。 对此 ， 联合国秘书长安东尼奥·古特雷斯评论说：“机器拥有行动自由和夺走人类生命能力的前景令人厌恶 ， 在道德上是不可接受的 。 ”
廉价谋杀
为一件事情牺牲自己的生命——就像自杀式炸弹袭击者所做的那样——并不容易 ， 而且对于任何想到这一点的人来说 ， 这仍然是一个巨大的障碍 ， 但有了这些无人武器 ， 就不可能有人为了杀人而放弃自己的生命 ， 另一个关键问题是有明确的问责制 ， 即知道谁对错误负责并追究责任 ， 这是战场上士兵的核心问题 。 但当杀戮归咎于这些杀手机器人时 ， 我们要追究谁的责任？ （就像自动驾驶汽车与行人发生碰撞 ， 这件事归咎于谁？谁负责？这就是我们所说的缺乏问责制 。 ）
这种含糊不清可能最终免除侵略者对不法和违法行为的责任 ， 从而降低战争的威信 ， 降低他们的边界 ， 让任何人都可以更容易地随时发动战争 ， 更大的危险是这些自主武器能够使用面部或步态识别、电话信号跟踪或物联网 (IOT) 来瞄准个人 ， 物联网是指全球数十亿个连接到互联网的物理设备 ， 它可以使用传感器和处理器从周围环境中收集、发送和处理数据） ， 这不仅可能导致一个人被暗杀 ， 还可能导致任何目标群体的种族灭绝 。
在不深入了解正在发生事情情况下提高这些致命武器的自主性会加速战争（从而导致人员伤亡） ， 可能导致灾难性的升级 ， 包括核战争 。 尽管人工智能已经取得了如此巨大的成就 ， 但它仍然受到其缺乏常识和人类在各个领域思考能力的限制 ， 不管这些无人机经过多少训练 ， 我们仍然没有完全理解使用它们的后果 。
2015 年 ， 生命未来研究所（波士顿的一个研究和外展组织 ， 致力于监测人类生存风险 ， 尤其是人工智能的生存风险）发表了一封关于人工智能武器的公开信 ， 警告“全球军备竞赛已经变得几乎不可避免 。 ”人工智能的这种不断升级的动态类似于其他熟悉的种族 ， 无论是英德海军军备竞赛还是苏美核军备竞赛 。
强国总是通过战争来证明自己的军事优势 ， 而随着这些无人武器的出现 ， 各国敢于发动更多的战争 ， 因为这些武器提供了很多“获胜”的方法 ， 这是存在（最小、最快、最轻、最致命等）的结果 。
此外 ， 寻求通过制造这些自主武器来获得军事力量的成本会更低 ， 从而消除进入此类全球冲突的障碍 ， 拥有强大技术的小国已经加入了这场全球竞赛 ， 例如装备了最先进军用机器人的以色列 ， 而这些机器人的特点是体积小 ， 几乎和苍蝇一样大 ， 而且 ， 因为现在每个人都确定对手会诉诸于制造这些杀手机器人 ， 这将迫使雄心勃勃的国家加入这场竞赛并展开竞争 。
这场军备竞赛将把我们带向何方？加州大学伯克利分校计算机科学教授斯图尔特·罗素表示 ， “自主武器的能力将更多地受到物理定律的限制——例如射程、速度和有效载荷——而不是控制它们的人工智能系统 ， 预计将有数以百万计的组织参与制造这些敏捷和高度致命的武器 ， 让人类完全没有防御能力 ， 因此 ， 如果这场多边军备竞赛有机会继续下去 ， 它最终会变成一场走向灭绝或被遗忘的竞赛 。 ”
相关经验推荐
- |制胜的关键。谁在人工智能领域赢得比赛？
- 机器人|一英寸影像猛禽手机是它！售价万元，信仰的价格吗？
- 散热器|厦门青少儿编程美力程：机器人编程和少儿编程不是一回事
- 机器人|全新升级NPU+ISP，瑞芯微发布RV1106/RV1103机器视觉方案
- 机器人|专注酒店等场景服务机器人，“云迹科技”获或将在科创板IPO
- 机器人|苹果手机的话芯片是最好的，综合最佳包括外观设计，系统核心
- 机器人|四足仿生机器狗可以在什么行业使用呢？有些什么优势？
- 扫地机器人|关于“消费升级”家电，年轻人到底想买什么？
- 机器人|DAN Cases A4-H2O机箱评测：11升的水冷小强
- 机器人|传统工艺与工业设计的完美融合，Find X5官宣：家族式一体化设计