文：托比．沃尔许（Toby Walsh）
战争的末日到了我和其他许多人格外害怕的二○六二年时，有一种工作很可能会因为自动化而消失，那就是打仗。确切来说，取代人类打仗的事实已经开始发生了。为了发展出能取代人类上战场的机器人，军备竞赛已然开打。媒体喜欢把它称为「杀手机器人」，但专业说法是「致命自主武器」或简称为LAWs（lethal autonomous weapons）。
把它称为杀手机器人的问题在于，这会使人联想到《魔鬼终结者》（Terminator）的画面，进而则是还远在天边的科技。但我与人工智慧领域相关人员所担心的，并不是魔鬼终结者，而是简单得多、顶多（或最差）不出十年就会有的科技。我所害怕的并不是聪明的人工智慧，而是笨的人工智慧，我们会让不够能干的机器有权决定人类生死。
以无人机掠夺者（Predator）为例，这是半自主武器，在很多时候都能在无人的情况下自主飞行。不过，总体上还是有在操控，这些人一般都是在内华达的货柜裏。而且很重要的是，决定要把一枚飞弹射出去的还是。但要以电脑来取代那位，在技术上就只是一小步。确切来说，在技术上已经有可能做到。而且一旦打造了这种简单的自主武器，就会有军备竞赛来发展出愈来愈精密的版本。
在二十年后，假如致命自主武器司空见惯，而且没有LAWs的相关法律，世界就会是大幅恶化的地方。这会是战争的可怕发展。但它并非不可避免。我们必须选择要不要走上这条路，而且在接下来的几年，就要选出要往哪条路走。
杀手机器人的诱惑对军方来说，自主武器的吸引力显而易见。无人机掠夺者最弱的链结就是连回基地的无线电链结。确切来说，无线电一卡住，无人机就挂了。所以假如能让无人机飞行、追蹤和锁定全都自己来，所拥有的武器就会威猛得多。
全自驾无人机也让人省掉了很多昂贵的无人机飞行员。空军可以改名为无人机军了。它有的无人机飞行员已经比其他任何一类飞机的飞行员要多；到二○六二年时，它就不只是无人机飞行员比其他任何一类飞机的飞行员要多，而是无人机飞行员比其他所有飞机加在一起要多了。而且无人机飞行员固然不用为了战斗任务而拿命去冒险，但罹患创伤后压力症候群（post-traumatic stress disorder，PTSD）的速度还是跟其余的空军飞行员类似。
自主武器具有其他许多作战上的优点。它不需要抚恤或给薪，它会全年无休地战斗，它有超人类的準确度和反应力，它绝对不需要从战场上撤离，它会严格服从每道命令，它不会犯下暴行或违反国际人道法，2它会是完美的、水手和飞行员。
在战略上，自主武器是军事上的梦想。它允许扩张作战，而不受人力束缚所阻挠。一位电脑程式人员就能指挥数百、甚至数千台自主武器，这将使战争工业化。自主武器将大大增加战略上的选项。它将使人类不用涉险，并能扛下风险最大的任务，你可以称它为战争4.0。
现任俄罗斯普丁（Vladimir Putin）在2017年9月的报导中说，谁在人工智慧上领先，谁就将统治世界。他预测未来会是由无人机来打仗：当一方的无人机遭到敌方的无人机摧毁时，它将别无选择，只有投降一途。不过，这个军事上的梦想到2062年时为什么将变成梦魇，原因有很多。
杀人机器的道德观首要原因在于，有强大的道德主张在反对杀手机器人。假如把某人该不该存活交给机器来决定，我们就是放弃了人性中不可或缺的部分。现今的机器肯定是没有情绪、同情心或同理心，机器以后会适合来决定谁生谁死吗？
战争是可怕的事。命会丢掉。人会受到暴力和恐怖的残害，平民会遭到轰炸，人口会陷入惊恐。我们在战时的行动方式是承平时期所不允许，我们允许这点有部分是因为是赌上自己的命来做这些事。在那一刻，允许杀敌是因为攸关自己或他们的性命。
由于战争是可怕的事，所以在我看来，它不该是轻而易举的事，它不该是我们轻而易举且「当机立断」就开打的事。假如历史教会了我们一件事，那就是不流血战争的承诺已是而且很可能依旧将是幻想，战争必须一直保持为最终手段的选项。对于我们的子女返家时为什么是装在尸袋裏，政治人物需要给个正当理由。
在军事科技史上，杀戮多半是变得愈来愈远端。起初我们是直接开打，属于肉搏战。火药让我们往后退，并从远距来射击。飞机让我们从高空攻击。而像无人机这样的科技现在则是让我们在远端杀人，在过程中再也不用拿自己的命来冒险。自主武器是使我们摆脱战争行为的终极步骤。杀戮将由机器一手包办，而不是人，人类不会涉入其中；这会在根本上改变战争的本质。而且在这些改变下，我们为战争所找的道德藉口有很多将开始现出原形。
大规模毁灭性武器除了道德主张，还有很多技术与法律上的理由让我们该关切杀手机器人。在我看来，支持把这些武器禁绝掉的最强主张之一，就是它会为战争带来革命。
战争的第一波革命是源自人发明了火药。第二波是所创造出的核武降临。这各自代表了我们能以何种速度和效率来杀戮的步伐转换，致命自主武器将是第三波革命。
自主武器将是大规模毁灭武器。以往假如想要造成危害，你就需要部队，你必须说服这支部队听从你的命令，还要对他们加以训练、抚养和给薪。现在只要靠一位电脑程式人员，就能控制数百、甚至数千台武器。一如对化学武器、生物武器和核子武器等其他每件大规模毁灭性武器，我们也需要把自主武器禁绝掉。
在某些方面，致命自主武器比核子武器更麻烦。建造核子弹所要求的技术精密度很高。你需要国家级的资源，并取得核分裂物质。你需要有技能的物理学家和工程师。由于对这一切资源有所要求，核子武器才没有大举扩散。自主武器对此则毫无要求，只要把小型无人机撰写程式为以神经网路来辨认、追蹤和锁定任何高加索人的长相即可。这样的人脸辨识软体在现今许多的智慧手机裏都找得到。接着把几克的高级炸药搭载在无人机上。把一些现有的科技凑在一起，你就会得到简单、不昂贵却非常致命的自主武器。
假如把载有一万台这种无人机的货车开进纽约市，你就能发动与九一一事件不相上下的攻击。你的武器甚至不需要非常準确。假定你的无人机只有十分之一发挥作用，你还是能在短短几分钟内就杀死上千人。要是準确度有5成，5千人就会瞬间丧命。
建造像这样的武器比製造自驾车要容易得多。就汽车而言，99.99％的可靠度可能会让人无法接受，但就杀手无人机而言，这就绰绰有余了。有很多车厂计画在2025年前推出全自驾车，所以预期军火製造商在几年的时间后就会发展出这样的杀手无人机，并非不合理。
书籍介绍本文摘录自《2062：人工智慧创造的世界》，经济新潮社出版 ＊透过以上连结购书，《关键评论网》由此所得将全数捐赠联合劝募。
作者：托比．沃尔许（Toby Walsh） 译者：戴至中
2062年，是 AI 人工智慧影响人类命运的关键年。 当人类把机器打造成跟我们一样有智慧， 从工作到家庭，从社会到政治， 该如何想像这样的未来？
过去回不去，未来一直来， 加快学习新观念和新事物的速度， 谨慎拥抱科技、选择想要的未来。
人工智慧（Artificial Intelligence，AI）与机器人逐渐取代人类，我们面临的不只是工作不保，以后我们甚至有可能会成为半人半机器的数位人（Homo digitalis）。
本书作者是全球知名的人工智慧学者托比・沃尔许（Toby Walsh），根据他的预测，2062 年将是人工智慧影响人类最终命运的关键年。从工作到家庭，从社会到政治，现在我们做出的决定，将决定未来的样貌，因此我们必须谨慎以对。
2062 年，人工智慧最明显的冲击，是人类把辛苦的工作交给机器，我们可以将时间聚焦在更重要的事情，过自己想要的生活。我们有更多时间发展兴趣、创作和欣赏艺术，或是重新探索人性，如此一来，可能促使第二次文艺复兴来临。假如我们选择得宜，人工智慧保证会让我们的工作少很多，有更多时间陪伴心爱的人，使生活变得更好，让所有的人过着更健康、更富有、更幸福的生活。
不过，人工智慧进步的速度已经超越人类的想像，AI 造假技术产生的假新闻、假影音等假内容正在左右选举结果影响政治；科技巨头蒐集用户个资用来贩售个人化广告、社会信用评分系统监控人民的一举一动、自驾车太守法反而造成车祸、无人机搭载自主武器造成杀戮，甚至每家公司都需要哲学长（Chief Philosophical Officer，CPO）确定 AI 系统的行动符合伦理，这些都是我们必须面对的课题。
在过去一世纪，不只是科学和它所打造出的科技改变了我们的生活，我们也为了因应科技变革对我们的生活所造成的颠覆，而对社会做了一些大幅度的改变，使科技变革所带来的繁荣为全体所共享。
人工智慧将大幅改变我们的世界，2062 年的世界，会跟我们现在过得非常不同，假如要确保未来的世界会是我们想要的样子，我们就需要思考现今的社会该做的改变，那就开始吧！