文：尼克．伯斯特隆姆 （Nick Bostrom）
一般机器智慧可做为人类智慧的替代品。数位心智不只能做到现在人类能做的智慧工作，甚至在装上执行设备或机器身体之后，还可以取代人类的肉体劳动。假设机器劳工（可大量生产的机器劳工）在所有工作中，都比人类劳工便宜又更有能力，那时会发生什么事？
工资和失业有了可便宜複製的劳工，市场工资便会大幅滑落。人类还能保持竞争力之处，大概只剩下消费者对人类劳务还有基本偏好的场合。今天，手製品或原住民手工艺品有时还能要求价格溢价（price premium）。未来的消费者可能同样会偏好手工製品或是人类运动员、艺术家、情人和领导者，而非功能上毫无差异甚至更优越的人工对手。不过，我们还不知道这种偏好会有多普及。如果机器生产的东西够优越，也许可以得到更好的价码。
一个可能和消费者选择相关的参考因素，是提供服务或产品的工作者之私生活。举例来说，一场音乐会的听众，应该会想知道演奏者是否是有意识地亲临其音乐和现场。若没了现象经验，即使有办法创造表演者的3D成像，与群众自然地互动，表演者也只能被看做是高功能点唱机。接着，机器可能会被设计成能再现人类进行同样任务时呈现的精神状态。但是，即便已经完美複製了主观经验， 有些人还是偏好出自活人手工的产品。这种偏好可能有意识形态或宗教上的根源，就像许多穆斯林和犹太人，会避免以他们不允许或认为不洁净的方式处理食物；未来也可能有些团体，会避开那些製程中涉及未核可使用机器智慧的产品。
哪些事物还会仰赖这部分呢？到了便宜机器劳工可替代人类劳工时，人类的差事可能都会消失。当然，害怕自动化与失业并非新鲜事。至少从工业革命开始，对于技术性失业的顾虑就週期地出现；事实上，有不少职业步上英国纺织工和织布工匠在19世纪早期的后尘，在彷彿民间传说的「卢德上将」（General Ludd）旗帜下团结起来，对抗织布机的引进。
不论如何，虽然机器装置和技术取代了许多特定类型的人类劳工，这种技术整体来说仍是一种劳工的补强方式。全世界人类的平均薪资呈现长期的上升趋势，大部分就是因为这种补强。然而， 机器一开始补强了劳工，到了后来的阶段就会成为劳工的替代者。马的功能一开始也是藉由马车和犁而补强，大幅增加其生产力。然而后来马被汽车和拖拉机所取代。这些后来的革新降低了兽类劳力的需求，并导致马族群量的崩盘。人类这物种也会落到同样的命运吗？
如果问说，那么马为什么依旧存在？就可以把马的故事平行地向前延伸。一个理由是，马仍在少数工作中具有功能优势，比如说警察工作。但主要的理由是，人类恰巧对马可以提供的服务有着特殊偏好，包括休闲骑乘和马术竞赛。这些偏好可比拟我们假想的未来人类可能偏好，也就是对于某些手作物品或服务的偏好。不过这个比方并不準确，因为马至今仍然没有全面的功能替代品。如果有便宜的机器设施能吃乾草就跑，还具备和生物马完全一样的体型、触感、气味和行为，甚至有同样的意识经验，那么对生物马的需求可能会继续下降。
当对人类劳工的需求降到足够的低点，薪资就会滑落到人类生存水平以下。人类劳工的潜在下滑趋势因此十分极端：此时不再只是薪资大砍、降职或是再训练的需求，而是挨饿与死亡。当马不再用来当做移动力的主要来源时，许多马被卖给肉商做成狗食、骨粉、皮革和胶水。牠们没有能谋生的其他工作可选。1915年的，大约有两千六百万匹马；到了1950年代，只剩下两百万匹。
资本和福利人和马之间的一个很大的不同，在于人拥有资本。一个已固定的经验事实是， 资本的全要素（total factor，是指不包括资本和劳动力输入，其他所有影响产出的要素）比例长久以来都稳定维持在大约30％左右（虽然有显着的短期波动），这代表全球总收入的30％被资本拥有者收做租金，剩下的70％被劳工收做薪资。如果我们把人工智慧分类为资本，那么随着可全面替代人类工作的机器智慧发明，薪资就将滑落至这种机器替代者的边际成本，而变得（在机器非常有效率的假定下）非常低，远低于人类生存水準的收入。
劳工分到的收入比例接着会缩小到零，这就代表资本的要素比，将达到接近全球总生产的100％。既然全球国内生产总值会跟着智慧爆发而飙升（因为大量的劳工替代用机器，也因为超智慧达到的技术进步，以及其后透过太空殖民所获得的大量新土地），接着从资本获得的总收入将极大幅度地增加。如果人类还是这资本的主人，全人类获得的总收入将以天文数字成长，儘管在这情况下人类不再有任何薪资收入。
因此，整体来说，人类将变得比你所做的最贪婪想像还要富有。这样的收入要如何分配呢？初步估计，资本收入会和资本所有量成比例。有鉴于天文放大效应，就算是一小部分的后转型时期财产，都可以膨胀为巨大的后转型财富。然而在当今世界中，许多人并没有任何财产。这不只包括穷人，也包括一些儘管收入不错，或有高人类资本但资产净值为负的人。举例来说，在富有的丹麦与瑞典， 据闻有30％的人口财产为负——通常是手上缺少有形资产，且有信用卡债或学贷的年轻中产阶级。就算储蓄可赚得相当高的利益，但要开始利滚利，还是得要有一些起步播种的资本。
儘管如此，就算刚开始转型时没有私人财产的个人，后来还是可能发大财。举例来说，参与退休金计画的人，不管参与的是公共或私人计画，只要计画至少能获得部分资金，都会过得不错。透过资产净值暴发户所举办的慈善活动， 穷人也会变得富有：因为天文数字般的财源降临，就算捐出的救济只佔财富的极小部分，其绝对金额还是相当吓人。
就算在一个机器的功能在全领域优于人类（而且甚至比生存水平的人类劳动还便宜）的后转型阶段，财富还是可以透过工作产生。前面提到，如果出于美学、意识形态、道德、宗教或其他非实用理由，还保留偏好人类的空缺，那就还是会产生这条件。在一个人类资本持有者的财富大幅增加的情境中，对这种劳工的需求可能会相对增加。新崛起的兆万富翁甚至京万富翁，能付出大量的费用，来让一些物品和服务仍由「公平贸易」的生物劳力来提供。
马的历史再次提供了平行参考。的马匹数在1950年代早期掉到两百万匹之后，经历了一次稳健的复甦：一项近期普查发现，目前略低于一千万匹。这个攀升不是因为马在农业或运输上有了新的功能需求，而是因为经济成长，让更多人能沉溺在马术休闲的幻想中。
除了资本拥有之外，另一个人和马的重要差别就是人类能政治动员。人类运行的政府可以用国家徵税权力，来重新分配私人获利；或是藉着卖出增值的国有财产（例如公有土地）来增加财政收入，并用这收益来使其国民退休。同样地，因为在转型中以及完成后不久就带来的爆发经济成长，大量的财富将四处可见，要餵饱所有的失业人士就相对简单。就算是单一国家，也有办法提供全世界所有人的生活薪资，且其支出比例不会比许多国家现在花在外国援助上的比例还高。
历史观点中的马尔萨斯式原则截至目前为止，我们假定了一个恆常的人口数。出于人类繁殖速度的生理限制， 这数字短时间来说可能是个合理假设。然而，这假设不一定合理。
过去九千年中，人口增加了一千倍。要不是史前到历史时代的大半时间， 人口都停步于全球经济的极限，否则增加速度还会更快。一个近似马尔萨斯式的状态佔了上风，在这个状态中，多数人仅能得到生存水準的收入，勉强存活下来且平均养大两个孩子。过去常有暂时和区域性的停滞，包括、气候波动或战争，间歇性地减除人口并释放出土地，让生存者能提升其营养摄取，而能养育更多下一代，直到阶位又被补满，马尔萨斯式的状况又会重新开始。
同时，多亏了社会不平等，一小群菁英阶层可持续享受高于生存水平的收入（其花费甚至稍微降低能维持下去的总人口数量）。这是种悲伤且刺耳的设想：在这种马尔萨斯式的情境中，我们在这行星上存活的多数时间中遇见的常态、普遍视为人类福祉的最大对手——乾旱、、屠杀和不平等——才是最伟大的人道主义者；光靠它们，就能让生活的平均水準，偶尔稍微出现在勉强生存边缘的生活水準之上。
在局部的小波动之上，历史的宏观模式呈现出一个起初缓慢，但终将加速的经济成长，这是靠着技术革新的累积来推动的。成长的全球经济带来了全球人口的相对增加。（更精準地说，大量人口本身就强力加速了成长速率，主要是藉着人类的群体智慧增加。）直到工业革命开始，经济成长才快速到使人口不再均速成长。平均收入开始增加，先是在西欧较早工业化的国家，接着是世界各地。就算是在今日最贫困的国家，平均收入还是大幅超越生存水準。这反应在这些国家的人口持续增长的事实上。
最贫困的国家如今有着最快的人口成长率，因为它们尚未完成「人口统计转型」，达到符合较开发社会的低生育体制。人口统计学家预计全球人口将在本世纪中达到约九十亿，在那之后随着较贫穷国家加入已开发世界的低生育率体制， 人口将进入停滞期或者下滑。许多富有国家已有低于替代水準的生育率，有些国家甚至远低于水準。
然而如果我们长期观之，并假设一种技术不变、景气持续的状态，我们就有理由预期会回到历史上与生态上的正常状态，也就是全球人口对抗我们利基的支援限制。若按照前面以全球观点观察出的财富与生育率负关係，目前的发展似乎有违直觉，但我们必须提醒自己，我们所谓的这个当前，只是整个历史的一小切片，而且还是个大偏差。人类行为尚未适应当前的状态，我们不只无法利用明显的方法来增加我们的整体适应度（例如成为精卵捐赠者），更是主动使用了生育控制，来破坏我们的生育力。
在演化适应性的环境中，健康的性冲动足以驱使单一个体，按照将其繁殖潜能最大化的方式来行动；亦即在我们现在的环境中，对于拥有最多后代拥有更直接的欲望，其实有着极大的选择优势。这种欲望连同其他增进我们繁殖的倾向，目前都正被选择出来。不过，文化适应可能会在生物演化前偷偷抢得先机。有些社群，例如胡特尔派（Hutterite）或者奎沃福福音派运动（Quiverfull evangelical movement）的支持者，因为推崇大家庭的鼓励生育文化，正在快速扩张。
人口成长与投资想像一下，若当今的社经状态就这样神奇地冻结在这个形状里，未来就将被支持高生育力的文化和道德团体所主宰。如果在现有环境中，绝大多数人优先考量的是适应度最大化，那么每一代的人口都可以轻易倍增。人口控制政策（这将稳定且愈加严密而有效率，好抵销企图全力规避它的演化）的缺席，将使得全球人口持续指数成长，直到某些限制，像是土地缺少或是产生重大革新的机会耗尽，让经济不能再维持增长速度；到了某一时刻，平均收入就会开始降低，直到压倒性的贫穷让绝大多数人无法养大两个以上的小孩的水準。
因此，马尔萨斯式的原则又会再次灵验，就像一个可怕的奴隶主，终结了我们通往富饶梦幻乐园的脱轨行为，牵着锁鍊把我们拖回苦役行列，重新开始生存的艰困挣扎。
这个长期远景可被智慧爆发压缩为一个更迫切的前景。因为软体可以複製， 人工智慧的複製人口可以快速倍增（只要几分钟而不是数十年或数百年），并且很快就会耗尽所有硬体。
面对普世马尔萨斯式情境的出现，私人财产可能会提供部分保护。想想一个简单的模型，在那之中各个宗派（或者紧密的社群，或者国家）的财产量各有不同，并且针对繁衍后代和投资各採纳了不同策略。有些宗派不相信未来，花光了本钱，然后他们一贫如洗的成员便加入全球的无产阶级（或者如果他们无法透过劳动养活自己，就会死去）。其他宗派则将资源做投资，但採取了无限繁殖的策略；这样的宗派生下更多人口，直到他们达到一个内部马尔萨斯式的状态，在那之中他们的成员太贫穷，以至于死亡率几乎等于出生率，此时宗派的人口成长减缓，以等同于资源成长。然而，还有一些宗派把生育率限制在资本成长率之下， 这样的宗派将缓慢增加人数，同时平均起来每个成员也更加富有。
如果财富从富有的宗派，重新分配给快速繁殖或快速兑现的宗派（其儿童、複製品或衍生物儘管本身没错，却在资本不足以生存的情况下来到这世上），那么就会更接近一个普世的马尔萨斯式情境。在部分案例中，所有宗派成员都会得到生存水準的收入，且每个人的财产都会相等。
如果财产没有重新分配，思虑周到的宗派就可能会累积资本，其财产绝对值便有可能成长。然而，我们并不清楚人类能否使用资本，达到像机器智慧使用资本那样的高回报率，因为劳工与资本之间可能会有协同作用，让一个同时支援双方的代理人（例如一个既有技术又有钱的企业主或投资者）的资本私人回报率， 超越仅有财务资源而没有认知资源的代理人所获得的市场利率。
比机器超智慧更缺乏技能的人类，资本成长可能因此更慢——除非控制难题完全解决，使人类的报酬率等同于机器的报酬率；因为人类委託人可以叫一个机器代理人来经营他的储蓄，且在不花成本又毫无利益冲突的情况下做到；但若达不到这点，在这整个剧本中，机器持有的经济比例可以渐渐达到100％。
这种经济分配渐渐达到100％为机器所有的剧本，并不一定是人类分配比例减少的剧本。如果经济以足够的速度成长，那么比例相对缩减，其绝对值还是增加的。对人类来说，这听起来像是个不错的消息：在一个多极而财产权受到保护的情境中，就算我们完全无法解决控制难题，人类拥有的整体财富量还是能增加。当然，这个效应不会处理人口成长把平均收入拉到生存水準的问题，也不会处理人类因为不重视未来而自我毁灭的问题。
长期来看，经济将被具有最高储蓄率的宗派逐步把持——那是拥有半个城市却住在桥底下的守财奴。只有在时机成熟，当投资不再有任何机会时，极度有钱的守财奴才会开始缩小储蓄额。然而，如果财产权的保护有一丝不完美，举例来说，如果更有效率的净利机器（不择手段地）将人类财产转移到它们手上，那么人类资本家可能得更快将资本花光，以免被这种转移所耗尽（或者在确保财富免于被转移所带来的持续成本）。如果这些发展发生在数位时间，而非生物时间尺度，那么过度缓慢的人类，可能在一夕之间财产就被没收光了。
►当人工智慧还很愚笨时，聪明会比较安全；然而当它变得很聪明，愈聪明就愈危险
书籍介绍《超智慧：出现途径、可能危机，与我们的因应对策》，八旗文化出版
＊透过以上连结购书，《关键评论网》由此所得将全数捐赠儿福联盟。
作者：尼克．伯斯特隆姆 （Nick Bostrom）
本书作者尼克．伯斯特隆姆从当前人工智慧研究取径和现况中，找出可能达成超智慧的途径，包括人工智慧、全脑仿真、生物认知、脑机介面、网路和组织的强化，并带领我们思考，这样一个超智慧一旦出现，可能会如何行动，以及它的行动是否会对我们的生存造成威胁，而我们是否有方法在它变成超智慧之前，该如何做好能力控制和动机选择。
身为牛津大学哲学系教授，作者特别强调强调动机选择的关键性，但要植入哪一种价值的决定，有非常深远的影响；而人类的价值又如何能转译成人工智慧所能理解的形式语言。这些都是严峻的挑战。作者从头到尾都谨慎地为人类寻找出路，儘管对非专业读者来说，偶尔出现的数学和专有名词可能会让人望而生畏，但其实不用担心，因为总是可以周围的解释拼凑出主要论点。