文：范雪莱、马修．泰勒
系统偏见只是AI在社会中可能被误用的其中一个例子。另一个例子则是侵犯隐私。
被系统自动标注在令人尴尬的脸书贴文中，是相对无关紧要的例子。但在专制社会中，逐渐浮上檯面的故事就更加令人不安了──独裁政府欣然使用脸部辨识技术来追蹤公民的动向。最大的人工智慧企业商汤科技（SenseTime）最近公开表示，监控事业占了该企业总业务量的三分之一。
这间公司开发的软体可即时识别与分辨监视影片中的移动物体，提供镜头所捕捉到的每个人的资讯：他们的性别、穿什么颜色的衣服、是儿童还是成人。
若把这些个人资料储存进商汤科技的系统中，AI甚至能拼凑出个别身分。预计到2030年，的中央政府会投入大量资金打造价值约1500亿美元的人工智慧产业，其中大部分用于强化国内安全。
政府利用AI来处理1.7亿个监视摄影机所蒐集到的影像，已能对不守规矩的行人自动祭出惩罚，或辨识逃犯。
使用人工智慧的监视系统目前能执行到什么程度的监控──从前述案例还只看得出一点端倪。2014年，国务院公布，要在2020年前强制推行社会信用体系计画。
此系统会追蹤民众的日常生活行为，再用这些数据去判断公民的可信度，也就是他们遵从政府价值观的程度。
根据监控资料，公民会得到一份公开的分数，这个数值会决定他们能获得多少抵押贷款、小孩可就读哪所学校、是否有权利旅行，或是会被限制网速的程度。这套计画很接近亚马逊的顾客追蹤系统，
但它却有令人胆寒的欧威尔式发展：社会信用体系将建立终生与公民形影不离的调查报告，而非用来加强购物体验的个人档案。
不幸的是，若这样的制度有利于政府，其他国家可能会起而效尤。
正如其政策所述，希望「打造持续表扬诚信的舆论环境」，这无疑是所有专制政府的共同想法。
如果社会全面部署人工智慧，那么后续民众的隐私或言论自由会受到多大的侵蚀？
并非只有专制社会才会用人工智慧来进行监控。最近有新闻指出，亚马逊发表了一款能在单一影像里追蹤上百人的工具，且已开始被警方採用。亚马逊与奥勒冈州华盛顿郡（Washington County）合作开发一款手机程式，执法单位能用它来扫描图像，与该郡的脸部辨识资料库进行比对，基本上就是把智慧型手机变成一台监控装置。
最令人不安的是，这一切都是悄悄进行的，未有太多的辩论探讨这项技术会不会侵犯人权或导致社会不公──尤其是对边缘群体来说。
与其他国家的行径，在在说明了开发人工智慧须注重伦理的重要性。过去短短两年内，就有许多人致力于探索有伦理的AI。OpenAI、Google DeepMind的伦理与社会研究单位、AI技术产业联盟伙伴、英国的资料伦理与创新中心、卡内基美隆大学的AI伦理研究中心都敦促工程师在持续投入AI研究时，要优先考量伦理问题。
这些组织都秉持着此信念：不设限地发展AI将会酿成灾难。
2017年，有一份特别针对在性能变得更强且更加无所不在的情况下，人工智慧的潜在恶意使用方式的报告──由来自学界、民间团体与产业界20多名共同作者所发表。报告中列举了一些恐怖的例子：一辆系统异常的自驾车可能会刻意撞向人群，或被狭持来运送爆裂物；藉着恶意软体影响採用AI技术的大脑或心律调节器，可能被用来执行远端暗杀行动；或者，罪犯也可以使用脸部或声音模拟技术，针对特定对象进行诈骗。
此报告呼吁人工智慧研究人员在他们开发的技术中建立防护措施，同时要更公开讨论潜在的安全与防护问题。
出人意料之外的是，这份报告甚至建议研究人员不应公开发表某些想法或应用方式。多数的研究人员乐见开放政策，也会在部落格上发表他们的研究成果，并将他们的程式码开源（open–source）。人工智慧领域的许多人相信，与其祕密开发可能后患无穷的AI程式，倒不如公开它的存在，让大家于潜在的滥用行为发生前就有所警觉。
事实上，Google就用这个方式为他们的语音模拟程式「语音双攻技术」（Duplex）辩护：Google公开了具潜在破坏性的AI程式，以邀请社会大众批评指教应如何管控此技术的使用。
书籍介绍《洋葱式阅读！当代关键议题系列：人工智慧会不会取代人类？》，脸谱出版 ．透过以上连结购书，《关键评论网》由此所得将全数捐赠联合劝募。
作者：范雪莱、马修．泰勒 译者：余韦达
洋葱式分层阅读，按内容深浅阶梯式排版──依个人阅读喜好，自由跳接、由简至繁，秒懂当代不可不知的世界议题。
本系列入围英国图书设计与製作奖（British Book Design & Production Awards） 大量近期时事、趋势照片，搭配详实解说，辅助读者慎思明辨重要议题 从最大字级一眼抓出议题关键字；到次大字级重点式釐清观念；亦可细读小字、深度理解当代必知的议题内涵参与公民社会与政治思辨必懂的基础知识：民主从哪里来？现在出现了什么问题？未来又将怎么发展？