《洋葱式阅读系列—AI》:不设限地发展人工智慧将会酿成灾难

导读 文:范雪莱、马修.泰勒 系统偏见只是AI在社会中可能被误用的其中一个例子。另一个例子则是侵犯隐私。 被系统自动标注在

文:范雪莱、马修.泰勒

系统偏见只是AI在社会中可能被误用的其中一个例子。另一个例子则是侵犯隐私。

被系统自动标注在令人尴尬的脸书贴文中,是相对无关紧要的例子。但在专制社会中,逐渐浮上檯面的故事就更加令人不安了──独裁政府欣然使用脸部辨识技术来追蹤公民的动向。最大的人工智慧企业商汤科技(SenseTime)最近公开表示,监控事业占了该企业总业务量的三分之一。

这间公司开发的软体可即时识别与分辨监视影片中的移动物体,提供镜头所捕捉到的每个人的资讯:他们的性别、穿什么颜色的衣服、是儿童还是成人。

若把这些个人资料储存进商汤科技的系统中,AI甚至能拼凑出个别身分。预计到2030年,的中央政府会投入大量资金打造价值约1500亿美元的人工智慧产业,其中大部分用于强化国内安全。

政府利用AI来处理1.7亿个监视摄影机所蒐集到的影像,已能对不守规矩的行人自动祭出惩罚,或辨识逃犯。

使用人工智慧的监视系统目前能执行到什么程度的监控──从前述案例还只看得出一点端倪。2014年,国务院公布,要在2020年前强制推行社会信用体系计画。

此系统会追蹤民众的日常生活行为,再用这些数据去判断公民的可信度,也就是他们遵从政府价值观的程度。

根据监控资料,公民会得到一份公开的分数,这个数值会决定他们能获得多少抵押贷款、小孩可就读哪所学校、是否有权利旅行,或是会被限制网速的程度。这套计画很接近亚马逊的顾客追蹤系统,

但它却有令人胆寒的欧威尔式发展:社会信用体系将建立终生与公民形影不离的调查报告,而非用来加强购物体验的个人档案。

不幸的是,若这样的制度有利于政府,其他国家可能会起而效尤。

正如其政策所述,希望「打造持续表扬诚信的舆论环境」,这无疑是所有专制政府的共同想法。

如果社会全面部署人工智慧,那么后续民众的隐私或言论自由会受到多大的侵蚀?

并非只有专制社会才会用人工智慧来进行监控。最近有新闻指出,亚马逊发表了一款能在单一影像里追蹤上百人的工具,且已开始被警方採用。亚马逊与奥勒冈州华盛顿郡(Washington County)合作开发一款手机程式,执法单位能用它来扫描图像,与该郡的脸部辨识资料库进行比对,基本上就是把智慧型手机变成一台监控装置。

最令人不安的是,这一切都是悄悄进行的,未有太多的辩论探讨这项技术会不会侵犯人权或导致社会不公──尤其是对边缘群体来说。

与其他国家的行径,在在说明了开发人工智慧须注重伦理的重要性。过去短短两年内,就有许多人致力于探索有伦理的AI。OpenAI、Google DeepMind的伦理与社会研究单位、AI技术产业联盟伙伴、英国的资料伦理与创新中心、卡内基美隆大学的AI伦理研究中心都敦促工程师在持续投入AI研究时,要优先考量伦理问题。

这些组织都秉持着此信念:不设限地发展AI将会酿成灾难。

2017年,有一份特别针对在性能变得更强且更加无所不在的情况下,人工智慧的潜在恶意使用方式的报告──由来自学界、民间团体与产业界20多名共同作者所发表。报告中列举了一些恐怖的例子:一辆系统异常的自驾车可能会刻意撞向人群,或被狭持来运送爆裂物;藉着恶意软体影响採用AI技术的大脑或心律调节器,可能被用来执行远端暗杀行动;或者,罪犯也可以使用脸部或声音模拟技术,针对特定对象进行诈骗。

此报告呼吁人工智慧研究人员在他们开发的技术中建立防护措施,同时要更公开讨论潜在的安全与防护问题。

出人意料之外的是,这份报告甚至建议研究人员不应公开发表某些想法或应用方式。多数的研究人员乐见开放政策,也会在部落格上发表他们的研究成果,并将他们的程式码开源(open–source)。人工智慧领域的许多人相信,与其祕密开发可能后患无穷的AI程式,倒不如公开它的存在,让大家于潜在的滥用行为发生前就有所警觉。

事实上,Google就用这个方式为他们的语音模拟程式「语音双攻技术」(Duplex)辩护:Google公开了具潜在破坏性的AI程式,以邀请社会大众批评指教应如何管控此技术的使用。

书籍介绍

《洋葱式阅读!当代关键议题系列:人工智慧会不会取代人类?》,脸谱出版 .透过以上连结购书,《关键评论网》由此所得将全数捐赠联合劝募。

作者:范雪莱、马修.泰勒 译者:余韦达

洋葱式分层阅读,按内容深浅阶梯式排版──依个人阅读喜好,自由跳接、由简至繁,秒懂当代不可不知的世界议题。

本系列入围英国图书设计与製作奖(British Book Design & Production Awards) 大量近期时事、趋势照片,搭配详实解说,辅助读者慎思明辨重要议题 从最大字级一眼抓出议题关键字;到次大字级重点式釐清观念;亦可细读小字、深度理解当代必知的议题内涵

参与公民社会与政治思辨必懂的基础知识:民主从哪里来?现在出现了什么问题?未来又将怎么发展?

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

猜你喜欢

最新文章