文：Katy Steinmetz 译：李宓
Ethan Cohen第一次在Instagram上遭到霸凌时，他试图一笑置之。
来自北卡罗来纳州罗利市（Raleigh）的Ethan就跟其他同龄的孩子一样，兴沖沖地在中学的时候开始使用Instagram，接着突然有一天，他发现大家都在对着某个帐号窃笑。原来，有人（Ethan至今仍不知是谁干的）偷偷摸摸拍下他的照片，上传到名为「ethan_cohens_neck_vein」的帐号，上头的照片似乎全都是用来嘲笑他脖子上一条特别明显的肌肉。其中一篇贴文把那条肌肉形容成的万里长城，另一篇则说可以用「联立方程式」来计算它的尺寸。
在朋友面前，Ethan装做毫不在乎，一副那只是无聊玩笑的样子，但私底下他其实很受伤。显然有人尾随在他后头，偷拍并上传带有戏谑意味的照片，让所有人欣赏。现年18岁的Ethan说：「就是因为不知道是谁，所以才很诡异。」他多次向Instagram检举那个帐号，但儘管使用规範明确禁止嘲弄他人的身体特徵，那个帐号却也没有被下架。
Instagram表示，如果事情发生在今天，就会有不一样的结果。精密的检举工具和评断机制很快就能把帐号关掉。而且，在不久的将来，Instagram希望能达成更宏大的目标：利用人工智慧锁定攻击、羞辱或不尊重的行为，并加以删除——和Ethan有类似经历的受害者，甚至不必自己动手检举。
我们总是指责社群媒体是许多问题的罪魁祸首，政府也不断施压，要求社群公司证明他们可以自制。在这样的情况下，Instagram选择向霸凌宣战。Instagram负责人Adam Mosseri说：「这是关键的时刻，我们希望带领整个产业一同抗争。」
Instagram该如何摆脱「恶霸一站式购物中心」的情况？有鉴于Instagram是年轻人使用率最高的平台，这么做非常合理。年轻人对Instagram的迷恋，使霸凌之于Instagram就像假新闻之于脸书，或是引战之于Twitter：为了和其他人聚在一起，而无法避免的毒瘤。
有人曾经估计，将近80%的青少年都有Instagram帐号，而且有超过一半的用户都曾在上头遭到霸凌——情况远比脖子的玩笑更恶劣。升上高中，Ethan在Instagram上出柜，一位校园风云人物因此私讯轰炸他，称他是「死gay炮」、「被堕胎失败的孩子」。Instagram使用者承受许多侮辱和威胁，影响至深。看得更广一点，Instagram等平台上的霸凌行为也曾被指与自我伤害有关。
亚利桑那大学的谘商学教授Sheri Bauman研究霸凌的因果关係长达数年，她称Instagram为「恶霸的一站式购物中心」，他们需要的全都在那：受众、匿名性、强调外貌，还有公开贴文和私讯聊天等多种沟通管道。Instagram高层坦承，当他们设法吸引更多使用者和关注时，每一项新功能也都成了霸凌的新途径。对此，Instagram公共政策负责人Karina Newton表示：「现在年轻人的创意不容小觑。」
Mosseri接下这个位子才没多久。Instagram创办人于去（2018）年底突然离职（据传是和母公司脸书产生摩擦），随后便由脸书的资深员工接任。Mosseri过去靠着管理脸书动态消息，磨练了自己的危机处理能力。现年36岁的他，誓言要为Instagram开创新的世代，将使用者的身心健康视为优先。而解决霸凌问题让目标逐渐有了轮廓。Mosseri是个极其认真、投入的工程师兼设计。他的团队时时刻刻都将霸凌问题放在心中，进行大规模调查，推出新功能，改变公司既有规则。
然而，这场战争的战况激烈，还很可能造成其他连带伤害。Instagram目前是脸书公司当红的部门，如果太激进，用严格的规範，和让人觉得受侵犯的审核机制，可能会赶跑使用者。但如果做得不够，尤其在他们誓言要为这个产业立下新标準的前提之下，便可能招来旁人的谴责，说他们将利益置于儿童保护之上。
此外，还有高如圣母峰的技术性障碍要跨越。
若打算设计一套能够对付霸凌的人工智慧，意味着要让机器精通一门充满複杂细节，且仍在发展中的学问。Instagram也必须非常小心，不能侵犯言论自由。工程师设计出来的工具必须能够找到他们该找的，而不是去限制他们不该限制的东西。Mosseri说：「我确实会担心，只要一个不小心，我们就可能越界。」但他也说，没有什么比平台的文明性更重要，连公司的成长也比不上。他告诉《TIME》：「我们会採取所有让用户更安全的作为，儘管那意味着降低Instagram的使用率。」
获利和道德，应该如何平衡？人们每用Instagram一小时，脸书公司就会获利。要是有人因为额外的安全措施或限制而选择离开，那么利润也会跟着消失。
当问到Instagram打击霸凌的动作是否和公司的财务状况有关时，Mosseri回覆，如果Instagram无法遏止霸凌现象，他们不仅在道德上让用户失望，也令公司蒙羞。他说：「长时间下来，这会伤害我们的声誉和品牌形象，进而让我们在结盟上受阻。有太多可能会伤害到公司的可能。如果不想办法解决产品所延伸出来的问题，我相信总有一天，问题会回到我们头上，并让我们付出严重的代价。」
Instagram在2010年正式上线，由两个二十多岁的年轻人Kevin Systrom、Mike Krieger共同创办。他们希望用户能透过这个照片分享app，让生活看起来更加美好。而他们的目标也达成了。
短短一年内，每星期都有超过50万人注册Instagram帐号。但很快的，大家也开始用Instagram做一些不那么美好的事。两位创办人在早期还得自己下海，删除恶意留言、限制人们引战。在他们离开之际，Instagram用户已超过10亿人，远远超过人力可管控的程度。因此，就跟所有社群媒体一样，Instagram也为了防堵恐攻思想、儿童色情片等非法内容，转而向电脑求助。
为了让Instagram成为更友善、温和的空间，两位创办人借用了脸书的人工智慧技术：DeepText，这项技术能读懂并分析平台用户所使用的语言。早在2016年，Instagram工程师便利用这项技术来锁定垃圾讯息。隔年，他们训练这套程式寻找并封锁带有攻击性的言论，包括种族攻击。
到了2018年中，这项技术也被用来寻找霸凌的言论。去（2018）年10月，Mosseri接任后一週，Instagram宣布，他们不只要用人工智慧探查贴文底下的留言，寻找霸凌的迹象，他们还要利用电脑侦查照片中的霸凌元素。也就是说，他们将用人工智慧来分析每一则贴文。
说起来比做起来容易。
AI辨识霸凌内容的原理是什么？当工程师要教一台电脑执行新的任务时，首先，他们得建立一套训练系统——用白话文来说，就是各种能帮助电脑了解新工作内容的素材。以Instagram的例子来说，第一步是请人类审核员过滤成千上万张照片，将贴文分成「含霸凌元素」和「不含霸凌元素」两类。分类完成之后，将这些範本输进所谓的分类器当中。接着，分类器会像一流的警犬一样，只要鬆开绳子，就会嗅出你希望牠们找到的物件。
想当然耳，这些初始範本不可能涵盖分类器实际运作时，可能遇到的所有案例。不过，当分类器标记出某些内容，并经过人类评断其正确性之后，分类器就会从这些额外的範例当中学习。最理想的状态是，有工程师在一旁帮忙微调学习轨迹，分类器的準确度会越来越高。
时至今日，一共有三套分类器负责审核Instagram上的内容，寻找霸凌的迹象：一套负责分析文字、一套分析相片，另一套则分析影片。他们时时刻刻都在工作，每个钟头都在标记不合格的内容。然而，就像首席工程师Yoav Shapira所言：「一切都才刚起步而已。」也就是说，分类器错过了许多霸凌行为，而它们认为含有霸凌元素的贴文，也未必真是如此。Shapira团队的任务，就是改正这个现象。
这之所以困难重重，其中一个原因在于，相较于训练机器辨识裸露内容，辨识霸凌困难多了：前者，只要判断照片里的人有没有穿裤子即可，后者则包含各式各样的行为。
网路霸凌的相关研究在受霸凌人数方面有很大的出入，可能低至5%，或高达72%，可能是因为没人能清楚界定到底何谓网路霸凌。Instagram公共政策负责人Karina Newton说：「霸凌之所以这么难以根除，其中一个原因就在于它的定义因人而异。」工程师必须确切知道哪些行为算是霸凌，哪些不算，这样才能建立一套扎实的训练系统。
Instagram上的霸凌行为也随时间而变得不同。有很多是所谓的「老派霸凌」，据Instagram的研究，最常见的包含恶劣的留言、侮辱和威胁。这类霸凌还算容易拦截，举例来说，Instagram的文字分类器就很擅长辨识类似这样的字串：「你这丑得要命，牙齿还漏风的贱人」、「你女儿是蕩妇」。然而，谩骂的言词会随着时间改变，不同文化也有不同的骂人法，青年文化尤其特殊。除此之外，要辨识出带攻击性的行为，首要条件是理解整个句子，不能只靠其中几个词。看看下面这两个句子的意思差了多少：「等等我，我马上过去」、「给我等着，我马上过去」。
用户所受到的伤害，不止来自言语。Instagram上有许多所谓的「黑特帐号（hate pages）」，这些匿名帐号专门用来取笑某些人，或将他们去人格化。男性可能会在分手后拍下他和其他女生在一起的照片，然后标记他的前女友。女性可能会在相片上标记一大堆朋友，但刻意忽略某个人。还有些人会截图其他人的照片，调整之后分享出去，或在聊天室里大肆嘲笑。此外还有些人会一再骚扰别人，像是在每则贴文底下，回覆同一个贴图，行为就像是跟蹤。
许多青少年都有过这样的经验：自己出糗的照片或影片，在未经同意的情况下，在网路上流传。或是自己成为「辣？不辣？」投票的主角（类似Mark Zuckerberg在唸哈佛时期创办的排名网站Facemash）。
Shapira说：「看起来没有可称作是霸凌的行为，一切都非常单纯。」
为了开发出成效更好的人工智慧，Instagram发出上千份问卷，希望能从旁观者的角度，更了解霸凌的各种形式。（使用者的回覆也让Instagram得以评估霸凌情形的普遍程度。相关数据计画在今年稍晚公布。）根据Karina Newton的说法，Instagram公司对霸凌的现行定义是：意图「骚扰或羞辱他人」的内容。Shapira的团对则进一步将霸凌分成七个子类别：谩骂、羞辱、威胁、认同攻击、不尊重、骚扰和出卖。首要计画是让人工智慧能理解每个子类别各自的概念。Shapira说：「从工程学的角度来看，这么做的金钱效率很低，但却是解决问题最好的方法。」
由于霸凌与否经常得视情况而定（有时可能只是圈内笑话，有时则取决于双方关係的亲密程度），Instagram的工程师也在努力寻找办法，利用帐户的活动情形来分辨有心和无意。
以「ho（译者注：指慾求不满、性生活频繁的女性）」这个字来说，如果一个男人称一个女人为「ho」，那就算是霸凌。反之，如果一个女人称另一个女性朋友为「ho」，那就不是霸凌。同样的，如果某个人说了一次「这照片真讚」，他可能是想要称讚。然而，如果他在某人所有的贴文底下都这么回覆，那就显得可疑了。工程师必须从中学会辨别这些关係的讯号：两个帐号经常互相标记吗？任何一方曾经封锁另一方吗？用户名称跟过去曾被除名的帐号类似吗？帐号是否反覆贴出类似这样的句子：「去某人的帐号，用这张照片轰炸他的私讯匣。」
在相片和影片方面，分类器就不再那么精準、进步。负责分析用户回报的工程师和审核员还没找到确切的模式，但大原则已经出来了。比方说，分割画面通常都含有霸凌的元素，尤其当侦测到的画面一边是人，另一边则是动物时，可能性更高。三人合照中，若有其中一人脸上被画了红色的大叉叉，那很可能也是霸凌。滤镜则往往是善意的象徵，因为人们通常不会美化受害者。
Instagram团队也渐渐学会分析照片主角的姿势，像是假如拍摄的角度是「由下而上」，那很可能就是偷拍的相片。因此，如果相片里的一个人呈站姿，另一个的姿势却像是「受害者」，那就得格外留意了。
Shapira说，研究员每週都会将他们的发现写成报告，而几乎每週都会有他们从没想过的霸凌形式。儘管如此，在脸书团队和资源的帮助之下，Instagram公司负责用户身心的员工相信，他们不仅能攻克各路专家长期以来困扰不已的挑战（像是建造一台理解何谓讽刺的电脑），还能知道要怎么用人工智慧来辨识像是「朋友惧怕揪团没找你（intentional FOMO）」的新现象，或是中学生用来嘲笑同脖子的帐号。
言论自由和防範霸凌的界线，该怎么拿捏Instagram公司还有很多数据不愿公布，像是在他们的1200位员工，或脸书的37700位员工当中，有多少人负责霸凌问题。他们也不愿公布现行分类器的错误率，或标记给审核员的内容究竟有多少。人们现阶段对人工智慧的期待，往往高过其实际能力。而对科技的信心，则是高得冲破天际。Shapira说：「会改善的，再过一两年左右。」
Mosseri在产业最艰困的时刻接下了目前最强盛的社群媒体。5月中，我和他在Instagram旧金山分公司一间宽敞明亮的办公室会谈，讨论霸凌一事。这是他在第一次公开受访， 而且就在不久前，白宫才邀请了一群自认被社群媒体公司审查的民众，来跟聊聊他们的故事。在那之前不久，脸书的一位共同创办人主张，是时候拆分脸书权力了。
考虑到不可能有一套标準清楚界定Instagram的人工智慧和审核员可以严苛到什么地步，我问他，当他在制订反霸凌策略时，是否受到言论自由牵制。他说，他们必须很小心，「言论超级重要」。但他也强调，Instagram必须有所作为。好几年来，网路公司刻意和平台上的一切保持距离，不负任何责任。但随着政治氛围更加谨慎，公司高层的行事也更加负责。他说：「有鉴于我们的规模，我们肩负了重责大任。」
危机四伏，但Mosseri很熟悉棘手的处境。2008年，他加入脸书公司，担任设计师。后来，也组了一支团队，负责管理脸书的动态消息。而用户主页上那些毫无止境的动态，正是争议的中心。2016年大选期间，众人的引战和外国势力的干扰、操弄，也始于脸书的动态消息。有鉴于此，Mosseri组成了「廉政小组」，亲自监管人工智慧的开发，意图根除假消息等複杂的病灶。在这期间，他与祖克柏熟识，2018年初，被指派为Instagram的产品主管，之后更一举登上Instagram负责人的职位。
随着Instagram努力让霸凌的定义更臻完善，Mosseri相信他们能够建立一套标準，用人工智慧止住欺凌，甚至开发出其他公司也愿意採用的系统。于此同时，他也致力于寻找各种方法，让Instagram的广大用户在电脑的辅助之下，一起帮忙解决这个问题。他说：「人们经常将科技和人性置于对立面。但我的看法是，人类和科技可以，而且也应该携手合作。」
Instagram即将在今年推出两项新功能，作为上述理想之实践。其一称为「留言警告」：假如某人决定在某篇贴文下留言，而Instagram的霸凌分类器认定该贴文有霸凌的「嫌疑」，那么系统就会跳出提示，请使用者三思而后行。Instagram身心健康小组的一位设计师Francesco Fogu说：「这是给用户的小提醒，告诉你：『嘿，这可能不太礼貌喔。』而不是直接禁止你发布讯息。」这也让Instagram免于面对霸凌和言论自由之间的微妙界线。
第二项功能，叫做「限制」（Restrict）。Instagram的调查发现，青少年非常讨厌封锁霸凌他们的同学，这一方面让他们受伤的情绪漏了馅，另一方面，也让他们无从得知霸凌者可能的下一步。「限制」功能隐晦多了。你很容易就会发现自己被封锁，但要发现自己被限制，就没那么容易。被霸凌的对象有权审核霸凌者帐号所张贴的任何留言，他可以选择核可、删除，或让它永远停在「待审核」状态（如此一来，除了霸凌者自己，其他人都不会看到这则留言）。私讯匣也有类似功能。如果霸凌者想在公开贴文上标记某个用户，Instagram不会自动跳出该用户的名字，霸凌者得完整打出那个人的帐号名才行。Fogu说，这些设定会拉开双方的距离，「让霸凌者更难欺负别人」。
Instagram还在产品开发的过程中，多加了一道步骤。在任何东西上市之前，都必须经过审查，了解该产品被「武器化」的任何可能，而这也包含了霸凌。假如该功能明显容易沦为霸凌的工具，Karina Newton说，他们便会考虑撤下该功能，即使它再受欢迎也一样。
除了主动对用户呼吁，Instagram还能多做些什么？整体而言， Instagram看似比任何公司都更努力在打这场仗，但他们还是忽略了某些可能的解方。我们为了这篇报导，进行了多次访谈，出现最多的疑虑便是Instagram的匿名性。这项特性使得青少年得以经营所谓的「忏悔」或「谴责」帐号，用以散布八卦、扭曲同侪。这也让用户能够轻易去除他人的人格，助长恶劣的行为。当问道Instagram是否考虑和脸书一样採实名制时，Mosseri并未排除这个可能，但也没有积极想要这么做——毕竟这会直接影响他们大部分的用户。
他说：「确实，当有责任归属存在，人们会更注意自己的行为。而责任归属有部分来自于大家知道你是谁。但匿名性也带来许多好处。人的身分非常複杂。」
以他自己为例，他有两个年纪太小，还无法使用Instagram的孩子（儘管人们经常不遵守规定，但照理来说，未满13岁的孩子不能注册Instagram）。于是，Mosseri替他们经营帐号，好让亲戚追蹤。他还说，对正在探索性别认同或性倾向的年轻人来说，匿名性也让他们保有隐私。此外人们还可以追求不同于线下生活的兴趣。Mosseri表明：「重点是我们如何了解人们的动机、如何解决问题，而且避免破坏好的那一面。」
随着外界对科技公司的监督越来越谨慎，而且还有研究报告指出，霸凌并不是成长过程中无足轻重的小事，这些公司在处理霸凌事件时所受的压力也越来越大。对很多青少年来说，Instagram是他们接触的第一个社群媒体，再加上这个时代的年轻人比过去更孤独、忧郁——一切都使他们更加脆弱。许多学者认为，社群媒体必须为上述现象负起部分责任，毕竟发生在这些平台上的霸凌现象确实对青少年的心理健康有害。虽然有时可能只是稍微烦人了一点，但霸凌也经常被认为和自我伤害、自杀、自杀倾向，及成年之后的焦虑有关。
人身攻击是这些平台上最典型的霸凌形式，但除此之外，还有不少单独的案例，远比人身攻击更严重。2015年，12岁的Kennis Cady在纽约East Rochester的卧房上吊自杀，在昏迷一週后，不幸身亡。后续调查发现，许多同学提到他们曾经看过或听说过有两个八年级学生在Instagram上创了一个帐号，假装她们是Kennis，并散布关于她的错误讯息，藉以捉弄Kennis。调查员怀疑Kennis生前可能试图删除帐号，但他们不曾找到那个帐户。
Kennis的妈妈Michaela表示，她「真心相信」是社群媒体导致了她女儿的精神状况。她说，Kennis在自杀前一天「非常沉默，看起来心情很低落」。
在接受《TIME》访问之前，Mosseri只有一次公开受访的纪录。当时，英国一名年轻女孩自杀，而据她父亲的说法，她在离世前，曾在社群媒体上浏览自杀、忧郁等教人不安的内容。好巧不巧，Instagram在二月份也将自我伤害的相片列为管制内容，不允张贴。
真正该问的问题：人们为何会有这些霸凌的行为Mosseri和Twitter执行长Jack Dorsey等社群媒体巨头一样，他说Instagram正在釐清人们对社群媒体极度焦虑的「核心原因」。人会做各式各样糟糕的事情，像是为了证明自己的社交地位（也就是获得更多的「讚」），而设法诋毁他人。因此，Instagram正在测试能否完全隐藏讚数。同时，他们也设法让用户暂时抽离社群媒体。其中一个正在开发中的功能叫做「暂离模式」，使用者可以设下时限，在这期间，他们不会收到通知，非联络人也无法联络他们。
此外，Instagram也在开发一套新程式，希望能藉此挑战平台协助建立起的无敌高标。大多数青少年都会告诉你，如果你想激起旁人的嫉妒，你必须看起来迷人，但又不能太刻意。来自洛杉矶拉法叶市（Lafayette）、现年15岁的Courtney Broussard说：「可能会有人截图，在你背后嘲笑你。只要你没达到标準，就可能被网路霸凌。」
呼吁拆分科技巨擘的声浪（例如要求Instagram从脸书公司中独立出来）也逐渐登上电视新闻，或成为社会运动的诉求。对此，Mosseri的回应是，从母公司独立出来「最大的缺点」，是他的团队将无法使用人工智慧和相关技术，因而无法处理霸凌和骚扰等问题。他相信Instagram的规模（或说是责任）也是一项资产。确实，如果他们的规模比现在小一万倍，那审核员就能审核每一则贴文和每一条讯息，这么做也许就能轻易解决霸凌问题，但却可能产生资安疑虑。他还说，以他们现在的规模，他们将能带领整个产业，提升对网路霸凌的了解，并找到能与之抗衡的技术。
Mosseri表示，关键在于你是否认为人际连结，或甚至网路本身，对人性来说百利而无一害。他说：「一开始，科技本身并没有好坏之别，科技就是科技而已。至于社群媒体，它是一种科技，通常也是一种强化器。重点在我们身上，我们必须确定被强化的是好事，而不是坏事。」
Instagram并没有发明霸凌。只要是人类聚集的网路空间，就会有人被霸凌。上至，下至普通人，成人总是将网路霸凌正常化。专家指出，我们的社会失败了，我们还没教会孩子网路的运作方式，就放任他们遨游。他们才刚要开始了解人际中各种权力关係的意义而已。Instagram还说，对抗霸凌不能只靠科技公司的力量，还得仰赖父母、学校和孩子自己的努力。
在德州，Kennis一家人找到了新的起点。她的母亲Michaela说，她不认为女儿的死是Instagram的责任。她的女儿就像大部分遭受网路霸凌的孩子一样，在现实生活也受人欺凌。但她也认为，社群媒体在今日社会过于盛行，若想解决这个问题，靠得不是更多的科技，而是相反。时至今日，社群媒体已成为生活的重心，要求受霸凌的孩子把电脑关掉或删掉帐号，一点也不实际。
Michaela说，线上、线下世界的距离必须拉开，只有喘息的空间是不够的。她说：「有了社群媒体，你连逃也不知道可以逃去哪。」
© 2019 Time Inc. 版权所有。经Time Inc.授权翻译并出版，严禁未经书面授权的任何形式与语言版本转载。