Facebook公司怎么删掉960万句脏话

编者按：本文来自微信大众号“亲爱的数据”（ID:deardata），作者：谭婧，36氪经授权发布。

互联网上每天发生多少句脏话？这是一个谜。可是，从Facebook公司2020年第一季度的《通明度陈述》里，可以窥到一些相貌。

自2018年5月以来， Facebook公司以季度为周期发布陈述，解说其辛苦的幕（zi）后（jin）工（tou）作（ru）。

在2020年第一季度，公司更是成功删去960万条“脏话”内容。这是一个创纪录的数字，高于2019年第四季度的570万条，也超越了2019年第三季度的700万条。

2020年第一季度的全球大众卫生事情，人们有不少坏心情。

“脏话”是简称，直白的了解是，过火、敌视性言语（Hate Speech）。民间脏话、方言脏话、描绘部分人体器官、人身攻击、种族轻视、性别轻视大略都包含在内，如果有没想到的，还望海涵。

每天，翻开手机APP，就看见键盘侠“口吐芳香”，令人大倒胃口。但是，互联网上脏话的量级，人工删去是删不过来的，并且还会误判。

Facebook公司的办法是，用人工智能技能狙击。

凡是检查，就会有漏查。Facebook公司《通明度陈述》有一个缺点，便是它没有提漏查的程度。

通明与揭露，是与大众交流的高超手法，蠢货只要闭嘴这一招。Facebook公司虽然没有满分，但也供给了“典范”。

让咱们正真看到真善美的存在，也要看到假恶丑怎么被干掉。

在Facebook公司第一季度删去的960万个帖子中，软件体系检测到88.8％（在用户看到信息并告发之前）。这标明该算法用机器符号了850万个“脏话”帖子，比上一季度的460万个增长了86％。

2020年第一季度，除了病毒延伸，“脏话”也在延伸。

Mike Schroepfe，自2013年3月以来一向担任Facebook公司的首席技能官。他借《通明度陈述》发布的时机，要点打了一轮人工智能技能的广告，宣扬了该公司自然言语处理技能的前进。

他说：“咱们的言语模型变得更大，更准确，更纤细了。可以发现详尽奇妙的东西。”

惋惜，Schroepfer并没有解说阐明这些体系检查的准确程度，仅仅说Facebook在布置体系之前对其进行了广泛的测验（测验机器误判的状况）。

究竟一个把正常表达辨认过错的机器，也很让用户动火。

回想诗人顾城的段子。

Mike Schroepfe引用了新陈述中的数据，这些数据标明，虽然在最近的25 - 130万条中，用户更经常地对删去内容的决议提出申述（有很大的或许是骂骂咧咧习惯了，忽然被删，很是不服气），但后来固执康复的帖子数量有所削减（习惯了）。

Facebook的数据并未标明敌视言辞在其算法网络中漏失了多少。该公司的季度陈述估量了Facebook规矩制止的某些类型的内容的发生率，但没有“脏话”内容。新闻官宣显现，自2019年夏天以来，暴力帖子数量有所下降。Facebook公司“仍在拟定一项全球目标”。

缺失的数据掩盖了交际网络的脏话言辞的实在规划。

西雅图大学副教授凯特琳·卡尔森（Caitlin Carlson）说道：“与Facebook巨大的用户网络以及用户对令人不安的内容的调查比较，删去的帖子数目（960万条）看起来太少了。“

教授以为，960万条“脏话”，这一数据还不行实在？

无独有偶，卡教授在2020年1月份发布了一项试验成果。她和一位搭档收集了300多个Facebook帖子（样本），这些帖子显着违反了规矩，试验人员用服务东西进行了告发。追寻成果显现，终究只要大约一半的帖子被删去。

卡教授这一试验成果，在应战Facebook。一起，她也发现，同样是“口吐芳香”，算法对种族歧比在轻视女人方面更为严厉。不知道Facebook高管桑德拉看后作何感触。

Facebook标明，对算法找到（符号）的内容与用户陈述的处理相同。流程上确定是直接删去，仍是正告处理。或许流程上要流转到下一环节，人工审阅者。（或许仍由软件断定，视状况而定。）

这时候，要谈谈人工审阅职工的痛苦了。

2020年5月，Facebook公司赞同付出5200万美元与内容检查团队的职工到达宽和。原因很惊人，检查帖子导致他们患上了精神创伤，已获法庭判定。外媒The Verge之前具体报导了这一音讯。

音讯原文：“Facebook供认内容审阅会给职工形成巨大的丢失，这一次，是具有里程碑意义的供认。Facebook赞同向现职和上一任审阅人员付出5200万美元，以补偿他们因作业呈现的心理健康问题。

在美国圣马特奥高等法院提出的一项开始宽和中，Facebook公司赞同付出赔偿金，并在他们作业期间给与更多帮（tong）助（qing）。”

天天看这些脏话的人，都受了内伤。当然，这得算工伤。

在“剑桥门”事情后，审阅陈述是Facebook公司通明度程序的一部分，这一程序还包含延聘一个新的外部专家小组（有没有研讨脏话的专家？），该小组有权推翻该公司的审阅决议。

讲道理，只要董事会才是公司最高权利组织。

公司和谐外部力气参加的力度很大。究竟罚金有点高，这样下去，扎克伯格就会比亚马逊公司的贝佐斯穷多了。

（“剑桥门”事情，脸书认罚50亿，当然是美金。）　卡教授持续与Facebook公司正面硬刚（我还挺赏识她的执着）。她标明，Facebook公司的发表好像标明该公司可以自我监管，但陈述有缺点。

她说：“要与公司进行对话，咱们应该数据。”

当被问及为何不陈述“脏话”言辞众多状况时，Facebook公司发言人指出，该陈述的衡量标准“正在缓慢扩展，以掩盖更多的言语和区域，以考虑到文化背景和单个言语的纤细差别” 。

界说和检测“脏话”是Facebook和其他渠道面对的最大社会和技能应战之一。

在全球多元文化背景下，即使是人类分辩内容，也是需要花一番功夫的。举个比如，有抖音号教青岛方言表彰人用“赤丝”，请自行体（bai）会（du）一下。

自动化是很扎手的，由于人工智能间隔人类对文本的了解还有很长的路要走，了解文本和图画一起传达的奇妙意义的算法的研讨才刚刚开始。

Schroepfer说道：“机器学习算法在言语学研讨的协助下，Facebook现已晋级了检测算法。许多高科技公司正在对其处理言语的软件体系（例如谷歌的搜索引擎）进行改造，进步用算法处理比如答复问题或弄清歧义等言语问题的才能。”

他着重：“（这是）严重改善。”

Schroepfer还明确指出，这些改善并不能使技能到达完美。

《通明度陈述》透露出，在内容检查和审阅方面，Facebook重兵设防人工智能。脏话会影响交际网络的根基，人工智能再贵重也要用起来。Facebook标明，它现已创建了超越10000个敌视语音模因（模因是许多人在互联网上彼此发送的东西，如视频，图片或短语）的调集，这些模因结合了图画和文本，并激起新的研讨。

该公司将向研讨小组供给10万美元的奖金，鼓励这些研讨小组开宣布可以最好地发现憎恶的模因与良性内容相混合的开源软件。

美国还在对社会化媒体内容中的“脏话”监管采纳放任不管的情绪。

德国2017年通过了《网络法律法》（NetzDG），该法要求具有或超越200万用户的社会化媒体公司有必要删去或阻挠拜访陈述的内容，因其违反了德国刑法对敌视言辞的约束（《网络实施法》，2017）。

公司有必要在收到告诉后的24小时内删去“显着的敌视言辞”，否则将面对5000万美元的罚款（Oltermann，2018年）。

值得一提的是，在2019年恐怖主义突击了新西兰的两座清真寺之后，全球领导人与脸书、谷歌、推特等其他公司高管会晤，一起拟定了一套名为《基督城呼唤》（Christchurch Call）的全球反恐原则，拟定针对极点、暴力，以及敌视性言辞。

更值得一提的是，美国没有签署许诺。　

远在海外的抖音国际版（Tiktok）也发布了《通明度陈述》（2019年12月），只要五页纸。

别问为什么，被逼的。互联网公司有无与伦比的力气来刻画人类言语国际，过火言辞遍地开花，其处理和删去状况却不为人知。《通明度陈述》也适用于新浪微博等国内互联网渠道公司。敢问一句，现在是怎样的世风？先进的技能和生产力都用来和“脏话”做斗争了。

（完）