假新闻太错综复杂 谷歌和Facebook无法让其消失

网易科技讯3月28日消息，国外科技网站Backchannel发表微软研究员丹娜·波伊德（Danah Boyd）的文章称，谷歌和Facebook无法让假新闻消失。假新闻问题太错综复杂了，光凭算法或者编辑是没办法解决的——因为问题是出在人身上，涉及社会、文化、经济、政治等范畴。

以下是文章主要内容：

对于当前有关如何来解决所谓的“假新闻”问题的论调，我越来越感到失望（通常也持反对态度）。我之所以越来越生气，不仅仅是因为我撰写这篇文章时因快怀孕十个月了，情绪很不好，还因为我发现善意的干预措施可能会引发事与愿违的结果。我明白大伙现在为什么想要做点什么——这一领域充满着活力，所涉及的根本性问题也对民主和社会有着重大的影响。不过，现在所发生的这一切实际上并不是什么新鲜事了。它是错综复杂的悠久历史的一部分，它阐明社会、经济、文化、技术和政治方面的各种动态光通过简单的解决方案是无法得以解决的。匆匆忙忙去实施一些创可贴式的补救措施或许会让人感觉良好，但这种解决办法恐怕会使得人们没能将注意力专注于核心的问题上，同时使得那些根本性的问题不断蔓延。

先来说一下解决问题者心目中常见的“解决方法”：迫使Facebook和谷歌通过鉴别“假新闻”和防止它们传播来“解决”问题。大家对科技公司们反映和放大存在已久的社会动态的能力表达不满是好事情，但约束或者迫使它们去寻找解决的良方不会有效果。在我看来，这种方法直接揭示了三个不同的问题：

1）人们无法就“假新闻”的定义达成一致意见，尽管大家正花费大量的措辞去试图定义它。

2）人们似乎并不明白问题的本质所在，不明白内容操纵演变的方式，也不明白他们所提议的方法可能会被那些与他们有着不同意见的人滥用。

3）不管Facebook或者谷歌上的问题得到多大程度上的解决，都无法解决造成美国目前深陷于的文化战争和信息战争的根本性因素。

什么是“假新闻”？

我不打算去尝试定义“假新闻”，但我想要强调它背后所交织的各类问题。“假新闻”一词可用来强调各种形式的问题内容，其中包括公然的和偶然的不准确信息，哗众取宠的和制造恐慌的新闻标题，博客中的仇恨言论和煽动性言论，以及各类宣传信息（受国家利益和其它利益驱使）。在我的一整个职业生涯中，我见识过这种狡猾的信息传播被运用于各式各样的政治目的和经济目的。我认为，如果问题没有精确的定义，或者没有明确地表达出来，那有关XYZ危险性的讨论所取得的成果都只不过是假象。

大体上，据我的观察，“假新闻”大多是作为新的手段被人用来推进长期存在的议程和承诺。长期批评企业权力的研究人员有这么做，保守派权威人士也喜欢利用这种手段来支持其对主流媒体的厌恶。现在，有关“假新闻”人们举行了很多的探讨会议，他们想要共同找到解决办法；与此同时，各派评论家和倡导者纷纷呼吁企业解决该问题，但却没有尝试去定义该问题。我们发现部分人完全聚焦于“准确性”和“真相”问题，有的人则更多地专注于内容如何造成文化框架。

与此同时，在互联网平台公司内部，人们在竭力制定能够长期适用的内容政策。一直以来我都对人们在“假新闻”保护伞下什么应该被防止，什么不应该被防止上的前后矛盾感到非常惊讶。

采取开放式的措施不会带来帮助。当公众可以去举报“假新闻”的时候，各种不恰当的举报会涌现，如男性权利拥护者举报女权主义者批评父权制的博文是“假新闻”。青少年和网络流氓甚至会挑战和质疑网络上几乎一切的内容。

寻求第三方的帮助也好不到哪里去。专家们甚至无法在谁是仇恨组织，谁是在保护言论自由上达成一致意见。（我支持SPLC名单，但那表明了我的政治倾向。即便是这个名单也没有完全覆盖可能会被进步派归类为仇恨团体的组织。）问问大家他们对于封杀小报新闻或者保守派网站布莱特巴特（Breitbart）的立场，你马上就能看到分歧意见。

当前很多有关“假新闻”的讨论着重谈论广泛传播且看上去极其荒谬的内容，但其实最阴险狡猾的内容很多表面上都不是很吸引眼球。它们没有被广泛传播。它们是一种非常微妙的内容，所说的事实是准确的，但在表述和措辞上带有偏向，会鼓动人们做出内容本身没有明确表达出来的危险结论。那就是煽动性言论的巧妙之处：它引发人们的思考并不是通过将想法明确无误地摆在他们面前，而是通过吸引他们去形成那样的想法。相比起像UFO登陆亚利桑那州这样的直白内容，那种内容的威力显然要强大得多。

正当我们被那些为取得经济利益而生的内容吸引走注意力的时候，无数的人在试图通过没那么容易被检测出来的内容去操纵其他人。他们在入侵注意力经济，正当人们试图阻挡他们所尝试的各种不同的东西，他们会不断地进行迭代升级。这也解释了为什么“表情包魔力”会如此地令人惊叹。

有问题的内容正越来越多地从基于文本变成基于视觉，这让它们变得更难被理解，更难被清除，因为它们依靠的是各式各样的文化元素和符号。它们在一些人眼里可能带有讽刺意味或者批判性，但在另外一些人眼里它们则是想法的一种具体化和验证。搜一搜看看纳粹符号是如何被用在含有各种政治评论的卡通图片中。你怎么解读那些图像很大程度上跟你怎么看纳粹符号有关。

有问题的解决方案主义

让我沮丧的是，尽管企业采取行动的压力与日俱增，但到目前为止，在哪些内容应该通过什么流程来进行清理方面我还没有看到什么有力的提议。别误解我的意思——有一些很好的“低垂果实”机制能够切断经济来源（尽管谷歌禁止让部分网站使用AdSense，也让其它的广告网络有机可乘）。我支持那些试图打击未经阅读点击诱饵式转发的提议——这迫使人们会花更多的时间去将内容阅读清楚，而不是光看到内容标题就直接转发。但说到底，这些只是整个生态系统的冰山一角，尽管有人似乎认为自己取得了重大的胜利。

10年前，我在Blogger做“种族志工程师”的时候，花了大量的时间去浏览顾客服务投诉，从博文和评论中随机取样，然后制造小型工具去理解新生的博客圈以及解决有问题的内容。跟我早前在Usenet工作和后来从事绘制Twitter惯例时一样，我为人们能够非常机灵地操控我们所实施的任何精心设计的功能而感到十分惊讶——例如，对于厌食方面（anorexic）的内容屏蔽，他们创造出了“ana”一词。简单来说，当AOL和其它的服务商屏蔽涉及“anorexic”的话时，那些认为厌食是一种生活方式的人开始隐秘地提及他们的朋友“Ana”，以这样的一种编码方式来在不触发内容审查的情况下讨论厌食症。屏蔽特定语言的努力往往会引发很有创意的规避方式。

这些情况由来已久。很多思考技术的人会认识到垃圾邮件制造者和企业围绕电子邮件展开的斗争，以及尝试去解决垃圾邮件问题的各类干预机制。搜索引擎优化可能是会继续困扰整个生态系统的另一个战场。

人们现在在“假新闻”讨论中将瞄头直指谷歌和Facebook的部分原因是，这两家科技巨头在网络信息在特定社会人群中的流传上拥有有效的垄断权。由于集中化系统多少能够遏制垃圾邮件传播和SEO（搜索引擎优化），它们似乎也应该能够解决假新闻问题——只不过人们并不喜欢出现于2016年（当时人们抱怨问题内容）的“个性化”解决方案。

不幸的是，对于“假新闻”我们所讨论的问题跟垃圾邮件或者SEO的问题全然不同。一方面，不同的人，寻求操控内容背后的动机也不同。如果只是为了经济利益，那么我们的讨论会大不一样。但即使是在经济利益驱动的内容操控范畴内，也不好探讨，看看现代产品营销是如何运作的就知道。

即使你的目标是遏制那些由经济利益所驱动的惊人谎言（甚至是FTC美国联邦贸易委员会所说的欺诈行为），解决起来也没那么容易，没那么快速——人们忘记了垃圾邮件/SEO的迭代经过了几十年才达到现在的状态。这些是国际性问题，没有好的监管流程或者合理的流程能够裁定什么是真实的，什么是虚假的。欢迎来到这种高风险的打地鼠游戏。

尝试去撰写一项你觉得会奏效的内容政策。然后，思考一下你会通过那项政策消除可接受做法的种种方式。接着，想想你的敌手会如何规避你的政策。这正是我在Blogger和LiveJournal所做的事情，这项工作的难度之大简直无法形容。我甚至不敢告诉你，挑战色情和母乳喂养之间的界线的图片数量有多少。这些界线并没有你想象的那么清晰。

我不想为企业洗脱干系，因为它们在这个生态系统中确实担负着责任。但它们不会带来人们所要求的那种解决良方。在我看来，很多批评这些公司的人真的很天真，因为他们觉得它们能够轻而易举地解决假新闻问题。

表层底下的本质

太多的人似乎认为，你可以打造一个强劲的系统去准确无误地定义哪些人和哪些内容存在问题，然后实施这个系统，问题即可解决。但任何跟仇恨和不宽容斗争过的人都知道，创可贴式的表面解决办法是行不通的。它们可让问题消失一段时间，但仇恨还会继续出现，除非你解决了源头的问题。我们需要每一个人——包括企业在内——专注于解决技术所反映和放大的根本性问题。

对于不宽容、恐惧、不平等、不安定等问题，学者和媒体记者都撰写过不少好的文章。简单来说，我们存在文化问题，这种文化问题是价值观、社会关系和社会结构的脱节所造成的。我们的媒体、我们的工具和我们的政治正被无数的人用来帮助滋生极化现象，这些人能够利用这些系统谋取个人、经济和意识形态方面的利益。有时候，这是为了个人的喜好。有时候，目标则更加令人不安。

尽管很多的技术人员都认为他们的工具被用来消弭种种的脱节，但实际上这并没有发生。不只有科技行业是这样。新闻业的理想也没有显现在当前的实例化上。就连以市场为主导的资本主义的理想实际上也没有显现在我们目前所有的被腐蚀的实例化上，如今金融业能够控制商业（以及其它的一切）来满足贪婪目的。

这些问题令人头痛的部分原因在于，我们都被困在了一个存在深层缺陷的大系统当中。当然，有的人表现得尤其贪婪，或者尤其有恶意，但平庸的邪恶扎得很深。那么，我们要如何将我们的愤怒、不满和能量往一个创可贴式解决方案主义以外的方向疏导呢？我们要如何克服让那些脱节不那么明显的欲望，着手去重塑社会基础设施和消除社会分歧呢？最重要的是，我们要如何不滋生极化现象呢？

在我看来，我们需要优先解决的设计需要非常明确：打造社会、技术、经济和政治方面的结构，让人们能够理解、重视和沟通不同的观点。太多的技术产品和媒体都以为光是呈现信息就能够完成那种文化工作。我们如今知道这显然不是实际情况。所以我们将那个目标置于我们的主张和和开发流程的中心位置，看看如果将它列为优先事项，我们能够做出点什么来。想象一下，如果风险投资者和其他的投资者都要求产品和内容干预措施要设计得能够消弭社会差距，会怎么样。我们如何能够跳出眼前的利益，基于未来的考量来打造社会基础设施呢？我不确定我们拥有这一决心，但我认为那是问题的一部分。

这些借由“假新闻”显现出来的谜题非常难解。它们属于社会难题和文化难题。它们促使我们去思考人们如何构想知识和想法，如何与其他人沟通和构造社会，并作出应对。它们还十分凌乱，揭示了人们在信仰和态度上的分歧和破碎。那意味着它们不是通过技术手段就能简单解决的。如果我们想要用技术解决方案来解决错综复杂的社会技术问题，我们无法直接地将问题摆出来，然后告诉企业去修复它们揭示和帮助放大的社会问题。我们需要齐心协力，联合有着不同政治和社会理想的人，共同解决那些我们一致认为存在问题的事情。否则，我们将要做的就是试图发动文化战争，企业充当仲裁者和调解人。那听上去十分可怕。（乐邦）