社交媒体被用作传播错误信息和煽动暴力的工具，是最近英国街头骚乱的一个关键问题。
社交媒体在英国街头暴力和混乱中所扮演的角色已成为一个关键问题，对平台的节制和监管正受到密切关注。
网上传播的错误信息在一定程度上引发了骚乱，现在人们因通过社交媒体平台煽动仇恨或暴力而被捕并受到指控。
下面我们来仔细看看社交媒体内容审核目前是如何运作的，发布仇恨内容是如何构成犯罪的，以及该行业的监管将如何改变审核方式。
-社交媒体网站目前是如何审核内容的?
所有主要的社交媒体平台都有他们要求用户遵守的社区规则，但是他们如何执行这些规则取决于他们的内容审核团队是如何建立的，以及他们如何执行这个过程。
大多数大型网站都有数千名人工版主，他们会查看被标记的内容，或者由人工员工、软件和人工智能工具主动发现的内容，这些软件和人工智能工具旨在发现有害内容。
-目前的限制是什么?
一般来说，内容审核存在几个关键问题，包括:社交媒体的规模使得很难发现和删除所有有害的帖子;审核员——无论是人为的还是人为的——都很难发现细微的或局部的语境，因此，有时会把有害的误认为无辜的;审核在很大程度上依赖于用户向审核员报告内容——这在网络回音室中并不总是发生。
此外，在一些网站上使用加密消息意味着并非所有内容都是公开可见的，可以被其他用户发现和报告。相反，他们依赖于那些在加密组中报告潜在有害内容的人。
至关重要的是，最近许多科技巨头也对内容审核团队进行了大量裁员，通常是因为财务压力，这也影响了内容团队的应对能力。
在X(前身为Twitter)，埃隆·马斯克(Elon Musk)在接管该公司后，大幅削减了该网站的审核人员，这是他节省成本措施的一部分，同时他将该网站重新定位为一个允许更多“言论自由”的平台，大幅放松了针对违禁内容的政策。
其结果是有害材料能够在最大的平台上传播。这也是为什么长期以来一直有人呼吁加强监管，迫使网站采取更多措施。
-在社交媒体上发帖如何构成犯罪?
根据英国法律，在社交媒体时代之前，有关煽动、挑起暴力和骚扰的违法行为就已被《1986年公共秩序法》涵盖，但这确实包括线上和线下发生的违法行为。
大多数社交媒体网站也在其规定中明确禁止此类内容，这意味着他们以及警方可以根据任何此类帖子采取行动。
-那么期望平台删除所有有害内容有多现实?
在目前的体制下，不太可能。
在许多情况下，社交媒体平台正在对煽动或鼓励混乱的帖子采取行动。
然而，这种有害或误导性内容的传播速度使得平台很难在被许多其他用户看到之前将每条帖子都删除或限制其可见性。
针对社交媒体平台的新规定——《网络安全法》——去年在英国成为法律，但尚未完全生效。
一旦实施，它将要求平台对非法内容和活动采取“强有力的行动”，包括围绕煽动暴力等违法行为。
该法案还将引入刑事犯罪，包括在网上发送威胁信息，以及分享旨在造成重大伤害的虚假信息。
——那么《网络安全法》会有什么帮助?
新法律将首次要求公司在法律上有责任保证用户，尤其是儿童使用其服务时的安全。
在Ofcom的监督下，新法律不会特别关注监管机构删除内容本身，但它将要求平台采取明确和相称的安全措施，以防止非法和其他有害内容在其网站上出现和传播。
至关重要的是，对于那些不遵守规定的人，将有明确的惩罚措施。
Ofcom将有权对公司处以高达1800万英镑或其全球收入10%的罚款，以较高者为准，这意味着最大的平台可能面临数十亿英镑的罚款。
在更严重的情况下，Ofcom将能够寻求法院命令，实施业务中断措施，其中可能包括迫使互联网服务提供商限制对相关平台的访问。
最引人注目的是，在某些情况下，高级管理人员可能会因未能遵守Ofcom的规定而被追究刑事责任，Ofcom希望通过一系列惩罚措施，迫使平台对有害内容采取更大的行动。
在周三发布的一封公开信中，英国通信管理局敦促社交媒体公司采取更多措施，处理在英国街头煽动仇恨或挑起暴力的内容。
监管机构表示:“几个月后，根据《网络安全法》，新的安全义务将会到位，但你现在就可以采取行动——没有必要等待，让你的网站和应用程序对用户更安全。”
这封由英国通信管理局网络安全主管吉尔?怀特黑德(Gill Whitehead)签署的信函表示，该机构将在“今年晚些时候”发布指导意见，规定社交媒体公司在处理“涉及仇恨、混乱、煽动暴力或某些虚假信息的内容”方面需要采取哪些行动。
它补充说:“我们希望在此期间继续与公司接触，以了解他们面临的具体问题，我们欢迎一些服务部门针对英国各地的这些暴力行为采取的积极措施。”
