内容审核机制⎪互联网平台业务审核形式的竞争走向

目前国外头部平台型媒体的内容审核标准主要由平台内部审核规则指南、突发事件中的补充性规则、审核员之间的共识、内部信息发布工具等几个方面构成。而国内平台型媒体的审核标准虽与之类似，但所涉及的因素可能更为复杂，目前的内容审核现状仍然是人工审核与机器审核并存。

国内平台媒体的内容审核机制一方面可以通过人工智能算法降低人工成本，另一方面借助人工团队判断部分算法无法识别的复杂内容问题，并进行价值观判断。同时，人工审核结果还可为算法学习提供样本库，当样本量积累到一定程度时，更为精密准确的算法模型就被训练出来，然后更多人工审核内容就又可以交给人工智能审核，构成正向循环。

人工审核团队中的岗位变动经常发生，一方面是业务可能转移到二三线城市来做，一方面是算法系统更精准后进一步取代人力的审核工作。

大部分审核团队认为目前相关领域最大的进展是技术工具的突破，如大部分暴力色情类视频和文字内容都是通过机器学习算法识别出来的，用户生产的不合规内容在较短时间内就被机器删除了。

虽然智能审核存在一定程度的误判和漏判，如对社会热点内容的误判可能导致内容失去时效性、对假新闻、假产品的漏判会影响用户信任，而且算法模型的迭代升级仍需面对生产内容背后的隐形意向问题。

一方面这是受限于算法技术本身，另一方面，审核员面临着庞大、密集与冗杂的工作情境，需要进行主观判断。审核团队的工作量非常大，头部内容生产平台的用户动态如文字和图片每人每天至少要上千条，要是文章的话每天可能需要处理成百上千条，而且的操作时间与判断动作都会被机器记录下来，由人工智能审核系统统计每个人限时内审核判断的正确率。

不过人工内容审核团队本身在具体工作中也存有极强的主观性，因此难以保证审核的精确性和客观性。从传统编辑主导到互联网时代的用户与编辑共同主导，从三审三校制到机器与人工双重审核，智能内容审核已然成为平台型媒体生存和发展的必要条件。

未来内容生态中会催生新的社会分工，内容风控将逐渐成为偏重点，第三方内容审核机构将涌现出来，而随着海量样本训练库对算法的纠偏，更多审核工作将由人工智能系统来承担。

随着多种社会力量加入到审核体系当中，内容行业的审核规则会逐步建立起来。尽管如此，平台型媒体的商业逻辑仍是主导内容审核的重要动力，也就是用平台内容吸引用户，再将用户打包给广告商。

因此，平台型媒体的内容审核可能会成为一种结构性机制，无论是基于内部资本驱动，即平台的商业创收和盈利目标，还是基于社会政治或文化期望的要求，都将对社会其他场域发挥强大的他律作用。