《科技日报》9月8日刊发报道，关注一个愈发常见的情形：AI正逐渐占据“文本裁判”的位置——无论是论文审稿、新闻核查、作文评分还是内容审核，越来越多的判断环节被交由人工智能处理。当AI既充当“参赛者”又扮演“裁判员”时，内容生态所依赖的信任基础正面临新的挑战。
AI介入内容治理并非新现象。多年来，社交平台依靠算法识别违规信息，学术期刊也借助查重工具检测抄袭行为。然而，生成式AI的广泛运用使这一议题发生了根本性转变。过去的AI审核多属于“匹配式”——比对关键词或重复率，其逻辑较为清晰；而如今的大模型裁判则属于“推理式”——它综合语义、语境和风格作出判断，但其内部决策机制往往难以窥见。
“黑箱”带来的首要问题是偏见。AI的判断源自训练数据，若这些数据中夹杂着性别、地域或意识形态层面的偏差，AI裁判便可能对特定群体形成系统性歧视。一篇论文能否被推荐发表、一篇作文得分的高低、一条内容是否被判定违规，当这些决定由AI作出时，公平性又该如何保障？
其次是“幻觉”问题。大模型有时会“煞有介事地胡言乱语”，在裁判场景中同样可能产生误判。一篇高质量的原创文章或许会被AI认定为“AI生成”，而一篇有问题的内容也可能被AI放过。更令人困扰的是，AI的失误往往难以解释——它无法说明“为何判错”，用户也很难进行有效申诉。
第三是利益冲突问题。当AI公司开发的模型被用于内容审核，而这些公司自身又运营着内容业务时，“裁判员”与“运动员”之间的界限便趋于模糊。AI裁判的标准由谁来定？由谁来监督？是否存在借助审核权力打压竞争对手的可能性？这些问题目前尚无明确答案。
教育领域的矛盾表现得尤为突出。斯德哥尔摩大学等机构对26811名中国学生开展的一项为期30个月的研究显示，生成式AI的使用或许与学生学习能力的下降存在关联。当学生用AI完成作业、教师用AI批改作业时，教育的核心——人与人之间的思想交流与知识传递——正被逐渐削弱。
面对这些挑战，构建一套针对AI裁判的治理新框架显得十分必要。首先是透明度原则——AI裁判的标准、逻辑及数据来源应当具备可追溯性和可解释性；其次是申诉机制——被AI判定的内容或个人应拥有便捷的人工复核途径；再次是人机协同——AI可承担初筛和辅助工作，但最终决定权应保留在人类手中，尤其在论文发表、司法裁决、教育评价等高风险领域。
技术演进的速度往往领先于规则的完善。AI坐上裁判席已是不可逆转的潮流，但“让AI参与裁判”并不等同于“让AI全权做主”。在效率与公平之间、在技术与人文之间寻求平衡，是数字时代内容治理必须解答的课题。
文/鸣耒。
