Discord AI审核系统故障误封超八千用户
社交平台Discord近日承认,其AI内容审核系统自今年5月以来出现程序漏洞,导致超过八千名用户被误封。系统因将电子表格、棋盘、游戏贴图及纯色透明背景等无害图片错误识别为违规素材,触发自动封禁机制。尽管平台原本设有管理员复核流程,但该漏洞致使账户在未经人工审查的情况下被直接永久停用。 针对此次误判,Discord在官方说明中表示已定位问题并完成修复,正逐步恢复受影响账户。分析指出,算法对网格状图案的识别阈值可能因过往有人利用此类设计隐藏不当内容而被动调高,从而引发大量误报。大量用户反映,单纯依赖自动化检测进行永久封禁缺乏容错空间,对依赖该平台进行商业沟通与社群运营的用户造成严重困扰。 该事件再次暴露出大型平台依赖AI进行规模化内容风控时面临的共性难题。近期,Meta旗下应用与Tumblr等平台亦曾遭遇大规模无故封号争议。面对自动化审核带来的误伤风险,业界正加速呼吁建立更透明的算法审核机制与更完善的人工复核补救流程,以平衡内容安全与用户权益。
