组建同行评审小组:确保人工智能可信度的必要之举
在评估人工智能的可信度时,仅依赖专家意见已不足以全面反映其真实能力。近日,Cong Cheng、Jian Dai、Lulu Yan与Chengliang Wang等学者在《自然》杂志发表观点文章,指出尽管采用“专家访谈”(即“Sunstein测试”)可有效检验AI的技术表现,但若将少数专家视为判定AI可信性的唯一权威,可能无形中固化现有的权力结构。 该测试由Vinay Chaudhri提出,旨在通过深度问答判断AI是否具备真正的理解能力。然而,研究者们警告,这种做法容易将评判权集中在一小部分精英群体手中,而这些人的价值观和偏好往往决定了AI系统的评价标准。正如Cathy O’Neil在其著作评论中所揭示的,当前AI系统的设定与目标,本质上反映了少数开发者与决策者的意志,而非社会整体的利益。 因此,作者呼吁引入“同行评议小组”机制,即由来自不同背景、学科与社会群体的多元代表共同参与评估AI系统的可信度与影响。这种群体性判断不仅能减少个体偏见,更能确保AI的发展方向更加包容、公正,并回应公众关切。 他们强调,真正的AI可信度不应由单一专家裁定,而应建立在广泛参与和透明协商的基础之上。唯有如此,才能避免技术垄断与社会不公的加剧,推动AI真正服务于全人类的福祉。
