给 AI 做”体检”的开源工作台

英国格拉斯哥大学牵头的研究项目 PHAWM 发布了一款免费工具，帮助机构、政策制定者与公众在享受 AI 应用红利的同时，识别其潜在危害。该工具是”参与式危害审计工作台与方法”（Participatory Harm Auditing Workbenches and Methodologies）项目的首个公开成果，旨在回应各行业快速扩张的 AI 应用对严格风险评估的迫切需求，也与欧盟 2024 年出台的《人工智能法案》等寻求平衡创新与保护的监管方向相呼应。

PHAWM 的开源工作台让不具备深厚 AI 背景的用户，也能对任何 AI 驱动的应用做一次深度”体检”。它尤其会把通常被排除在审计之外的群体——即那些会被 AI 决策影响的人——拉进流程，从而产出对终端用户更友好的结果。工具及其配套框架均公开发布、可免费下载。

四步审计，给 AI 打分

该工具通过一套四阶段流程，系统收集各方对某个 AI 应用的多样化视角。首先，审计发起者用通俗、非技术语言描述该 AI 系统；其次，邀请包括系统使用者及受影响者（如医疗 AI 的患者、公众）在内的相关方参与；接着，参与者结合自身关切与切身经历，对 AI 应用的影响对齐审计；最后，发起者汇总各方数据与洞见，识别风险点，并据以制定改进行动方案。AI 应用将依据每位参与者设定的标准获得”通过”或”不通过”的评级。

该项目由格拉斯哥大学计算科学学院 Simone Stumpf 教授领衔，获英国负责任 AI 机构 RAi UK 350 万英镑资助，汇聚了 7 所英国高校的 30 余名研究者与 28 家合作机构。Stumpf 表示，生成式与预测式 AI 已在住房、就业、金融、警务、教育与医疗等领域影响决策，却也可能带有偏见与失真等缺陷，”在关键服务中构建会放大不公平结果的 AI 应用之前，必须由人类仔细监控并定期审计”。

从”用了再说”到”先审再用”

工具的研发依托与医疗、文化遗产等领域合作方的共同设计工作坊。公共卫生苏格兰（Public Health Scotland）与英国国家医疗服务体系（NHS）国家服务苏格兰分署参与了健康用例。PHAWM 团队正继续与四个重点领域的代表完善工具。Stumpf 补充说，这套方法提供的是一种务实、以社群为中心的 AI 现实影响评估路径，既能审计机构自研的 AI 应用，也能在采购现成 AI 产品前判断其是否合用，”从如此多不同角度深入审视，将帮助机构做出真正知情的取舍”。