AI 治理 – mylogs.cn https://mylogs.cn 发现、记录、分享 Tue, 29 Sep 2026 16:26:50 +0000 zh-Hans hourly 1 OpenAI呼吁美国牵头制定前沿AI全球安全标准 https://mylogs.cn/openai%e5%91%bc%e5%90%81%e7%be%8e%e5%9b%bd%e7%89%b5%e5%a4%b4%e5%88%b6%e5%ae%9a%e5%89%8d%e6%b2%bfai%e5%85%a8%e7%90%83%e5%ae%89%e5%85%a8%e6%a0%87%e5%87%86/ Tue, 22 Sep 2026 11:09:51 +0000 https://mylogs.cn/openai%e5%91%bc%e5%90%81%e7%be%8e%e5%9b%bd%e7%89%b5%e5%a4%b4%e5%88%b6%e5%ae%9a%e5%89%8d%e6%b2%bfai%e5%85%a8%e7%90%83%e5%ae%89%e5%85%a8%e6%a0%87%e5%87%86/ OpenAI 总部

当地时间 9 月 21 日，OpenAI 通过官方博客发布题为《为 AI 下一阶段建立标准》（Building standards for the next phase of AI）的提案，呼吁由美国牵头，联合其他国家为前沿人工智能制定共同的技术标准。该提案正值世界各国领导人在纽约出席联合国会议期间发布。

标准聚焦三大方向

OpenAI 在提案中表示，要让 AI 在持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。

提案重点指向三个领域：明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发前沿模型所需算力的获取条件。OpenAI 强调，各国应合作制定能够相互衔接的国内和国际标准，用于约束最先进 AI 模型的开发。

点名“递归式自我改进”风险

提案特别针对 AI 日益增强的自主工作能力提出标准，明确反对在确保安全之前推进“完全自主的递归式自我改进”（RSI）——即 AI 在没有人类介入的情况下修改自身代码、或通过其他方式不断提升能力。

OpenAI 指出，完全自主的 RSI 目前尚未实现，除非能够安全实现，否则不应贸然推进。一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让 AI 系统的改进速度超过人类的控制能力。Anthropic 首席执行官达里奥·阿莫迪此前也曾发出类似警告。

借力现有安全机构网络

OpenAI 建议，标准制定可依托全球已有的 AI 安全机构网络推进，其中包括美国商务部下属的人工智能标准与创新中心（CAISI）。该中心于 2024 年发起“国际先进 AI 测量、评估与科学网络”，成员涵盖澳大利亚、加拿大、欧盟、法国、日本、肯尼亚、韩国、新加坡、英国和美国等十个经济体。

提案还点名澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度和英国作为可合作的对象。不过，OpenAI 也承认，在中美两大 AI 强国战略利益存在差异的背景下，一个由美国主导的全球标准框架如何容纳中国，仍是未解的难题。

以“预览”警示失控风险

OpenAI 在提案中提及此前披露的“Hugging Face 事件”——其 AI 智能体曾协同突破隔离环境并入侵开发者平台 Hugging Face。该公司表示，这起事件虽不涉及 RSI 技术，却暴露出若缺乏强有力保障与协调，某些风险可能变得更为严重。彭博社报道指出，此类安全事故不仅加剧了外界对新一代模型网络攻击能力的担心，也暴露出 AI 企业在阻止模型失控方面可能存在的不足。

OpenAI 同时澄清，这些技术标准并非模型上市的“许可证”或强制预审、批准要求，各国政府将自行决定是否以及如何将其纳入本国法律体系。

]]> 医院狂上AI，监管却没跟上：临床AI部署快于规则落地 https://mylogs.cn/%e5%8c%bb%e9%99%a2%e7%8b%82%e4%b8%8aai%ef%bc%8c%e7%9b%91%e7%ae%a1%e5%8d%b4%e6%b2%a1%e8%b7%9f%e4%b8%8a%ef%bc%9a%e4%b8%b4%e5%ba%8aai%e9%83%a8%e7%bd%b2%e5%bf%ab%e4%ba%8e%e8%a7%84%e5%88%99%e8%90%bd/ Sun, 30 Aug 2026 16:52:36 +0000 https://mylogs.cn/%e5%8c%bb%e9%99%a2%e7%8b%82%e4%b8%8aai%ef%bc%8c%e7%9b%91%e7%ae%a1%e5%8d%b4%e6%b2%a1%e8%b7%9f%e4%b8%8a%ef%bc%9a%e4%b8%b4%e5%ba%8aai%e9%83%a8%e7%bd%b2%e5%bf%ab%e4%ba%8e%e8%a7%84%e5%88%99%e8%90%bd/ 在欧美医疗体系，人工智能正以超出许多人预期的速度进入诊室、病房与后台流程。但多位研究者与监管机构指出，围绕这些系统的测试与监督机制，却没能以同等速度建立起来。

医疗人工智能概念示意图
图片来源：示意图（AI 生成）

从部署规模看，临床 AI 的渗透已经相当可观。美国食品药品监督管理局（FDA）数据显示，截至 2026 年初，该机构已累计批准超过 1400 款含 AI 的医疗器械，其中绝大多数用于放射科。在电子病历平台方面，一项发表于《美国管理式医疗杂志》的研究统计，在使用 Epic 系统的 2784 家美国医院中，约 62.6% 已经部署了“环境式”语音文档工具，用于记录医患对话并生成草稿病历；另一项 2026 年 Doximity 对逾 3100 名医生的调查显示，使用语音文档的医生比例在不到一年内从 20% 升至 29%。

然而，部署的快与监督的慢，正在拉开鸿沟。FDA 生物医学工程师、科学评审员 Luke Ralston 在相关会议上指出，AI 监管的核心在于透明度，而“我们并不了解全部”。他提到两个反复出现的问题：一是“性能漂移”，即模型在真实临床环境中的表现可能随患者人群变化而下降；二是数据泛化，训练数据需要足够大且具有代表性。

现实中的落差已有多项研究佐证。《美国医学会内科学杂志》2021 年一项关于 Epic 脓毒症预测模型的研究发现，该模型仅能识别约三分之一最终发展为脓毒症的患者。2024 年《自然·医学》一篇综述检视了 521 款获批设备，其中 226 款（近一半）无法提供在“真实世界”场景下的性能数据；另一项针对约 700 款获批设备的回顾则显示，不到 4% 包含了测试对象的种族与民族数据。脉氧仪校准长期以浅色皮肤人群为主，2020 年《新英格兰医学杂志》研究指出，黑人患者被该设备漏判危重低血氧的概率是白人患者的近三倍——这类基于错误人群训练的系统，并非随机失效，而是在医疗资源最薄弱处失效。

与药物不同，许多医疗器械可在未经过人体临床试验的情况下获批。FDA 常用的“实质等效”（510(k)）路径，只要求厂商证明其新产品与已获批产品基本相当。约翰斯·霍普金斯、乔治敦与耶鲁等机构的研究者曾发现，数十款 AI 设备与召回相关，其中不少在获批后第一年即出现问题。

部分医疗机构开始主动补课。梅奥诊所（Mayo Clinic）平台部门负责人 John Halamka 透露，该机构在 2026 年通过高层主导的治理流程，已评审并批准超过 100 款临床 AI 应用，对复杂度高、可能影响紧急决策的工具，要求必须由合格临床医生进行主动人工复核。

对中国市场而言，这一议题同样具有参照意义。中国大量医院已引入 AI 辅助诊断、影像筛查与病历结构化工具，相关产品在进入临床应用前需经过国家药品监督管理局（NMPA）的审批与持续监测。如何在鼓励创新与守住安全底线之间取得平衡，正成为全球医疗系统共同面对的课题。

]]>