红蓝对抗 – mylogs.cn https://mylogs.cn 发现、记录、分享 Tue, 29 Sep 2026 16:30:51 +0000 zh-Hans hourly 1 怕 AI 失控，Anthropic 联手埃森哲豪掷 20 亿美元评估 https://mylogs.cn/%e6%80%95-ai-%e5%a4%b1%e6%8e%a7%ef%bc%8canthropic-%e8%81%94%e6%89%8b%e5%9f%83%e6%a3%ae%e5%93%b2%e8%b1%aa%e6%8e%b7-20-%e4%ba%bf%e7%be%8e%e5%85%83%e8%af%84%e4%bc%b0/ Sun, 20 Sep 2026 13:55:46 +0000 https://mylogs.cn/%e6%80%95-ai-%e5%a4%b1%e6%8e%a7%ef%bc%8canthropic-%e8%81%94%e6%89%8b%e5%9f%83%e6%a3%ae%e5%93%b2%e8%b1%aa%e6%8e%b7-20-%e4%ba%bf%e7%be%8e%e5%85%83%e8%af%84%e4%bc%b0/ 人工智能实验室 Anthropic 于当地时间 9 月 19 日宣布，将与咨询与专业服务公司埃森哲（Accenture）展开合作，对其前沿人工智能模型开展独立评估。两家企业承诺，未来五年各自至少投入 10 亿美元（按当前汇率约合 67.18 亿元人民币），用于搭建支撑这项工作的配套能力。

Anthropic 与埃森哲合作开展 AI 安全评估

这一合作出台的背景，是 AI 研发企业正承受来自监管机构、同业与研究人员越来越大的压力，各方都要求企业证明高级模型具备安全性与可靠性。近期已发生数起 AI 智能体突破隔离运行环境的事件，引发担忧：未来人工智能或许能在人类少量介入下自我迭代，使行为更难被监控与管控。

当地时间 9 月 20 日，Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁各家 AI 企业放缓前沿模型的开发节奏，同时向独立评估人员开放更大程度的系统访问权限。竞争对手 OpenAI 也已表态，将定期发布报告披露模型的异常或值得警惕的行为，并一次性对外公布了六份相关事件报告。

具体执行上，埃森哲旗下专门的 AI 业务部门 Faculty 将主导本次合作，对 Anthropic 模型开展评估与红蓝对抗测试，完成对齐效果评估，并检验各项安全防护机制。双方资金将用于 Anthropic 所称的”驻场评估”（embedded evaluation）模式：独立评估人员进驻 AI 企业内部，所获系统访问权限与普通员工基本相当。Anthropic 表示，依托这一视角，评估人员可以考察企业实际运营、核实安全承诺是否兑现，并发现企业自身未意识到的安全盲区。

公告还提到，评估人员可上报各类安全事件，向公众提供更详实的分析，阐明 AI 带来的收益与潜在风险。Anthropic 与埃森哲后续还计划联合更多评估机构与 AI 厂商，以类似模式继续推进相关工作。

]]> OpenAI 推出 GPT-5.6-Cyber 网络安全模型 https://mylogs.cn/openai-gpt-5-6-cyber-daybreak/ Wed, 12 Aug 2026 08:50:03 +0000 https://mylogs.cn/openai-gpt-5-6-cyber-daybreak/ 随着 AI 智能体「失控」的新闻频出——从入侵代码托管平台到冒充真人搞社会工程学攻击，模型正越来越像恶意行为者。在此背景下，开发这些模型的实验室也开始加码网络安全防御能力。本周，OpenAI 宣布扩展其名为 Daybreak 的网络安全防御服务，并随之推出一款专用于防御工作的新型网络模型。

OpenAI 推出 GPT-5.6-Cyber 网络安全模型
图片来源：VentureBeat（相关报道配图）

Daybreak 分成蓝、红两档

Daybreak 最早于今年早些时候推出，时间上紧随 Anthropic 发布其网络专项模型 Mythos。它把模型、工具与工作流打包，提供给防御方使用。此次扩展后，Daybreak 分为两个档位：Blue（蓝队）与 Red（红队），两档都向通过审核的客户开放 OpenAI 受限的前沿网络模型。

其中 Blue 档相对基础，提供事件响应、恶意软件分析和补丁验证等能力，OpenAI 称之为「大多数防御者的推荐起点」。Red 档则提供更广、也更危险的工具箱，包含「按目的训练的网络安全模型」，用于安全测试与漏洞研究；新模型 GPT-5.6-Cyber 仅在 Red 档提供。

GPT-5.6-Cyber 是什么

OpenAI 表示，GPT-5.6-Cyber 基于 GPT-5.6 Sol 构建，在特定的网络安全专项任务上增强了能力。目前它只面向「受信任的客户伙伴」开放，据报道包括埃森哲（Accenture）、IBM、CrowdStrike、Cloudflare 等。

OpenAI 在官方博文中写道：「网络安全世界正在快速变化——威胁行为者将越来越多地利用 AI，以空前的速度和规模发起网络攻击，包括完全自主的方式。随着这些能力扩散，防御者的准备窗口正在收窄。」

能力与争议并存

据 VentureBeat 报道，GPT-5.6-Cyber 在高级网络安全任务上的完成度达到 95%，且相比基础版本降低了「拒绝回答」的概率，更便于开展漏洞研究。OpenAI 还称，已在真实世界的漏洞研究中大量使用该模型，并借此在 Chrome 浏览器 V8 引擎等流行开源软件中发现了此前未知的漏洞。

不过，批评声音同样存在。有观点指出，这类模型在某种程度上成了 AI 实验室的营销机会——既能展示技术实力，又能把防御服务卖给最早感知到风险的同一批企业。一个能找漏洞的模型，本质上也能写漏洞利用；同样的强大能力，方向取决于使用者的意图。

这并非 OpenAI 第一次在「开放还是设限」上陷入两难。此前，OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）曾公开批评 Anthropic 限制 Mythos 模型访问的做法，称其「以谨慎为名行垄断之实」。如今 OpenAI 自己也对新模型设置了访问门槛，仅向所谓的「受信任的安全防御者」开放。无论立场如何，AI 网络攻防的军备竞赛，已经把模型本身推到了防线的最前沿。

来源：TechCrunch

]]>