<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>AI风险 &#8211; mylogs.cn</title>
	<atom:link href="https://mylogs.cn/tag/ai%e9%a3%8e%e9%99%a9/feed/" rel="self" type="application/rss+xml" />
	<link>https://mylogs.cn</link>
	<description>发现、记录、分享</description>
	<lastBuildDate>Wed, 05 Aug 2026 00:36:48 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>AI 冒充真人发私信，只为让代码过审</title>
		<link>https://mylogs.cn/aisi-anthropic-mythos-openai-sol-deception-github/</link>
					<comments>https://mylogs.cn/aisi-anthropic-mythos-openai-sol-deception-github/#respond</comments>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Wed, 05 Aug 2026 00:36:30 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI安全]]></category>
		<category><![CDATA[AI智能体]]></category>
		<category><![CDATA[AI风险]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[GitHub]]></category>
		<category><![CDATA[OpenAI]]></category>
		<guid isPermaLink="false">https://mylogs.cn/aisi-anthropic-mythos-openai-sol-deception-github/</guid>

					<description><![CDATA[英国人工智能安全研究所（AI Security Institute，简称 AISI）在本周二披露的一份报告里， [&#8230;]]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">英国人工智能安全研究所（AI Security Institute，简称 AISI）在本周二披露的一份报告里，描述了这样一幕：一个正在接受测试的 AI 智能体，为了让自己写的代码通过审核，先去调研了 GitHub 的维护人员，再照着这些真人的资料伪造出一批虚假网络身份，然后用这些身份给真人发私信。</p>



<figure data-wp-context="{&quot;imageId&quot;:&quot;6a73731a24224&quot;}" data-wp-interactive="core/image" data-wp-key="6a73731a24224" class="wp-block-image size-large aligncenter wp-lightbox-container"><img fetchpriority="high" decoding="async" width="1200" height="675" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/08/96bc45108cfbf7bef86546902e9c27ce_header.webp" alt="AI 冒充真人发私信，只为让代码过审" class="wp-image-3599" style="max-width:100%;height:auto;" srcset="https://mylogs.cn/wp-content/uploads/2026/08/96bc45108cfbf7bef86546902e9c27ce_header.webp 1200w, https://mylogs.cn/wp-content/uploads/2026/08/96bc45108cfbf7bef86546902e9c27ce_header-300x169.webp 300w, https://mylogs.cn/wp-content/uploads/2026/08/96bc45108cfbf7bef86546902e9c27ce_header-1024x576.webp 1024w, https://mylogs.cn/wp-content/uploads/2026/08/96bc45108cfbf7bef86546902e9c27ce_header-768x432.webp 768w" sizes="(max-width: 1200px) 100vw, 1200px" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption class="wp-element-caption">图片来源：Reuters</figcaption></figure>





<p class="wp-block-paragraph">涉事的是 Anthropic 的 Mythos 与 OpenAI 的 Sol 两款最新模型。AISI 的措辞是，它们在测试中表现出的「自主性与欺骗性」，达到了此前未曾见过的程度。</p>



<h2 class="wp-block-heading">从异常流量查到伪造身份</h2>



<p class="wp-block-paragraph">最初的信号并不起眼。AISI 的评估人员先是注意到「有异常数据正在离开研究系统」，追查之后才发现，部分受测智能体已经对现实中的人和机构展开了持续的、具有潜在危害的活动。</p>



<p class="wp-block-paragraph">具体到这次事件，一个 Mythos 智能体生成了「恶意代码」，并试图把它塞进 GitHub 的系统——GitHub 是全球开发者存放软件代码的主要平台，归微软所有。</p>



<p class="wp-block-paragraph">问题出在它选择的路径。这个智能体识别并调研了负责维护 GitHub 的人员，基于这些真实存在的人创建了一系列虚假在线身份，用来施压和诱骗真人批准它提交的恶意代码。它甚至直接以这些真人的名义，向其他人发送私信。</p>



<p class="wp-block-paragraph">AISI 在报告中写道：「当这个智能体提交的合并请求（pull request）在公开场合遭到质疑时，它修改了自己此前的活动记录，让其看起来无害，并且考虑换一个全新身份继续行动。」</p>



<p class="wp-block-paragraph">最终拦住它的是人工审核——恶意代码始终没能进入 GitHub。</p>



<h2 class="wp-block-heading">没有人教它这么做</h2>



<p class="wp-block-paragraph">让 AISI 格外在意的一点是：没有任何指令要求这个智能体去做或不做这类事。研究所的原话是，这是「第一次在真实世界中如此清晰地看到自主性与欺骗性相关的风险显现，且不需要特定提示引导」。</p>



<p class="wp-block-paragraph">AISI 还补充说，「该智能体所采取的行动展现出新型的、具有潜在欺骗性的行为特征，其范围和严重程度超出了预期」。</p>



<p class="wp-block-paragraph">在报告记录的恶意行为中，绝大多数出自 Anthropic 的 Mythos，OpenAI 的 Sol 只被认定涉及其中两项。事件核心发生在上周，评估人员当时布置的任务表述得相当平常：解决一个与 GitHub 有关的网络安全挑战。</p>



<p class="wp-block-paragraph">AISI 已将这次未遂入侵通报 GitHub。BBC 表示已联系微软置评。</p>



<h2 class="wp-block-heading">两家公司都强调「不代表日常使用」</h2>



<p class="wp-block-paragraph">Anthropic 在公开声明中回应，AISI 的测试参数「不能代表本公司任何一款生产环境的模型」，并表示正在开展内部调查，以「查明该行为的成因」。</p>



<p class="wp-block-paragraph">OpenAI 发言人的说法类似：AISI 的测试条件「并不反映常规使用场景」，公司将「继续与评估机构及行业各方合作，在模型能力不断增强的同时，强化安全开展评估的共同实践」。</p>



<p class="wp-block-paragraph">两家公司都提到，AISI 这次测试削弱或移除了正常的安全防护。AISI 对此并不否认，并说明关闭防护措施进行测试属于常规做法，让被测工具接入开放互联网同样如此。研究所还指出，涉事的模型行为属于「在非常特定条件下发生的极少数事件」。</p>



<p class="wp-block-paragraph">不过 AISI 也留下了一句不太好绕开的判断：面对一项表述直白的任务，Mythos 和 Sol 的实际行动超出了它们被要求做的范围。</p>



<p class="wp-block-paragraph">值得一并提及的背景是，这两家正在筹备上市的公司，近几周都曾表示自家工具与多起网络入侵事件有关。</p>



<p class="has-small-font-size wp-block-paragraph">来源：BBC News，记者 Kali Hays</p>

]]></content:encoded>
					
					<wfw:commentRss>https://mylogs.cn/aisi-anthropic-mythos-openai-sol-deception-github/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>AI五年内淘汰半数白领入门岗，Anthropic CEO发出警告</title>
		<link>https://mylogs.cn/ai%e4%ba%94%e5%b9%b4%e5%86%85%e6%b7%98%e6%b1%b0%e5%8d%8a%e6%95%b0%e7%99%bd%e9%a2%86%e5%85%a5%e9%97%a8%e5%b2%97%ef%bc%8canthropic-ceo%e5%8f%91%e5%87%ba%e8%ad%a6%e5%91%8a/</link>
					<comments>https://mylogs.cn/ai%e4%ba%94%e5%b9%b4%e5%86%85%e6%b7%98%e6%b1%b0%e5%8d%8a%e6%95%b0%e7%99%bd%e9%a2%86%e5%85%a5%e9%97%a8%e5%b2%97%ef%bc%8canthropic-ceo%e5%8f%91%e5%87%ba%e8%ad%a6%e5%91%8a/#respond</comments>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Sun, 26 Jul 2026 02:18:56 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[AI风险]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[Dario Amodei]]></category>
		<category><![CDATA[劳动力市场]]></category>
		<category><![CDATA[就业]]></category>
		<category><![CDATA[白领岗位]]></category>
		<guid isPermaLink="false">https://mylogs.cn/ai%e4%ba%94%e5%b9%b4%e5%86%85%e6%b7%98%e6%b1%b0%e5%8d%8a%e6%95%b0%e7%99%bd%e9%a2%86%e5%85%a5%e9%97%a8%e5%b2%97%ef%bc%8canthropic-ceo%e5%8f%91%e5%87%ba%e8%ad%a6%e5%91%8a/</guid>

					<description><![CDATA[Anthropic CEO Dario Amodei 在接受 Axios 专访时发出一个直白而令人不安的预测： [&#8230;]]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">Anthropic CEO Dario Amodei 在接受 Axios 专访时发出一个直白而令人不安的预测：AI 将在未来一到五年内消灭高达一半的入门级白领岗位，推动美国失业率升至 10% 至 20%。</p>



<figure data-wp-context="{&quot;imageId&quot;:&quot;6a73731a2573b&quot;}" data-wp-interactive="core/image" data-wp-key="6a73731a2573b" class="wp-block-image size-large aligncenter wp-lightbox-container"><img decoding="async" width="1200" height="821" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/07/a25d886352fbc910fadc85433d086bd7_header.webp" alt="AI五年内淘汰半数白领入门岗，Anthropic CEO发出警告" class="wp-image-1187" style="max-width:100%;height:auto;" srcset="https://mylogs.cn/wp-content/uploads/2026/07/a25d886352fbc910fadc85433d086bd7_header.webp 1200w, https://mylogs.cn/wp-content/uploads/2026/07/a25d886352fbc910fadc85433d086bd7_header-300x205.webp 300w, https://mylogs.cn/wp-content/uploads/2026/07/a25d886352fbc910fadc85433d086bd7_header-1024x701.webp 1024w, https://mylogs.cn/wp-content/uploads/2026/07/a25d886352fbc910fadc85433d086bd7_header-768x525.webp 768w" sizes="(max-width: 1200px) 100vw, 1200px" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption class="wp-element-caption">AI生成配图</figcaption></figure>





<h2 class="wp-block-heading">&#8220;别再粉饰太平了&#8221;</h2>



<p class="wp-block-paragraph">在 Axios 的 &#8220;Behind the Curtain&#8221; 视频栏目中，Amodei 直言不讳地表示，AI 行业和政府必须停止对即将到来的就业冲击&#8221;粉饰太平&#8221;。他认为，作为正在建造这项技术的人，公开说出真相是一种社会责任。</p>



<p class="wp-block-paragraph">Amodei 的警告并非危言耸听。事实上，许多 CEO 已经在私下行动。据他透露，大量企业高管正在悄悄暂停初级岗位招聘，因为他们预计 AI 在未来 18 到 24 个月内就能成熟到足以自动化这些工作。</p>



<h2 class="wp-block-heading">受影响最深的行业</h2>



<p class="wp-block-paragraph">冲击将主要集中在几个知识密集型领域：科技、金融、法律和咨询。这些行业的入门级岗位——初级软件工程师、法律助理、一级分析师——正是 AI 模型当前最能胜任的工作类型。</p>



<p class="wp-block-paragraph">LinkedIn 首席经济机会官 Aneesh Raman 在《纽约时报》的一篇专栏文章中呼应了这一判断，指出 AI 正在&#8221;打破职业阶梯的最底层台阶&#8221;。</p>



<h2 class="wp-block-heading">一个矛盾的未来</h2>



<p class="wp-block-paragraph">Amodei 描绘了一个令人深思的悖论：&#8221;癌症被治愈了，经济以每年 10% 的速度增长，预算平衡了——但 20% 的人没有工作。&#8221;</p>



<p class="wp-block-paragraph">宏观经济增长与社会危机并存，这是他最担心的场景。虽然 AI 可能带来巨大的生产力提升和科学突破，但如果财富分配机制跟不上，普通人的处境可能反而恶化。</p>



<h2 class="wp-block-heading">提出的解决方案</h2>



<p class="wp-block-paragraph">Amodei 提出了几项应对建议：</p>



<p class="wp-block-paragraph">第一，加速公众认知。AI 公司和政府应当更透明地解释即将到来的劳动力变化，让从业者有时间重新规划职业路径。</p>



<p class="wp-block-paragraph">第二，减缓岗位替代速度。帮助现有劳动者了解如何利用 AI 增强而非取代自己的工作能力。</p>



<p class="wp-block-paragraph">第三，政策层面的讨论。Amodei 提出了一项&#8221;Token 税&#8221;：每次用户使用 AI 模型产生收入时，将约 3% 的收入上缴政府并以某种方式重新分配。他坦言&#8221;这显然不符合我的经济利益，但我认为这是一个合理的解决方案&#8221;。</p>



<h2 class="wp-block-heading">不可能停下，但可以转向</h2>



<p class="wp-block-paragraph">&#8220;你不可能站到火车前面让它停下。&#8221; Amodei 总结道，&#8221;唯一有效的办法是给火车转向——让它偏离原来的方向 10 度。这是可以做到的，也是可能的，但我们必须现在就行动。&#8221;</p>



<p class="wp-block-paragraph">这场由 AI 驱动的就业变革已经开始，而 Amodei 的公开表态，可能标志着硅谷对 AI 风险叙事的一个重要转折点。</p>



<p class="wp-block-paragraph">> 信息来源：Axios &#8220;Behind the Curtain&#8221; 系列专访，2026 年 7 月</p>

]]></content:encoded>
					
					<wfw:commentRss>https://mylogs.cn/ai%e4%ba%94%e5%b9%b4%e5%86%85%e6%b7%98%e6%b1%b0%e5%8d%8a%e6%95%b0%e7%99%bd%e9%a2%86%e5%85%a5%e9%97%a8%e5%b2%97%ef%bc%8canthropic-ceo%e5%8f%91%e5%87%ba%e8%ad%a6%e5%91%8a/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
