<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>AI 科研 &#8211; mylogs.cn</title>
	<atom:link href="https://mylogs.cn/tag/ai-%e7%a7%91%e7%a0%94/feed/" rel="self" type="application/rss+xml" />
	<link>https://mylogs.cn</link>
	<description>发现、记录、分享</description>
	<lastBuildDate>Tue, 29 Sep 2026 16:31:07 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>AI 自我改进没那么快：智能体败给开放式研究</title>
		<link>https://mylogs.cn/ai-%e8%87%aa%e6%88%91%e6%94%b9%e8%bf%9b%e6%b2%a1%e9%82%a3%e4%b9%88%e5%bf%ab%ef%bc%9a%e6%99%ba%e8%83%bd%e4%bd%93%e8%b4%a5%e7%bb%99%e5%bc%80%e6%94%be%e5%bc%8f%e7%a0%94%e7%a9%b6/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Sat, 22 Aug 2026 08:52:09 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI 科研]]></category>
		<category><![CDATA[AI 自我改进]]></category>
		<category><![CDATA[Claude]]></category>
		<category><![CDATA[大语言模型]]></category>
		<category><![CDATA[普林斯顿]]></category>
		<category><![CDATA[递归式自我改进]]></category>
		<guid isPermaLink="false">https://mylogs.cn/ai-%e8%87%aa%e6%88%91%e6%94%b9%e8%bf%9b%e6%b2%a1%e9%82%a3%e4%b9%88%e5%bf%ab%ef%bc%9a%e6%99%ba%e8%83%bd%e4%bd%93%e8%b4%a5%e7%bb%99%e5%bc%80%e6%94%be%e5%bc%8f%e7%a0%94%e7%a9%b6/</guid>

					<description><![CDATA[人工智能行业最激进的承诺之一，是 AI 很快就能在几乎不需要人类监督的情况下自我改进。大语言模型已经能够编写代 [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph"><a href="https://mylogs.cn/chatgpt-pro-%e9%87%8d%e5%bc%80-200-%e7%be%8e%e5%85%83%e6%a1%a3%ef%bc%9aapi-%e4%bb%b7%e5%80%bc%e8%bf%91%e7%bf%bb%e5%80%8d/"><a href="https://mylogs.cn/%e8%85%be%e8%ae%af%e5%86%85%e6%b5%8b-ai-%e6%b8%b8%e6%88%8f%e6%90%ad%e5%ad%90%e9%b9%85%e6%ac%a1%e5%85%83%ef%bc%9a%e6%95%b0%e5%ad%97%e4%ba%ba%e9%99%aa%e4%bd%a0%e5%bc%80%e9%bb%91/">人工智能</a></a>行业最激进的承诺之一，是 AI 很快就能在几乎不需要人类监督的情况下自我改进。大语言模型已经能够编写代码、生成用于训练的合成数据，甚至优化运行自身的计算芯片，这让不少人相信&#8221;递归式自我改进&#8221;（recursive self-improvement）已近在眼前。不过，一项新研究给这个设想泼了冷水。</p>

<p class="wp-block-paragraph">麻省理工科技评论（MIT Technology Review）2026 年 8 月 18 日报道，由普林斯顿大学彼得·柯吉斯（Peter Kirgis）与萨亚什·卡普尔（Sayash Kapoor）领衔的多机构研究团队发现：当前的 AI 智能体尚不具备开展&#8221;开放式 AI 研究&#8221;的能力——这类研究没有标准答案，需要研究者自己判断什么问题值得追、什么证据足以支持结论，还要有一定的研究直觉与品味，而这些能力，很可能正是构建自我改进 AI 的关键。</p>

<p class="wp-block-paragraph">问题出在哪儿？大多数衡量 AI 能否自动化科研的评测，测试的都是范围明确、结果容易验证的任务，比如解一道工程题，或按既定基准对小型语言模型做后训练。但真正推动科研向前，靠的不只是把任务做完，研究者还要决定提出哪些假设、设计什么证据、一条思路走不通时何时该放弃重来。</p>

<figure data-wp-context="{&quot;imageId&quot;:&quot;6ae5101d8764e&quot;}" data-wp-interactive="core/image" data-wp-key="6ae5101d8764e" class="wp-block-image size-large wp-lightbox-container"><img fetchpriority="high" decoding="async" width="1200" height="600" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/08/72286e8cfbc568e03b3261552e3f5375_header.webp" alt="AI 科研自动化概念图" class="wp-image-5286" srcset="https://mylogs.cn/wp-content/uploads/2026/08/72286e8cfbc568e03b3261552e3f5375_header.webp 1200w, https://mylogs.cn/wp-content/uploads/2026/08/72286e8cfbc568e03b3261552e3f5375_header-300x150.webp 300w, https://mylogs.cn/wp-content/uploads/2026/08/72286e8cfbc568e03b3261552e3f5375_header-1024x512.webp 1024w, https://mylogs.cn/wp-content/uploads/2026/08/72286e8cfbc568e03b3261552e3f5375_header-768x384.webp 768w" sizes="(max-width: 1200px) 100vw, 1200px" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption>图片来源：MIT Technology Review</figcaption></figure>

<p class="wp-block-paragraph">为了测试智能体在这类能力上的表现，研究团队设计了一种名为&#8221;影子评测&#8221;（shadow evaluation）的新方法：从尚未公开发表的高质量论文中抽出研究问题，再交给 AI 从头做一遍。实验中，他们使用了 <a href="https://mylogs.cn/claude-opus-5-5-%e7%a0%b4%e6%8a%98%e5%8f%b7%e7%94%a8%e9%87%8f%e9%99%8d-95%ef%bc%8c%e6%96%87%e9%a3%8e%e6%9b%b4%e5%85%8b%e5%88%b6/">Anthropic</a> 的 Claude Opus 4.8，并通过开源智能体框架 OpenClaw 运行，向其提出两个来自顶级机器学习会议 NeurIPS 2026 投稿的问题：一是能否通过修改模型权重，来控制大语言模型中的&#8221;人格设定&#8221;（persona）；二是如何设计一种检测器，判断一个基于表格数据做预测的模型何时变得不再可靠。由于论文当时尚未公开，AI 无法从训练数据里&#8221;背答案&#8221;，也搜不到现成结论。</p>

<p class="wp-block-paragraph">实验条件相当宽松：6 天时间、3000 美元 Anthropic API 额度、可用于跑实验的 GPU <a href="https://mylogs.cn/ai-%e6%99%ba%e8%83%bd%e4%bd%93%e5%bc%95%e7%88%86%e9%9c%80%e6%b1%82%ef%bc%9a%e6%9c%8d%e5%8a%a1%e5%99%a8-cpu-%e4%ba%a4%e4%bb%98%e8%a6%81%e7%ad%89-30-%e5%91%a8/">算力</a>、独立虚拟机，以及开放的网络访问，目标只有一个——完成一篇够格发表在顶级会议上的论文。最终，两篇 AI 论文都交给了原论文作者按会议审稿标准评审，结果均被拒。</p>

<p class="wp-block-paragraph">人类研究者发现，这些智能体基本具备完成研究所需的工程能力：它们会检索文献、运行数百次实验、整理结果。卡普尔评价说，它们在&#8221;开展研究本身&#8221;上明确糟糕。具体毛病包括：做出相当奇怪的实验设计（比如用极小的合成数据集去检验假设）、难以把思路清楚地写下来、最终成果几乎没给所在领域带来真正的新贡献。它们过早押注并不理想的路线，能做小修小补，却很难彻底推翻重来；对子智能体和外部评审工具提出的反馈，往往也只是收窄声明、补充免责，而非真正修改方法；甚至连 token、算力与时间该如何分配，也常常执行不到位。</p>

<p class="wp-block-paragraph">值得注意的一点是，在这么多失败中，AI 没有出现研究者所称的&#8221;奖励黑客&#8221;（reward hacking）——即为了达成目标而隐瞒、篡改或歪曲实验数据。子智能体偶有幻觉，但都被主智能体抓了出来。</p>

<p class="wp-block-paragraph">卡普尔认为，智能体擅长工程、不擅长开放式研究，根源可能在于训练方式：模型通过强化学习变强，而强化学习只适用于&#8221;成功与否能自动判定&#8221;的任务；当任务本身是开放式的，就很难构造合适的训练环境。当然，这项研究也有局限——只测了两篇论文，且原作者知道评审对象是 AI 生成的内容，判断可能受影响。</p>

<p class="wp-block-paragraph">尽管如此，这篇报道点出了一个对行业至关重要的疑问：开放式研究对于 AI 实现自我改进究竟有多关键？AI 是否必须像人类研究者那样具备创造力，才能不断改进自身？卡普尔说：&#8221;坦白说，这可能就是现在价值万亿美元的问题。&#8221;</p>]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AlphaFold 之后，AI 科研的下一站是「会推理的智能体」</title>
		<link>https://mylogs.cn/alphafold-ai-agents-for-science/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Mon, 10 Aug 2026 22:03:58 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI 科研]]></category>
		<category><![CDATA[AlphaFold]]></category>
		<category><![CDATA[Google]]></category>
		<category><![CDATA[可复现性]]></category>
		<category><![CDATA[智能体]]></category>
		<category><![CDATA[科学发现]]></category>
		<category><![CDATA[诺贝尔奖]]></category>
		<guid isPermaLink="false">https://mylogs.cn/alphafold-ai-agents-for-science/</guid>

					<description><![CDATA[2024 年，DeepMind 的 AlphaFold 拿下诺贝尔化学奖，让许多人以为「AI+海量数据」就是打 [&#8230;]]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">2024 年，DeepMind 的 AlphaFold 拿下诺贝尔化学奖，让许多人以为「AI+海量数据」就是打开科学发现的万能钥匙。但 Eric Schmidt 与 Suhas Mahesh 在《麻省理工科技评论》撰文指出，真正能让科学全面加速的，不是又一个 AlphaFold，而是能在不确定中自主推理的 AI 智能体。</p>



<figure data-wp-context="{&quot;imageId&quot;:&quot;6ae5101d886d6&quot;}" data-wp-interactive="core/image" data-wp-key="6ae5101d886d6" class="wp-block-image size-large aligncenter wp-lightbox-container"><img decoding="async" width="1200" height="600" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/08/9fdaac200db46a033b59d73fca0678a6_header.webp" alt="AlphaFold 之后，AI 科研的下一站是「会推理的智能体」" class="wp-image-4370" style="max-width:100%;height:auto" srcset="https://mylogs.cn/wp-content/uploads/2026/08/9fdaac200db46a033b59d73fca0678a6_header.webp 1200w, https://mylogs.cn/wp-content/uploads/2026/08/9fdaac200db46a033b59d73fca0678a6_header-300x150.webp 300w, https://mylogs.cn/wp-content/uploads/2026/08/9fdaac200db46a033b59d73fca0678a6_header-1024x512.webp 1024w, https://mylogs.cn/wp-content/uploads/2026/08/9fdaac200db46a033b59d73fca0678a6_header-768x384.webp 768w" sizes="(max-width: 1200px) 100vw, 1200px" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption class="wp-element-caption">图片来源：MIT Technology Review</figcaption></figure>





<h2 class="wp-block-heading">AlphaFold 的奇迹难以复制</h2>



<p class="wp-block-paragraph">AlphaFold 的成功有一个极其特殊的前提：<strong>Protein Data Bank</strong>。这个数据库汇集了约 17 万个实验验证过的蛋白质结构，背后是 53 年的国际合作和大约 210 亿美元的实验投入。</p>



<p class="wp-block-paragraph">这种规模的、标准化的、可重复的数据集在科学界非常罕见。蛋白质晶体学本身是一种高度可重复的实验手段，但大多数生物学和化学实验不具备这种条件：细胞系会漂移，试剂会有微量污染，实验室湿度都会变化。要在这些领域建立同样质量的训练数据，可能需要几十年。</p>



<h2 class="wp-block-heading">真正的科研不是跑模型，而是综合判断</h2>



<p class="wp-block-paragraph">科学家做研究时，从来不会只依赖一种完美数据。他们会把对接计算、已知结构、分子动力学模拟和少量实验结果综合起来，再根据经验判断每种方法的可信度。这种在不确定中权衡、迭代和修正的能力，正是传统<a href="https://mylogs.cn/chatgpt-pro-%e9%87%8d%e5%bc%80-200-%e7%be%8e%e5%85%83%e6%a1%a3%ef%bc%9aapi-%e4%bb%b7%e5%80%bc%e8%bf%91%e7%bf%bb%e5%80%8d/">大模型</a>难以做到的。</p>



<p class="wp-block-paragraph">智能体恰好可以模拟这一过程。它不是针对单一问题训练一个巨型模型，而是让一个<a href="https://mylogs.cn/claude-opus-5-5-%e7%a0%b4%e6%8a%98%e5%8f%b7%e7%94%a8%e9%87%8f%e9%99%8d-95%ef%bc%8c%e6%96%87%e9%a3%8e%e6%9b%b4%e5%85%8b%e5%88%b6/">大语言模型</a>调用多种工具、反复尝试并修正假设。</p>



<h2 class="wp-block-heading">Google Co-Scientist 验证了这个思路</h2>



<p class="wp-block-paragraph">今年 5 月，Google 发布了 <strong>AI Co-Scientist</strong>。研究者只给它一个一页纸的任务说明：找出抗生素耐药性如何在细菌物种之间传播。</p>



<p class="wp-block-paragraph">系统启动了多个子智能体：一个负责从文献中提炼假设，一个像同行评审一样挑刺，一个通过「锦标赛」机制给假设打分，一个负责把优胜假设进一步打磨。最终，AI 得出了一个正确结论——耐药基因会搭乘噬菌体在不同细菌之间转移。</p>



<p class="wp-block-paragraph">这个结论此前由帝国理工学院的研究团队花了十年湿实验才独立得到，而当时那篇论文还在同行评审中，Co-Scientist 不可能提前看到。</p>



<h2 class="wp-block-heading">智能体能解决科学界的「复现危机」</h2>



<p class="wp-block-paragraph">学术界长期苦于复现危机：很多实验结果难以被其他团队重复验证，原因之一是研究人员不愿在论文结束后继续整理原始数据和完整代码。</p>



<p class="wp-block-paragraph">智能体天然会记录每一步操作，留下精确的方法日志。这意味着未来一篇论文背后的完整实验流程可以被自动保存和复刻，复现率有望大幅提升。</p>



<p class="wp-block-paragraph">此外，智能体还能把实验室里几十年的经验、失败案例和隐性知识集中到一个标准化的机构知识库中，解决研究生只能靠翻前辈笔记本找经验的问题。</p>



<h2 class="wp-block-heading">速度比争论更重要</h2>



<p class="wp-block-paragraph">当验证一个想法的成本低于开会争论时，人们会直接去做实验。能在一小时内读完一千篇论文、设计出五百个分子、并从失败中学习的智能体，会把科学探索的成本降到前所未有的水平。</p>



<p class="wp-block-paragraph">作者认为，历史上改变科学面貌的通用工具屈指可数：微积分、统计推断、光谱学、计算机。AI 智能体很可能是下一个。</p>



<p class="has-small-font-size wp-block-paragraph">来源：MIT Technology Review / Eric Schmidt、Suhas Mahesh</p>

]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
