领先实验室称，AI模型自主改进能力或将很快实现

人工智能模型自主提升效率与能力的前景，正从技术研究人员曾认为遥远的目标变得更接近现实。开发者称，这项技术正接近“递归自我改进”（RSI）：AI模型能够设法改进自身，并协助构建其继任版本。科技公司高管认为，这或可推动科学和医学进展，但也伴随风险；对其潜在走向的不确定性，正加剧外界对AI脱离人类控制及威胁人类的担忧。一些AI业界领袖上周末曾呼吁放缓技术发展速度。

Anthropic本周表示，其Claude模型正协助公司开发下一代、更智能的版本。该公司称，Claude目前主导其模型研发工作的26%，可在人工监督下，依据高层级提示完成一项任务的大部分端到端工作。模型尚未完全自主运作。

不同领先AI公司的RSI定义并不相同：有些将AI就模型改进提供任何反馈视为RSI，另一些则要求AI完全自主地朝这一目标工作。非营利组织Future of Life Institute总裁兼首席执行官、加州大学圣克鲁斯分校物理学教授Anthony Aguirre表示，真正的自主RSI意味着能自我改进的AI设计系统下一版本，再设计后续版本；AI承担的工作越多，过程就越快，因为其运作速度远快于人类。

康奈尔大学研究AI模型行为控制方法的计算机科学助理教授John Thickstun说，对RSI的忧虑主要源于失控的超级智能可能由此出现；但从更务实的角度看，AI开发中某种递归自我改进已经持续了一段时间。多年来，人们一直利用前代模型编写用于创建下一代模型的AI系统代码。他说，此类尝试带来了小幅提升，但尚未出现重大的创造性飞跃。Aguirre则认为，现今AI公司更接近实现这种飞跃；他对AI在研究中承担越来越多工作、日益接近完全自主的趋势表示强烈担忧。

Anthropic近期的披露让公众及其他实验室得以了解RSI的进展，并促使竞争者公布类似指标，但该公司没有明确说明距完全自主改进还有多远。ChatGPT开发商OpenAI本月宣布开发出自动化“研究实习生”，可在人类指导下完成定义明确、熟练研究人员可能需数天完成的研究任务。OpenAI的目标是在2028年3月前开发自动化AI“研究员”，但表示尚不清楚如何安全实现完全、对齐的RSI，也不能假定对齐和安全进展会跟上能力提升。

OpenAI表示，RSI可帮助模型行为与人类价值及意图保持一致，但快速推进RSI未必是应追求的结果；是否以及如何推进，取决于能否保持人类控制，以及针对收益与风险作出的知情民主选择。公司同时认为，自动化AI研究员也可以成为自动化安全或对齐研究员。

Elon Musk今年3月称，xAI的Grok模型改进过程中，人类参与正逐渐减少，每一代模型由前一代构建；但他澄清，该过程尚未完全自动化。他表示，这一目标或可在今年年底前达成，最晚不迟于2027年。微软及其他一些领先AI公司似乎采取不同路径。Microsoft AI首席执行官Mustafa Suleyman曾提出“人本主义超级智能”，即服务于人类和全人类的先进AI能力；他在2025年一篇文章中说，这并非高度自主、无边界且不受限制的实体，而应是经过谨慎校准、结合具体情境并受限的AI。

实验室面临的一项长期关键挑战，是确保安全措施与模型能力同步发展。科技业围绕为安全而协调放缓AI发展的呼吁存在分歧，并非所有主要参与者都具体说明其RSI路线。Anthropic曾表示，若全球竞争对手也以可验证方式放缓或暂停开发，公司将同样放慢或暂时暂停研发。