技术

谷歌CEO孙达尔·皮柴称谷歌AI编写代码占比已无意义,自我改进的AI仍很遥远

Adrian Kessler
在 Google 中添加我们

谷歌首席执行官不再统计这个数字了。有人问公司如今有多少代码由AI编写,桑达尔·皮查伊表示,这个问题已经没有意义,因为AI参与了所有代码的编写。在同一场对话中,他也淡化了整个行业都在严阵以待的那个时刻:AI自行构建更好的版本,并将人类排除在流程之外。

这两种说法或许都站得住脚。问题在于,谁来核实它们。皮查伊搁置的那个数字,曾是外界可以拿来与其他公司比较的唯一指标。如今取而代之的是什么,以及他对AI自我改进持较为冷静看法的依据是什么,都来自谷歌对谷歌自身的衡量。

桑达尔·皮查伊谈AI与谷歌代码

皮查伊接受了亚历克斯·坎特罗维茨主持的 Big Technology Podcast 采访。节目在谷歌山景城总部录制,坎特罗维茨也将访谈以书面问答形式发布。坎特罗维茨提起此前“谷歌四分之一代码由AI编写”的说法,并问如今这个数字是多少。皮查伊称这个问题“毫无意义”,因为谷歌现在接触的每一部分代码,“都深受AI影响”。

作为替代,他给出了谷歌最新模型 Gemini 4 Argon 的相关数据,公司已将该模型交由自家工程师使用。他表示,自模型发布后的四周里,谷歌的CL数量增加了30%;CL是公司对代码提交的内部称呼。与此同时,回滚数量减少了三分之一,也就是那些上线后不得不撤销的更改。“我们现在用更新的指标来跟踪这些情况。”他说。

旧指标并非自然消失。谷歌在4月的一篇博客文章中称,其新代码中由AI生成的比例已达到75%;据 Semafor 和 ETV Bharat 报道,这一比例在2024年为25%,前一年秋季为50%。Semafor当时指出,其中一些说法几乎不可能核实,并将其与Snap的65%以及Meta追求类似水平的目标作了比较。

皮查伊为何称AI自我改进仍遥不可及

谈到递归式自我改进(RSI)时,皮查伊将自己的回答说成是对联合创始人观点的进一步说明。他表示,谢尔盖·布林曾称RSI是推动 Argon 发展的关键因素,但“我们距离RSI的最终形态还很远”。随后,他描述了谷歌的实际进展:“更准确的说法是,在模型开发的各个环节,既有RSI循环,也有AI研究人员参与。我会说,现在几乎已经有智能体以某种自动化方式协助AI研究人员协同工作,共同构建这些模型。”

几天前,布林的说法更进一步。在谷歌分享的一场关于 Argon 的圆桌讨论中,他表示,公司“开始踏上RSI跑步机”,而且“现在我们的研究人员和模型正携手合作,打造模型的下一个版本”。Business Insider对此作了报道。本月发布的一份 Gladstone AI 报告称,该机构采访的 Anthropic、OpenAI 和 Google DeepMind 的大多数研究人员预计,RSI将在未来3至12个月内开始出现。

谷歌安全报告支持皮查伊,但依据是谷歌自己的测试

从纸面证据看,结论确实支持皮查伊。TNW报道称,Google DeepMind针对 Argon 发布的安全与防护报告发现,“无论是否由AI驱动,AI研发都没有出现显著的端到端加速”,并将这一风险评为“目前较低”。报告称,AI智能体“负责撰写大多数生产代码和错误修复代码,不过代码更改在提交前仍须经过人工审核”。完全委托智能体处理的拉取请求占比从4月的7.5%升至9月的11.9%;仍有约88%的任务需要人类反复引导,或由人来编写代码。

这些发现来自谷歌自己的测量工具。对于AI是否已能自动化AI研究,谷歌依据的是一套包含74项任务的内部基准测试,公司以外的人无法运行这套测试。LessWrong上发布的一篇分析指出,报告本身有这样一行内容:在谷歌审查的原始任务中,“约四分之一存在漏洞,导致任何提交都无法通过”。由于许多测试运行超时,报告没有给出 Argon 的点估计;在已完成的测试中,它大约解决了一半。谷歌表示,即便假设所有未完成的测试运行都成功,结论依然成立。

安全论证所倚重的关口,是人工审核。代码提交量增加30%,意味着把关人员需要处理的更改也增加30%;而皮查伊选用的指标统计的是产出和回滚,并未说明每项更改究竟经过了多仔细的审查。

皮查伊提出的解决办法:独立审计

皮查伊并没有轻描淡写地带过这一担忧。他表示,AI对齐研究“仍存在明显缺口”,“担心是合理的”。在他看来,下一步是建立跨行业标准,“包括由独立评估者进行评估的能力”;这类标准可以借鉴会计准则和外部审计,并辅以“最终会发挥作用”的监管。

按照这一标准衡量,本周这两项说法都还未经审计。谷歌统计自家的更改清单,评估自家的回滚情况,也给自家的研究基准打分。

他称之为毫无意义的那个百分比虽然粗略,但任何人都可以把它与Snap的数据放在一起比较。取而代之的那些数字,却只有在谷歌内部才能看得到。

标签: , , , ,

在 Google 中添加我们

讨论

有 0 条评论。