形式化验证如何对抗 AI 生成的低质量代码
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
Factory 的 dexhorthy 指出,随着 AI 智能体编写更多代码,人类仍需审查计划、设计和结果,审查深度取决于事情的重要程度。该宣言由 AI Engineer Code Summit 的演讲者与参会者共同撰写,签名已超过 1000 个。
Daniel Stenberg 质疑 AI 智能体生成的 curl Rust 重写能否持续跟进原项目的改进。在智能体用三周多把 185,000 行 C 代码转换为 340,000 行 Rust 代码期间,curl 合并了 300 多次提交,完成 200 多项重写版本未包含的错误修复,并修复了数个漏洞。随后一个月,curl 又完成约 200 项错误修复,并可能修复更多漏洞。
Tibor Blaho 在日常工程工作中实测 GPT-6.2 Astra 与 Sol,称两者完成了交给它们的大多数大小任务。在一项案例中,Astra 将一个拥有数百万行代码和旧依赖的近 20 年遗留应用升级至当前编程语言版本,约 3 小时后可在本地使用,约 6 小时后从全新检出运行的全部测试通过。
推荐理由:作者以多百万行遗留应用升级和跨模型互审为案例,给出了模型处理真实工程任务的耗时与协作方式。
Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。