形式化验证如何对抗 AI 生成的低质量代码
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
Simon Willison 引述 Levent Alpöge 的说法,后者称自己与 Claude 找到了黎曼猜想的证明,该方法还可推广至广义黎曼猜想,并可能进一步处理扩展黎曼猜想。Alpöge 还称双方已在不依赖假设的情况下形式化论证,并表示 Claude 在接近完成时远远超过了他。
Ramp 与 Stripe 的指数都显示,AI 行业仍在快速增长,但企业支出和供应商收入的短期增速正在放缓。Ramp 数据中,10月18日至11月15日 token 支出增长12%,token 量增长27.2%,OpenAI 与 Anthropic 的平均价格降至每百万 token $0.45。
Anthropic CEO Dario Amodei在IPO前的JPMorgan投资者活动上表示,公司面临算力投入能否获得回报的巨大不确定性,称算力是公司面临的最深商业难题。
The Verge的Decoder播客主持人Nilay Patel采访了乔治城大学CSET执行主任Helen Toner,她曾作为OpenAI董事会成员投票解雇Sam Altman,即所谓“the blip”事件。
Anthropic Research 介绍 AI 参与科学建模的三个步骤:构建模型、用数据约束参数,以及解释模型对真实系统的含义。文章重点讨论 simulation-based inference 和基于 LLM 的智能体如何生成并筛选一组候选模型,而非只给出单一拟合结果。作者认为,保留模型分布、失败的替代方案和数据未约束部分,才有助于形成可解释的科学理解。
推荐理由:文章以 Hodgkin-Huxley 模型为例,拆解 AI 科学建模的构建、参数约束与解释过程,并说明为何保留候选模型分布有助于区分数据支持与未知部分。
Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。