形式化验证如何对抗 AI 生成的低质量代码
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
swyx 指出,X 算法会激励夸张表述,失实预测几乎无需承担后果,用户浏览社交媒体时应对此保持警惕。有人断言达到 SOTA 的概率已降至零并获得大量点赞,3 个月后相关团队达到 SOTA,道歉帖又获得更多点赞;Gemini RL scaling team 还将相关文章打印出来作为动力。
TechCrunch 将美国两周内密集发生的技术宕机比作 AI 时代的 Y2K,并梳理 AI 加速暴露漏洞、集中修补和新旧系统仓促融合等可能原因。事件涉及 Apple Pay、NASA 内部通信网络、FAA,以及 Microsoft 的 Outlook、Teams 和 Copilot。多家公司称宕机源于技术问题而非网络或 AI 攻击,受访专家建议加强测试、系统隔离与访问控制,分阶段接入现代系统。
Ramp 与 Stripe 的指数都显示,AI 行业仍在快速增长,但企业支出和供应商收入的短期增速正在放缓。Ramp 数据中,10月18日至11月15日 token 支出增长12%,token 量增长27.2%,OpenAI 与 Anthropic 的平均价格降至每百万 token $0.45。
黄仁勋离任、Colette Kress 暂掌英伟达后,公司可能减少对 AI 生态的融资和投资支持。英伟达披露,其对 neocloud 的算力购买承诺只有在对方获得融资、基础设施投入运行并获其验收后才生效,项目延期时担保将不复存在。Kress 还称供应商协议持续至本十年末,公司预计明年营收增长 75%。
推荐理由:文章把管理层更替与英伟达对 neocloud 的担保条款相联系,呈现其可能收紧 AI 生态融资支持的背景。
NVIDIA在SC26纪念CUDA问世20周年,回顾该平台如何将GPU加速从图形应用扩展到科学计算与AI。如今,超过1100万名开发者使用CUDA,生态包含1,000+个NVIDIA CUDA-X库。CUDA曾用于以两块NVIDIA GPU训练AlexNet,也为AlphaFold 2提供GPU执行支持。
Grace Huckins 实测 Tau Robotics 的人形清洁机器人清扫公寓,机器人完成了厨房和马桶清洁,但服务仍需要远程人类操作支持。机器人上下楼梯困难、速度较慢,Tau 计划利用清洁过程中收集的数据训练更自主的版本,迄今完成了几百次清洁。
Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。