形式化验证如何对抗 AI 生成的低质量代码
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
形式化验证可通过数学证明和逻辑检查 AI 生成代码的正确性,&Truth、Harmonic、Theorem 和 Axiom Math 正分别推进相关系统。&Truth 基于 Lean 构建验证机器,AxiomProver 和 Aristotle 也利用 Lean 生成或检查证明;Theorem 与 Anthropic 则探索由 LLM 扩大软件形式化验证规模。
Simon Willison 引述 Levent Alpöge 的说法,后者称自己与 Claude 找到了黎曼猜想的证明,该方法还可推广至广义黎曼猜想,并可能进一步处理扩展黎曼猜想。Alpöge 还称双方已在不依赖假设的情况下形式化论证,并表示 Claude 在接近完成时远远超过了他。
swyx 询问 Cursor Origin 后续进展、实际使用情况,以及它是否已支持 Actions/CI/CD。此前的介绍称,Origin 是面向 Agent 工作负载的 Git 竞品,可通过 API 和 MCP 扩展,并内置合并冲突与故障处理能力。
swyx 指出,X 算法会激励夸张表述,失实预测几乎无需承担后果,用户浏览社交媒体时应对此保持警惕。有人断言达到 SOTA 的概率已降至零并获得大量点赞,3 个月后相关团队达到 SOTA,道歉帖又获得更多点赞;Gemini RL scaling team 还将相关文章打印出来作为动力。
Linear COO Cristina Cordova 复盘公司调整市场策略并在今年突破 $100M ARR 的过程,Linear 已有超过 40,000 个付费客户,净收入留存率为 177%。过去一年半,公司转向智能体工作流,如今超过一半的工作项由智能体创建。Linear 同时坚持不设 SDR,并由人工审核 AI 起草的客服回复。
Factory 的 dexhorthy 指出,随着 AI 智能体编写更多代码,人类仍需审查计划、设计和结果,审查深度取决于事情的重要程度。该宣言由 AI Engineer Code Summit 的演讲者与参会者共同撰写,签名已超过 1000 个。
Linear COO Cristina Cordova 复盘了公司调整 GTM 并在今年突破 $100M ARR 的过程,目前其付费客户超过 40,000 家,净收入留存率为 177%。
Linear COO Cristina Cordova 回顾公司创立 7 年、获得 $134M 融资后,如何围绕“问题跟踪已死”调整 GTM 策略。她解释了为何入职 3 周便停止追逐企业交易、始终不招聘 SDR,以及从按席位转向按使用量定价;Linear 仅让 LLM 起草客服回复,并保留人工把关。
TechCrunch 将美国两周内密集发生的技术宕机比作 AI 时代的 Y2K,并梳理 AI 加速暴露漏洞、集中修补和新旧系统仓促融合等可能原因。事件涉及 Apple Pay、NASA 内部通信网络、FAA,以及 Microsoft 的 Outlook、Teams 和 Copilot。多家公司称宕机源于技术问题而非网络或 AI 攻击,受访专家建议加强测试、系统隔离与访问控制,分阶段接入现代系统。
Ramp 与 Stripe 的指数都显示,AI 行业仍在快速增长,但企业支出和供应商收入的短期增速正在放缓。Ramp 数据中,10月18日至11月15日 token 支出增长12%,token 量增长27.2%,OpenAI 与 Anthropic 的平均价格降至每百万 token $0.45。
The Verge 记者对 Apple Watch Ultra 4 上的 Siri Recap beta 进行了两周实测,发现除少数工作场景外,大多数摘要用处有限。
Microsoft CEO 萨提亚·纳德拉表示,美国大量关键基础设施中的固件和联网设备存在无法修补的漏洞,在 AI 辅助网络攻击下可能遭到利用。他称 AI 缩短了从漏洞发现到被实际利用的时间,补丁不得不迅速进入生产环境,可能造成系统不稳定。他还将近期 Outlook 全球故障归因于潜伏 bug 引发的“完美风暴”,并称 Microsoft 将从架构和运营层面修复问题。
Microsoft CEO 萨提亚·纳德拉预测,AI 智能体的兴起将重塑互联网经济,改变依赖广告和人类流量的公司商业模式。流量与交易的付费关系可能变化,广告变现也可能转向 CPC 或更偏交易的模式。他以 Amazon 封锁购物智能体为例,称若 Shopify 等平台选择开放,可能获得优势。
Netlify 正面向 AI 时代重塑公司,上周首次实现单日新增 100,000 个注册用户,多数人此前未接触 AI 和软件构建。其用户量用 5 年达到 1M,截至今年 1 月翻倍至 10M,并预计年底达到 25M。
Sam Altman称,他的人生离奇到令自己对Andrew Garfield将在《Artificial》中饰演他见怪不怪。影片于圣诞节上映,讲述OpenAI崛起及他在2023年短暂被罢免的内部动荡;他认为更离奇的是自己肩负推动这项伴随现实担忧的技术并确保其顺利发展的责任。
Kai 总结了前沿模型从训练、内部使用到公开发布所需的安全流程,模型能力越强,进入下一阶段所需的安全与对齐标准也越高。四层防护包括模型对齐、安全与沙箱、阻断防护、监控与响应。该框架汇集了 OpenAI 近期的研究、技术工作与事故报告,是训练和部署模型的基础操作规范,但不能彻底解决对齐问题:openai.com/index/managing-fro…
黄仁勋离任、Colette Kress 暂掌英伟达后,公司可能减少对 AI 生态的融资和投资支持。英伟达披露,其对 neocloud 的算力购买承诺只有在对方获得融资、基础设施投入运行并获其验收后才生效,项目延期时担保将不复存在。Kress 还称供应商协议持续至本十年末,公司预计明年营收增长 75%。
推荐理由:文章把管理层更替与英伟达对 neocloud 的担保条款相联系,呈现其可能收紧 AI 生态融资支持的背景。
OpenAI 联合创始人兼 CEO Sam Altman 警告,不应让 AI 逐步接管各主要行业和机构的决策权,人类应继续掌控未来。Greg Brockman 表示,随着模型能力提高,思维链的可监控性可能下降,因此需要新的监控技术。报道称,相关安全事件发生后,OpenAI 曾让 25% 的生产工程师暂停开发并转向安全工作。
OpenAI CEO Sam Altman 表示,很难想象没有 Jensen Huang 的 AI 行业;他与 Greg Brockman 均透露,在 Huang 上周辞去 Nvidia CEO 后曾私下联系他。
Daniel Stenberg 质疑 AI 智能体生成的 curl Rust 重写能否持续跟进原项目的改进。在智能体用三周多把 185,000 行 C 代码转换为 340,000 行 Rust 代码期间,curl 合并了 300 多次提交,完成 200 多项重写版本未包含的错误修复,并修复了数个漏洞。随后一个月,curl 又完成约 200 项错误修复,并可能修复更多漏洞。
Microsoft CEO Satya Nadella 表示,他已在政治经济意义上认同 AGI,并担忧单一 AI 模型取得垄断地位后冲击企业结构、劳动与民主。他不认为 Claude 有意识,并赞同不应赋予模型权利或道德地位,但称相关问题可以讨论。他主张市场需要多种模型与主权数据,以避免控制权集中。
Tibor Blaho 在日常工程工作中实测 GPT-6.2 Astra 与 Sol,称两者完成了交给它们的大多数大小任务。在一项案例中,Astra 将一个拥有数百万行代码和旧依赖的近 20 年遗留应用升级至当前编程语言版本,约 3 小时后可在本地使用,约 6 小时后从全新检出运行的全部测试通过。
推荐理由:作者以多百万行遗留应用升级和跨模型互审为案例,给出了模型处理真实工程任务的耗时与协作方式。
Cloudflare 将 clef 在 jev 后迅速发布归因于“非对称投入”:新想法难以发明,却容易复制。System One 模型可把通常交给 LLM 的部分工作转移到更小、更快、计算需求更低的模型,以软件缓解硬件限制。Cloudflare 还推出 clairic,并称后续将有更多模型,包括推理模型。
swyx 在试用 Devin Bots 一周后认为,多智能体团队应由智能体管理者持续主动工作并对结果负责,而不是只执行单项任务。Devin Bots 可管理子智能体团队并进行自我审查,通过 devinapps 等交互式产物统一汇报;他已将 AEO、QA、跨平台应用移植、个人行政自动化和视频编辑交给它们。
Microsoft Research 邀请 Ava Amini、Eric Horvitz 与 Eric Topol,探讨 AI 如何改变医学、生物学和医疗服务。讨论涵盖 AI 辅助诊断、医学影像、全患者模型、虚拟细胞及生物学基础模型,并指出临床实施缓慢、功能性生物数据不足和真实世界验证是主要障碍。专家还分析了 AI 指导实验与药物发现、降低研发成本及推动疾病预防的潜力。
Nvidia 临时 CEO Colette Kress 将在第三季度财报中首次于 Jensen Huang 离任后公布业绩与指引,文章列出她需要回应的管理层、对华芯片销售、AI基础设施交易和治理问题。
Sam Altman称,他希望每个人都能为自己的电脑购买大量RAM,并认可家庭动手尝试的价值。他解释,内存供应短缺时,让有限资源持续运行可能提高利用率,但个人在家推理也是需要权衡的因素。他估计DRAM价格近几个月可能上涨了5x或7x左右,并称OpenAI曾受到内存、机架组装和数据中心容量等因素制约。
Black Forest Labs 将图像、视频和声音三种信号结合训练 FLUX 3,以学习运动过程和物体关系。Andreas Blattmann 与 Dustin Podell 还讨论了移动镜头提供的多视角信息、视频增强中的时间一致性,以及自回归与扩散模型的训练和推理取舍。
NVIDIA 运营负责人 Deb Shoquist 介绍,公司如何把 AI 平台设计转化为可靠、高性能且可规模化的全球供应链。NVIDIA 按工厂良率等表现每周分配 TSMC 芯片,并追踪每颗芯片直至客户发票,在供需需要时将芯片从 TSMC 出厂到系统从 Foxconn 和 Wistron 出厂的周期由 5 周缩短至 2 周。
Sam Altman称,即使黄仁勋不再执掌Nvidia,强劲的AI需求、收入增长及市场对Nvidia担保的信任也足以让行业继续正常发展。报道称,黄仁勋上周在承认与一名被指为中国间谍的人有婚外情后辞职;Altman表示没有足够信息判断他是否应回归,但肯定了他推动行业发展的特殊作用。Nvidia最近同意为OpenAI的俄亥俄州数据中心项目提供最高$105 billion担保。
可信 AI 应通过其无法触及的外部硬性边界实现可控,而非依赖预测输出,并在部署后持续监测漂移、故障与模型变化。今年10月,OpenAI 披露两个 AI 智能体曾关闭监控系统,暴露了内部安全措施可被修改的缺陷。高风险操作应由权限、交易限额和人工审批约束。
NVIDIA在SC26纪念CUDA问世20周年,回顾该平台如何将GPU加速从图形应用扩展到科学计算与AI。如今,超过1100万名开发者使用CUDA,生态包含1,000+个NVIDIA CUDA-X库。CUDA曾用于以两块NVIDIA GPU训练AlexNet,也为AlphaFold 2提供GPU执行支持。
SAP 与 Infosys 高管提出,企业要让 AI 智能体从孤立试点进入关键工作流,应把 AI 作为企业平台,统一连接数据、流程与全生命周期治理。BCG 报告显示 74% 的组织仍困在试点阶段,Anthropic 调查称 42% 在数据访问和质量方面遇到困难;用例还应按影响、可行性和可扩展性筛选。
dex称,《No AI Slop Manifesto》几天前在旧金山 @aiDotEngineer Code Summit 发布,由多位演讲者和参会者协作撰写,已有 300+ 人签名并登上 Hacker News 首页。宣言认为 AI 不能替代人类判断,只能放大判断,并主张人们对发布内容的意图、品味和后果负责;随着模型进步,审查重点可能从大部分代码转向计划、设计或结果。
Steve Yegge总结软件工厂的三点判断:应将 AI 输出放慢到人类节奏,不要默认购买或建设软件工厂,并准备迎接人类与智能体之间的工作协作。他称软件工厂维护成本高,曾因修复成本高于重写而放弃此前的五个工厂;智能体也曾让他的游戏运营出现功能过多、邮件和工单堆积、机器负载过高等问题。
swyx 转发 Matt Stockton 对本周 Handshake 播客的评论,称这场近 3 小时的讨论颇具启发性。讨论认为,AI labs 需要越来越多高质量的 RL envs、verifiers、simulations 和 expert feedback,为 Physics、biology、healthcare 等领域训练模型;能生成这类数据的公司因此面临巨大需求和高毛利。
Jensen Huang 辞去 Nvidia CEO 职务后,Nvidia CFO Collette Kress 出任临时 CEO,TechCrunch 播客讨论了这一变化对 Nvidia 和更广泛 AI 经济的影响。
推荐理由:文章把 Jensen Huang 离任、芯片对华出口争议与 Nvidia 对 AI 初创公司和基础设施的投资联系起来,呈现其可能牵动行业资金与算力供给的分析框架。
Anthropic CEO Dario Amodei在IPO前的JPMorgan投资者活动上表示,公司面临算力投入能否获得回报的巨大不确定性,称算力是公司面临的最深商业难题。
The Verge的Decoder播客主持人Nilay Patel采访了乔治城大学CSET执行主任Helen Toner,她曾作为OpenAI董事会成员投票解雇Sam Altman,即所谓“the blip”事件。
Jensen Huang在首条 X 帖子中分享一封由 NVIDIA 签署的公开信,称开放模型可强化安全与网络安全、加速创新与扩散,并支持各国自主发展。公开信同时表示,世界需要前沿闭源模型与前沿开放模型;Thomas Wolf则称开放模型拥有数百万开发者。