AI 行业仍强劲增长,但增速正在放缓
Ramp 与 Stripe 的指数都显示,AI 行业仍在快速增长,但企业支出和供应商收入的短期增速正在放缓。Ramp 数据中,10月18日至11月15日 token 支出增长12%,token 量增长27.2%,OpenAI 与 Anthropic 的平均价格降至每百万 token $0.45。
Ramp 与 Stripe 的指数都显示,AI 行业仍在快速增长,但企业支出和供应商收入的短期增速正在放缓。Ramp 数据中,10月18日至11月15日 token 支出增长12%,token 量增长27.2%,OpenAI 与 Anthropic 的平均价格降至每百万 token $0.45。
Sam Altman称,他的人生离奇到令自己对Andrew Garfield将在《Artificial》中饰演他见怪不怪。影片于圣诞节上映,讲述OpenAI崛起及他在2023年短暂被罢免的内部动荡;他认为更离奇的是自己肩负推动这项伴随现实担忧的技术并确保其顺利发展的责任。
Kai 总结了前沿模型从训练、内部使用到公开发布所需的安全流程,模型能力越强,进入下一阶段所需的安全与对齐标准也越高。四层防护包括模型对齐、安全与沙箱、阻断防护、监控与响应。该框架汇集了 OpenAI 近期的研究、技术工作与事故报告,是训练和部署模型的基础操作规范,但不能彻底解决对齐问题:openai.com/index/managing-fro…
OpenAI 联合创始人兼 CEO Sam Altman 警告,不应让 AI 逐步接管各主要行业和机构的决策权,人类应继续掌控未来。Greg Brockman 表示,随着模型能力提高,思维链的可监控性可能下降,因此需要新的监控技术。报道称,相关安全事件发生后,OpenAI 曾让 25% 的生产工程师暂停开发并转向安全工作。
OpenAI CEO Sam Altman 表示,很难想象没有 Jensen Huang 的 AI 行业;他与 Greg Brockman 均透露,在 Huang 上周辞去 Nvidia CEO 后曾私下联系他。
Tibor Blaho 在日常工程工作中实测 GPT-6.2 Astra 与 Sol,称两者完成了交给它们的大多数大小任务。在一项案例中,Astra 将一个拥有数百万行代码和旧依赖的近 20 年遗留应用升级至当前编程语言版本,约 3 小时后可在本地使用,约 6 小时后从全新检出运行的全部测试通过。
推荐理由:作者以多百万行遗留应用升级和跨模型互审为案例,给出了模型处理真实工程任务的耗时与协作方式。
Sam Altman称,他希望每个人都能为自己的电脑购买大量RAM,并认可家庭动手尝试的价值。他解释,内存供应短缺时,让有限资源持续运行可能提高利用率,但个人在家推理也是需要权衡的因素。他估计DRAM价格近几个月可能上涨了5x或7x左右,并称OpenAI曾受到内存、机架组装和数据中心容量等因素制约。
Sam Altman称,即使黄仁勋不再执掌Nvidia,强劲的AI需求、收入增长及市场对Nvidia担保的信任也足以让行业继续正常发展。报道称,黄仁勋上周在承认与一名被指为中国间谍的人有婚外情后辞职;Altman表示没有足够信息判断他是否应回归,但肯定了他推动行业发展的特殊作用。Nvidia最近同意为OpenAI的俄亥俄州数据中心项目提供最高$105 billion担保。
The Verge的Decoder播客主持人Nilay Patel采访了乔治城大学CSET执行主任Helen Toner,她曾作为OpenAI董事会成员投票解雇Sam Altman,即所谓“the blip”事件。
Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。
Andrew Ng认为,近期围绕AI危险的恐慌被过度炒作,安全问题应靠工程修复而非暂停AI发展。他以OpenAI智能体集群入侵Hugging Face为例,指出报道中的1,200个智能体并不等于神奇能力,OpenAI的沙箱与监控缺陷才是事件关键。他认为AI智能体已改变网络安全威胁格局,但AI的有益应用仍远超风险,应继续推进建设。