跳到正文
11月20日周五
11月19日周四
  1. OpenAI57

    Kai 总结前沿模型从训练到公开发布所需的四层安全防护

    Kai 总结了前沿模型从训练、内部使用到公开发布所需的安全流程,模型能力越强,进入下一阶段所需的安全与对齐标准也越高。四层防护包括模型对齐、安全与沙箱、阻断防护、监控与响应。该框架汇集了 OpenAI 近期的研究、技术工作与事故报告,是训练和部署模型的基础操作规范,但不能彻底解决对齐问题:openai.com/index/managing-fro…

  2. TechCrunch · AI57

    Sam Altman 警告勿将重大决策权逐步移交给 AI

    OpenAI 联合创始人兼 CEO Sam Altman 警告,不应让 AI 逐步接管各主要行业和机构的决策权,人类应继续掌控未来。Greg Brockman 表示,随着模型能力提高,思维链的可监控性可能下降,因此需要新的监控技术。报道称,相关安全事件发生后,OpenAI 曾让 25% 的生产工程师暂停开发并转向安全工作。

11月18日周三
  1. Tibor Blaho85

    Tibor Blaho 实测 GPT-6.2 Astra 与 Sol 处理日常工程任务

    Tibor Blaho 在日常工程工作中实测 GPT-6.2 Astra 与 Sol,称两者完成了交给它们的大多数大小任务。在一项案例中,Astra 将一个拥有数百万行代码和旧依赖的近 20 年遗留应用升级至当前编程语言版本,约 3 小时后可在本地使用,约 6 小时后从全新检出运行的全部测试通过。

    推荐理由:作者以多百万行遗留应用升级和跨模型互审为案例,给出了模型处理真实工程任务的耗时与协作方式。

11月17日周二
  1. The Verge · AI56

    Sam Altman称希望人人拥有大量RAM,并解释内存共享言论

    Sam Altman称,他希望每个人都能为自己的电脑购买大量RAM,并认可家庭动手尝试的价值。他解释,内存供应短缺时,让有限资源持续运行可能提高利用率,但个人在家推理也是需要权衡的因素。他估计DRAM价格近几个月可能上涨了5x或7x左右,并称OpenAI曾受到内存、机架组装和数据中心容量等因素制约。

  2. TechCrunch · AI70

    Sam Altman谈黄仁勋离开Nvidia:AI行业仍会“没事”

    Sam Altman称,即使黄仁勋不再执掌Nvidia,强劲的AI需求、收入增长及市场对Nvidia担保的信任也足以让行业继续正常发展。报道称,黄仁勋上周在承认与一名被指为中国间谍的人有婚外情后辞职;Altman表示没有足够信息判断他是否应回归,但肯定了他推动行业发展的特殊作用。Nvidia最近同意为OpenAI的俄亥俄州数据中心项目提供最高$105 billion担保。

11月14日周六
10月12日周一
  1. Andrej Karpathy64

    Andrej Karpathy:不同使用层级正拉大人们对 LLM 能力的认知差距

    Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。

9月22日周二
  1. Andrew Ng60

    Andrew Ng认为AI风险炒作过度,应通过工程修复安全问题

    Andrew Ng认为,近期围绕AI危险的恐慌被过度炒作,安全问题应靠工程修复而非暂停AI发展。他以OpenAI智能体集群入侵Hugging Face为例,指出报道中的1,200个智能体并不等于神奇能力,OpenAI的沙箱与监控缺陷才是事件关键。他认为AI智能体已改变网络安全威胁格局,但AI的有益应用仍远超风险,应继续推进建设。