跳到正文
11月17日周二
  1. TechCrunch · AI78

    OpenAI 推出 CSAM 图像分类器与 ChatGPT 警告机制

    OpenAI 推出用于识别儿童性虐待材料(CSAM)的图像分类器,并在 ChatGPT 中加入警告和临时封禁机制。该分类器也能检测 AI 生成的 CSAM,部分公司可通过 API 免费使用;早期测试中,它在检出相同数量虐待图像时少标记48%的图像。ChatGPT 将警告尝试相关提示词的用户并暂停账户24小时,重复违规可能导致账户被永久移除。

    推荐理由:早期合作测试显示,该分类器在检出相同数量虐待图像时少标记48%的图像,可直接减轻审核人员的筛查负担。

  2. OpenAI60

    OpenAI 研究称科学家使用 AI 后自报生产率接近翻倍

    OpenAI 对 ChatGPT for Academic Researchers 项目中超过 1,800 名参与者的研究显示,科学家自报使用 AI 后生产率接近翻倍。研究采用隐私保护方法,分析他们如何在构思、数据分析和编写代码等工作中使用 ChatGPT,以及这可能对科学发现产生的影响。openai.com/index/science-at-t…

  3. OpenAI72

    OpenAI 联合四家机构开展嵌入式安全评估

    OpenAI 正与 @ApolloResearch、@METR_Evals、@TransluceAI 和 @GoodfireAI 开展嵌入式评估,允许外部专家深入访问其内部模型与系统。评估将调查对齐并测试安全措施,为系统风险识别和管理引入独立审查:openai.com/index/our-first-ph…

    同一件事,精选收录的是《OpenAI首次向四家独立现场审计机构开放内部AI系统》

11月16日周一
11月15日周日
  1. The Decoder77

    报道称黄仁勋离职更多因Nvidia风险信贷业务,而非私人生活丑闻

    据《华尔街日报》报道,黄仁勋被罢免更可能源于Nvidia风险信贷担保业务,而非私人生活问题。该业务向AI云服务商和数据中心开发商提供数十亿美元担保换取营收分成,其中与OpenAI就俄亥俄州数据中心达成的$250 billion担保曝光后Nvidia股价下跌5%,临时CEO Colette Kress随后将对OpenAI的承诺规模减半。

    推荐理由:文章梳理了Nvidia风险信贷担保项目与股价波动如何影响黄仁勋去留,为理解管理层变动提供背景。

11月14日周六
11月13日周五
11月12日周四
  1. Ars Technica · AI61

    台积电计划向OpenAI和Anthropic投资10亿美元

    台积电董事会已批准计划,向OpenAI优先股投资最多5亿美元,并以Anthropic预期IPO价格购买其普通股另投5亿美元,据路透社报道。华尔街日报称此举可能在AI交易出现压力迹象时为市场带来信心,但分析师警告,这种在投资者、供应商和客户之间的循环融资让评估AI硬件和服务的真实市场需求变得困难。

11月11日周三
  1. OpenAI72

    OpenAI 在 ChatGPT 中推出 beta 版 Businesses

    OpenAI 宣布 ChatGPT 中的 Businesses 进入 beta,企业可以认领自己的业务、管理信息,并获取人们与其互动方式的洞察。符合条件的企业还可以构建 Business Agent,回答客户问题并帮助他们了解企业提供的内容。

    推荐理由:这条信息同时交代了企业在 ChatGPT 中可管理的信息、用户互动洞察和客户问答入口,便于判断产品面向的使用场景。

11月10日周二
  1. OpenAI55

    OpenAI 构建 Control Room 监控并快速停止模型工作负载

    OpenAI 构建了 Control Room,用于跟踪研究基础设施中的模型工作负载,并在出现安全或安保问题时快速停止任务。该系统连接模型训练与评估中的智能体采样、数据处理等研究推理工作负载,并与 misalignment 监控系统协同,在决定干预后 35 秒内停止模型输出或暂停任务。详情见 openai.com/index/control-room/。

11月8日周日
11月6日周五
  1. Sam Altman79

    OpenAI 发布 GPT-6 Cyber,强化安全研究与模型对齐

    OpenAI 发布 GPT-6 Cyber,称其在安全研究和模型对齐方面有所增强,并已向部分 Daybreak Red 客户开放。帖子称,GPT-6 Cyber 已用于 Linux kernel 研究,也与 GPT-6 Astra、Daybreak 一起帮助 OpenAI 加固系统。

    推荐理由:原文结合 GPT-6 Cyber 的发布信息与实际案例,展示模型如何协助发现输入校验与代码执行交互中的隐蔽漏洞。

11月5日周四
10月30日周五
  1. Sam Altman77

    Pro 100/200/500 tiers 与 Business Premium 使用上限今日翻倍

    Pro 100/200/500 tiers 和 Business Premium 的使用上限自今日起翻倍,Pro 200 不再下调,Work 和 Codex 的使用量保持不变。dots 将继续提供扩展额度,且其使用量与默认使用量分开计算;后续还会继续发布更好的模型和效率改进。

    推荐理由:原文明确了多个订阅层级的额度变化、Pro 200 的处理方式及 dots 的独立额度规则,便于用户核对实际可用量。

10月27日周二
  1. Sam Altman81

    OpenAI 发布 GPT-6.1 Terra,提供更低价的电脑操作能力

    OpenAI 发布 GPT-6.1 Terra,定位为以更低价格提供快速且胜任多类任务的电脑操作。该模型能理解屏幕内容、跨应用执行操作并自然写作,面向整个工作日提升使用效率。

    推荐理由:原文交代了 GPT-6.1 Terra 的屏幕理解、跨应用操作和自然写作能力,以及面向整个工作日的效率与价格定位,便于判断其电脑使用方向。

10月12日周一
  1. Andrej Karpathy64

    Andrej Karpathy:不同使用层级正拉大人们对 LLM 能力的认知差距

    Andrej Karpathy 认为,不同人群接触 LLM 的层级差异正在扩大,少数专业用户已在数学和编码领域直接感受到前沿智能体的快速进步。 他估算约 6B 人几乎未接触 LLM,约 1-2B 人仅偶尔使用免费产品,约 20M 人在专业数学与编码工作中使用前沿 LLM,约 5,000 人可内部接触更先进系统。

9月22日周二
  1. Andrew Ng60

    Andrew Ng认为AI风险炒作过度,应通过工程修复安全问题

    Andrew Ng认为,近期围绕AI危险的恐慌被过度炒作,安全问题应靠工程修复而非暂停AI发展。他以OpenAI智能体集群入侵Hugging Face为例,指出报道中的1,200个智能体并不等于神奇能力,OpenAI的沙箱与监控缺陷才是事件关键。他认为AI智能体已改变网络安全威胁格局,但AI的有益应用仍远超风险,应继续推进建设。