跳到正文
  1. Hugging Face Blog80

    180B 参数、32GB 内存:Transformers 流式加载 MoE 专家,将生成速度逼近 Strata

    作者在配备 32 GB 统一内存的 MacBook M5 上,用 Transformers 从 SSD 流式加载 180B 参数 Qwen3.8-Flash-Next 的 MoE 专家,使短解码达到 13.9 tok/s,与 Strata 的 14.8 tok/s 相差约 6%。

    推荐理由:该实验给出低内存设备运行大型 MoE 的可迁移路径,细化了专家流式读取、有界缓存与 Metal 内核各自解决的瓶颈。

  1. Google Developers Blog77

    用 Gemini 和约束求解器捕获 Go 模糊测试漏掉的错误

    Google 的一名 Agent skills 项目负责人将 Gemini 4 Argon、Z3 约束求解器与 Go 汇编分析结合,从编译器保留的边界检查陷阱中合成崩溃输入;该流程找出测试解析器中预置的 3 个 bug,并在 skill-lint 中发现 3 个潜在 bug。

    推荐理由:文章拆解了 Go 模糊测试因切片容量掩盖越界崩溃的原因,并给出用 Gemini、Z3 与容量裁剪互补排查解析器错误的方法。

  1. Google Developers Blog75

    Google 解析用低成本分类器在 Gemini 模型与 thinking level 之间路由任务

    Google 通过 50 个自动评分的编码智能体任务,比较 Jev 分类器、启发式规则与 Gemini 不同配置的任务路由效果。Jev 在 34 个未见任务上与人工难度标注 34/34 一致,Jev 路由方案让简单任务使用 Flash-Lite、复杂任务升级到低 thinking 的 Flash,50 题全部答对,并可降低相较于全程低 thinking 的成本和响应时间。

    推荐理由:文章用 50 个编码智能体任务比较启发式路由、Jev 与不同 Gemini 配置,给出按任务难度设置 thinking level 和维护上下文缓存的实践依据。

已经到底了