Thinking Machines Lab 发布 Inkling 2 Mini(A3B/26B)
Thinking Machines Lab 发布适合本地环境的 Inkling 2 Mini(A3B/26B)。Hugging Face 转发称其经过大量 vibe 测试,是一款出色的编码助手,并已在 transformers、llama.cpp 和 MLX 中提供支持。
Thinking Machines Lab 发布适合本地环境的 Inkling 2 Mini(A3B/26B)。Hugging Face 转发称其经过大量 vibe 测试,是一款出色的编码助手,并已在 transformers、llama.cpp 和 MLX 中提供支持。
OVHcloud 发布 Olala mini 7A1B,以这款紧凑型 7-billion 参数模型开启其首个语言模型家族。该模型在欧洲公共超级计算机上训练,采用全新架构,无 GPU 也能运行,并已在 Hugging Face 开源:llm.ovhai.com/olala-mini-v1-0/
datasette-arrows 0.1a0 为 Datasette 增加 Apache Arrow 流式导出选项,按分块处理数据,无需全部载入内存。插件使用 Datasette 1.0a43 的 `register_output_renderer()` 钩子,Claude Fable 5.2 几乎一次完成开发。
Hugging Face 转发了 Younes 对 Qwen3.8-27B OpenCode harness 适配器的发布公告;该版本基于 v2 训练,可用于本地推理。
作者在配备 32 GB 统一内存的 MacBook M5 上,用 Transformers 从 SSD 流式加载 180B 参数 Qwen3.8-Flash-Next 的 MoE 专家,使短解码达到 13.9 tok/s,与 Strata 的 14.8 tok/s 相差约 6%。
推荐理由:该实验给出低内存设备运行大型 MoE 的可迁移路径,细化了专家流式读取、有界缓存与 Metal 内核各自解决的瓶颈。
NARBE House 借助 OpenAI 的 Codex Physical Builds 项目,将 Benny's Hub 移植到 Raspberry Pi 与 VITURE XR 眼镜,探索把 Ben 通过头部附近两个按钮控制电脑的方案做成可穿戴设备。该项目免费开源,地址为 narbehouse.github.io。
Qwen3.8-27B-pi-adapted 发布,通过强化学习和 LoRA adapter 针对 pi 编码智能体完成适配。其 pass@1 在 SWE-bench Pro (Hard 51) 从 29.4% 升至 62.7%,Terminal-Bench 2.1 从 39.5% 升至 55.8%,每项任务的工具调用减少 55–62%,并开放权重。
Qwen3.8-27B-pi-adapted 面向 pi 编码智能体完成强化学习与 LoRA 适配,并开放权重。其 pass@1 在 SWE-bench Pro (Hard 51) 达 62.7%,Terminal-Bench 2.1 达 55.8%;每项任务工具调用减少 55–62%。
Google 开源 Another Build File Service(ABFS),通过按需加载源码和共享构建缓存,加速超大型 Git 仓库的检出与构建。在同一云网络的 GCE n2d-standard-64 VM 上,Android 源码检出从约 36 分钟降至 8 秒以内,完整构建从约 80 分钟降至略高于 2 分钟。
推荐理由:ABFS 将按需加载、内容寻址文件系统与两阶段构建缓存结合,为超大型 Git 仓库提供可迁移的提速方案。
Simon Willison 发布完全重写的 Datasette Lite,借助 Service Worker、WebAssembly 和 Pyodide,让完整的服务端 Datasette Python 应用直接在浏览器运行。
Suvaditya Mukherjee 使用 Claude 将 trellis.2 完整实现为 CUDA C++,称其比原 PyTorch 实现快 5.3x,并已开源代码:github.com/suvadityamuk/trell…。
Nasiko 发布开源工具 Open Runtime,通过在长文件送入 AI 模型前裁剪非必要内容,降低 AI 智能体的单任务支出,并可为每个智能体设置预算上限、触顶即停止。
Microsoft Research 推出开源插件 TokenEconomizer,利用过往会话减少编码智能体重复学习,在保持任务成功的同时降低成本。该插件现已在 GitHub 提供,目标是让编码智能体不仅学习解决任务,也更有效地使用计算资源。
Google 介绍了 Tunix 中的 Zero-TIM 实现,它让采样器解码、服务预填充与训练器前向在相同权重和 token 历史下,为采样动作生成逐位一致的 logprob。
Georgi Gerganov 发布 llama.cpp v1.0.0,这是该库首个主要的完全稳定版本,用于在手机、笔记本电脑和工作站本地运行 AI 模型。相关信息表示,该项目将支持各种硬件、平台和模型类型,并推动 AI 更加分布式。详情:huggingface.co/blog/ggml-org/…
推荐理由:这条发布交代了 llama.cpp v1.0.0 作为首个主要完全稳定版本的定位,并说明其面向多种设备本地运行 AI 模型的支持方向。
Hugging Face 转发 Georgi Gerganov 的消息,宣布 llama.cpp v1.0.0 已发布,详情见 huggingface.co/blog/ggml-org/…
Hugging Face发布TRELLIS.2 3D生成模型的LoRA微调指南,提供可在本地或Hugging Face Jobs上运行的预处理和训练容器脚本。
DeepSeek 开源其内部推理框架 DeepInfer,用于以高吞吐、低延迟大规模运行 DeepSeek-V4.1-Flash。项目代码已发布至 github.com/deepseek-ai/DeepIn…,DeepSeek 表示希望借此帮助社区降低计算成本和能源使用,让 AI 更加可负担。
Google 将 TorchTPU 集成进 TorchTitan,提供在 Google Cloud TPU 上使用 PyTorch 训练模型的 TorchTitan TPU fork,代码位于 github.com/google-pytorch/tor…。
推荐理由:文章把 TorchTPU 上的 PyTorch 训练优化拆成可复用配置,并用 Llama 3、Qwen3 和 FLUX.1 的实测结果说明各环节的收益。
DeepSeek 将 DeepSeek V4.1 Flash 更新至 V4.1-Flash-1017,官方网页端、APP 与 API 已同步切换到新模型。
推荐理由:材料同时给出新版模型的基准对比、适配框架,以及 Search/Fetch 接口 5 元/千次的价格,便于评估升级与接入成本。
Andrew Ng 表示,OpenWorker 正基于 Nvidia OpenShell 构建智能体沙箱,并将支持把每个智能体的命令放在沙箱内运行。沙箱只允许与任务相关的文件进入,默认阻断 API keys、浏览器登录凭据和任意网站访问权限,权限限制由确定性代码实施,所有操作都会记录以供监控和审计。