跳到正文
Hugging Face Blog·· 1 天前精选AI 评分83

Thinking Machines Lab 发布本地多模态模型 Inkling 2 Mini

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

AI 导读

Thinking Machines Lab 发布面向本地部署的多模态 MoE 模型 Inkling 2 Mini,约有 26B 物理总参数、每个 token 激活 3B 参数,支持 1M-token 上下文及图文输入。

推荐理由

文章拆解循环层与跨轮消息机制,并给出多套本地推理路径,便于比较模型容量、速度和显存之间的取舍。

来源:Hugging Face Blog · huggingface.co