跳到正文
TestingCatalog·· 4 天前AI 评分70

SGLang 新增对 AWS Trainium 芯片的支持

SGLang now runs on Amazon's AWS Trainium chips. Top labs like Meta and Google use this open-source software to run AI models. It already supports NVID...

AI 导读

SGLang 现已支持在 AWS Trainium 芯片上运行 AI 模型,并可与其已有的 NVIDIA、AMD、Intel 和 Google 芯片支持共用同一套软件。

来源:TestingCatalog · x.com