跳到正文
AI快讯· noreply@hot.foxnan.com (Rohan Paul (X))·· 1 天前AI 评分65

Thinking Machines Lab 开源 594B 参数模型 Inkling 2 Small,全程采用 4-bit 前向训练

Thinking Machines Lab 开源 594B 参数模型 Inkling 2 Small,全程 4-bit 前向训练

AI 导读

Thinking Machines Lab 开源了 594B 参数模型 Inkling 2 Small,从预训练第一步到最终 RL rollout 均采用原生 4-bit 前向计算,并以 Apache 2.0 许可在 HuggingFace 开放下载。

来源:AI快讯 · hot.foxnan.com