关注
Aleph Alpha 发布开源双语 MoE 模型 Aleph Alpha 发布开源英德双语 MoE 模型 Kolibri,仅需单张 B200/H200 即可运行,激活参数仅 34.6 亿。
深度解读
Aleph Alpha 发布的 Kolibri 模型展示了混合专家模型(MoE)架构在效率上的巨大潜力。该模型虽拥有 781 亿总参数,但激活参数仅 34.6 亿,使得在单张消费级或入门级专业显卡上运行成为可能。这种“大参数、小激活”的设计思路,有效平衡了模型容量与推理成本,为非英语国家提供了高质量的本地化开源选择。对于资源受限的开发者和关注数据主权的欧洲市场,Kolibri 提供了一种在不依赖巨型算力集群前提下部署高性能模型的新路径。