Wink Pings

欧洲小模型Olala开源:1B激活、32K上下文,网友先吵性价比

OVHaiLLM发布Olala-v1.0-mini-7A1B,Apache 2.0开放权重,约1B激活参数,32K上下文。社区评测显示基准不占优,但欧洲语言表现被部分网友认可,训练成本与竞争力也引来争论。

法国OVHcloud旗下的OVHai LLM发布了Olala-v1.0-mini-7A1B,权重用Apache 2.0开放,GGUF已经上传到Hugging Face,另有一个不用登录的免费playground。

模型规格很直接:总参数6.8B,按token只激活约1B参数。36层里有29层Mamba-3、7层attention,每层后面接一个MoE块,256个路由专家中激活6个,另有1个共享专家。上下文32K,128K版本预告中。词汇表151936。训练用了12.8T tokens,来自公开数据集和自建合成数据,在欧洲三台超算JUPITER、Jean Zay和MeluXina上完成。预训练覆盖英语和36种其他语言,退火阶段38种,主要是欧洲语言,也包括阿拉伯语、中文、日语和韩语。

image

官方定位是小型推理模型,用于聊天、指令跟随和工具调用。它支持四档推理强度,后训练包含SFT和强化学习,也专门训练了多轮工具调用与搜索。Hugging Face上有GGUF:https://huggingface.co/OVHaiLLM/Olala-v1.0-mini-7A1B-GGUF,免费试玩地址是https://olala.ovh.com/,技术报告在https://huggingface.co/OVHaiLLM/Olala-v1.0-mini-7A1B/blob/main/Olala-v1.0-mini.pdf。

Reddit讨论里,有网友提到训练成本约700万欧元。这个数字很快成了争论焦点。支持的一方认为架构有创新,KV cache不算大,7层attention保留缓存,7A1B在12GB显存上跑8bit应该很轻松,速度也会快。发布方还放出了base、SFT、RL三个checkpoint,许可证宽松,对小模型爱好者是加分项。

反对的声音更直接。有网友说,按基准看,它多数项目不如Ling 3.0 Tiny,甚至不如LFM3-1.7B。另有人反问,12GB显存下有大量更好的模型可选,7B A1B这种规格应该往4GB以下或手机端走。更刺耳的一句是,花了700万欧元训练,却没有和同尺寸模型拉开差距,欧洲AI的竞争力又被顺手讨论了一遍。

image

不过,基准不是全部。有网友在playground试了几轮后说,这个模型对欧洲语言的处理比不少tiny模型更好。对欧洲项目来说,这可能是更实际的目标。也有人提醒,Gemma 4 E4B在欧洲语言上口碑不差,竞争并没有留出空白。

体验细节也很有意思。有网友说,问一个冷门话题时,模型拒绝编造;搜索工具没返回有用结果,模型直接承认不知道。这个表现让该网友意外。另一位网友用light thinking模式让它写Rust hello-world,结果出现循环。还有人英文提问,搜索工具返回法语,答案也跟着法语。有人抱怨guardrails烦人。

从讨论看,Olala的看点不在榜单碾压,而在小MoE架构、欧洲语言定位和Apache 2.0许可的组合。它能不能成为常用工具,要看具体场景。至少免费playground降低了试错成本,想判断值不值得用,跑几个自己的提示词比看争吵更快。

发布时间: 2026-11-19 19:03