Wink Pings

DNA 被塞进聊天框,14B 模型把单题成本压到约 1/1800

Hugging Face Bio 放出 FineDNA 和 Carbon-X。一个 14.8B 模型在 DNA 基准上贴近 GPT-6.1 Sol,单题成本约为其 1/1800。更值得看的是数据配方、可验证奖励和它作为子代理的用法。

Hugging Face Bio 放出了 FineDNA 数据集和 Carbon-X 模型。数据集的野心写在推文里:教 LLM 理解生命。模型的目标更具体:让语言模型直接读 DNA,然后用英文回答变异是否有害、序列在调控什么、下一个碱基是什么。

FineDNA 分三段。中训 300B+ tokens,DNA 序列、论文和网页混在一起,让基因组模型的抽象 DNA 表示和自然语言语义接上。SFT 20 万条,覆盖 DNA 计算、序列分析、变异效应预测,用真实 DNA 序列和确定性验证器防幻觉。RLVR 10 万条校准样本,专门补难学的能力,比如在长序列里定位一段 DNA。Lewis Tunstall 说,用 FineDNA 训出的模型可以 chat with DNA,在 DNA 理解任务上接近前沿模型。

Carbon-X 是这套数据的产物。模型卡写 14.8B 参数,从 Qwen3-14B 起步,DNA 和文本共享一个 token 流,没有单独的 DNA 编码器。分词器是混合的:文本用 BPE,DNA 按 6-mer 切,一个 token 覆盖 6 个碱基,比 BPE 省约 3 倍 token。上下文 40,960 tokens。训练先冻结主体学新 DNA embedding,再用 302B tokens 中训,之后 SFT 和 RL。RL 用异步 GRPO,奖励是任务相关的代码检查验证器。

五个基准平均 66.7%,GPT-6.1 Sol 67.5%,单题推理成本约 1/1800。Kimi K3 咨询 Carbon-X 后提升 11.1 分。模型卡给了一个更具体的账:分析 ClinVar 里 240 万个意义未明变异,Carbon-X 约 300 美元,前沿模型约 3.2 万到 400 万美元。权重能在单张 80GB GPU 上以 bf16 跑,Apache 2.0,也有 GGUF 可本地 llama.cpp。

DNA 基准平均分与单题成本对比

局限写得很直白:没有临床验证,不能用于医疗决策。精确序列操作会数错碱基、搞错坐标、编辑错误,长序列里定位尤其弱。缺少上下文时会编造序列身份或功能。GenomeQA 里剪接位点 29.8%,组蛋白标记 34.6%。长 DNA 生成质量会掉,模型被训练来读和解释已有序列,不是设计新序列。思考模式支持,但后训练和评估都关着。

回复里有个关键问题。Hanmin 问涨点有多少来自 300B token 中训,多少来自 RLVR,有没有消融。公开回复里没看到答案。Matt 问团队有没有偏好的开源模型做这类数据和 ML 训练管线,Lewis 推荐了 gpt-6.1-sol,理由是它最不可能拒绝合法请求。问开源模型,答闭源模型,这个细节有点好笑,但也说明通用助手的安全护栏在实际工作里会打断流程。Aleksandar Janca 的评论更接近产品判断:小专家模型被大模型调用,是多数业务任务该长成的样子。basedcapital 也提到,DNA 和文本放在同一个 loss 里,才让 Kimi 把它当子代理用,而不只是查表。

DNA 是少数奖励真的可检查的领域。变异是否有害、碱基是否预测对、序列里位置是否找对,都能用代码验证。RLVR 在这里比开放域聊天更实。另一个信号是成本曲线。榜单上 66.7 和 67.5 只差 0.8 分,成本差三个数量级,工程选择会往哪边偏不用多说。

数据集:https://huggingface.co/datasets/HuggingFaceBio/FineDNA
代码:https://github.com/huggingface/carbon
模型:https://huggingface.co/HuggingFaceBio/Carbon-X

发布时间: 2026-11-01 23:41