Hugging Faceは、14.8BパラメータのオープンなDNA言語モデル「Carbon-X」をリリースした。Carbon-XはHugging Face Bioによるデコーダ専用モデルであり、チャット上で生のDNAを読み取り、英語で回答する。例えば、変異が良性か病原性かを予測したり、制御領域を特定したり、生物種を分類したり、次の塩基を予測したりできる。重みはApache 2.0ライセンスで公開されているため、研究機関は機密性の高い配列を自前のGPU上に保持したまま利用できる。Hugging Faceは中関村学院（Zhongguancun Academy）およびTIGEM／ナポリ・フェデリコ2世大学（University of Naples Federico II）と共同でこれを構築した。
TL;DR
規模：14.8Bパラメータ（密なモデル、MoEではない）、コンテキスト長40,960トークン。
動作環境：vLLMまたはTransformers経由で、bfloat16精度の80GB GPU 1基で動作。公式GGUFはQ8_0が15.8GB、Q4_K_Mが9.6GB。
性能：5つのDNAベンチマークで平均66.7%、テストされたすべてのオープンモデルの中で最高（自己申告）。
最良：BioReason Codingで74.9%、オープン・クローズドを問わずテストされたすべてのモデルを上回る。
最悪：GenomeQAのスプライス部位に関する問題で29.8%。
Carbon-Xとは何か、どのように動作するのか
Carbon-XはQwen3-14Bを出発点とする。DNAとテキストは単一のトークンストリームを共有し、1つのデコーダ内で処理される。BioReasonのような初期の研究とは異なり、独立したDNAエンコーダは存在しない。
構造上の鍵となるのはハイブリッド・トークナイザである。テキスト用にQwen3のBPE語彙を保持しつつ、5,515個のDNAトークンを追加する。これには4,096個の非重複6-mer、1,364個の尾部トークン、3個のマーカーが含まれる。1つのDNAトークンは6塩基対をカバーする。A/C/G/Tのみからなる6塩基以上のDNA配列は自動的にタグ付けされる。
バックボーンは標準的なQwen3スタックである。40層、隠れ次元5120、8個のKVヘッドを持つGQAを備える。
Carbon-Xはどのように訓練されたのか
モデルカードによると、訓練は4つの段階で行われた。
埋め込みウォームアップ：約10Bトークンを用い、Transformerを凍結して新規DNA埋め込みのみを学習させる。
中間訓練（Mid-training）：系列長8,192で302Bトークン。混合比率は生DNA 55%、英語20%、生物学テキスト15%、指示データ10%。
SFT：20個のデータセットサブセットに対して3エポック。応答はドメイン専門家とともに構築した決定論的検証器でチェックされる。
RL：検証可能な報酬を用いた非同期GRPOを2ラウンド実施。TRLとvLLMを使用。
リリース記事によれば、学習率が最も難しい調整項目だった。高い学習率ではDNAを学習する代わりに英語を忘れてしまった。より低い学習率、14Bモデル、長時間の学習という組み合わせがこのトレードオフを解決した。Qwen3-14Bに直接RLを適用した場合、FrontierVEPで50%のチャンスベースラインを超えることはなかった。
Carbon-XはDNAベンチマークでどのような性能を示すのか
すべてのスコアはHugging Faceによる自己申告である。Carbon-Xは思考（thinking）を無効にして実行され、競合モデルはそれぞれ最良の推論強度で実行された。
ベンチマーク：Carbon-X / GPT-6.1 Sol (Max) / Opus 5.5 (Max) / Kimi K3 (Low)
BioReason Coding：74.9 / 71.0 / 70.3 / 53.9
BioReason Non-SNV：85.1 / 91.7 / 94.8 / 65.3
GenomeQA：63.6 / 67.2 / 62.2 / 52.0
NextBase：39.4 / 32.9 / 1.1 / 30.6
FrontierVEP：70.4 / 74.9 / 76.2 / 50.1
平均：66.7 / 67.5 / 60.9 / 50.4
Carbon-XはQwen3-14Bを約27ポイント上回り、GPT-6.1 Solを0.8ポイント下回る。コーディング変異の効果と次塩基予測ではリードしている。複雑な変異や単一塩基変異では、フロンティアモデルが依然として優位だ。
これらの数値は拒否（refusal）の影響を受けている。NextBaseでは、Opus 5.5は低強度時の17.7%から、拒否の増加に伴い最高強度時には1.1%まで低下する。Gemini 4 ArgonはFrontierVEPで、推論強度が上がるにつれて58%から38%へと低下する。
Carbon-Xは汎用スキルも維持している。IFEvalにおけるプロンプトレベルの厳密精度は79.3%である。
Carbon-Xの実行コストはいくらか
Hugging FaceはH200での実測スループットに基づき、1時間5ドルで価格設定している。これに基づき、問題あたりの推論コストはGPT-6.1 Solの約1/1,800であると報告している。ClinVarの意味不明変異（VUS）240万件をスコアリングするコストは約300ドルとなる。同じ作業はフロンティアモデルでは32,000ドルから400万ドルかかる。
Carbon-Xはサブエージェントとしても機能する。Kimi K3がCarbon-Xに問い合わせたところ、そのDNAインデックスは49.4%から60.5%に上昇した。
Carbon-Xのデプロイ方法
vLLM：80GB GPU 1基で vllm serve HuggingFaceBio/Carbon-X --trust-remote-code を実行。
Transformers：v5以降が必要で、DNAトークナイザ用に trust_remote_code=True を設定する。
llama.cpp：公式のCarbon-X-GGUFリポジトリにはllama.cpp b11742以降が必要。古いビルドではDNAが誤ってトークン化される。
エージェント：リポジトリにはOpenAI形式のツール、Inspectエージェント、コーディングエージェント向けのcarbon-dnaスキルが同梱されている。
enable_thinking=False を維持すること。モデルはその設定でポストトレーニングおよび評価されている。
Carbon-Xは他のDNAモデルや汎用モデルとどう比較されるか
機能比較：Carbon-X / Qwen3-14B / GPT-6.1 Sol / Evo 2 40B
開発元：Hugging Face＋パートナー / Alibaba Qwen / OpenAI / Arc Institute
パラメータ数：14.8B / 14.8B / 非公開 / 40B
コンテキスト：40,960トークン / ネイティブ32,768、YaRNで131,072 / 非公開 / 最大100万系列長
入力：DNA＋英語 / テキスト / テキスト（汎用）/ DNAのみ
英語での回答：可能 / 可能 / 可能 / 不可
ライセンス：Apache 2.0 / Apache 2.0 / 独自（APIのみ）/ Apache 2.0
DNA平均（HF評価）：66.7% / 約40.0% / 67.5%（Max）/ 未評価
BioReason Coding：74.9% / 非公開 / 71.0% / 未評価
価格：オープンウェイト / オープンウェイト / 入力・出力100万トークンあたり2ドル／10ドル / オープンウェイト
主なポイント
Carbon-XはDNAを読み取り英語で回答する14.8Bのオープンモデルである。
5つのDNAベンチマークで平均66.7%を記録し、GPT-6.1 Solに0.8ポイント及ばない。
BioReason Coding（74.9%）とNextBase（39.4%）ではテストされたすべてのモデルを上回る。
80GB GPU 1基、または15.8GBのQ8_0 GGUFで動作する。
スプライス部位の精度は29.8%であり、臨床的に検証されたものではない。
モデルカード、リリースブログ、GGUF重み、GitHubリポジトリを参照のこと。また、Twitterで私たちをフォローし、15万人以上のML SubRedditに参加し、ニュースレターを購読してほしい。待って！Telegramにもいる？今ならTelegramにも参加できる。
GitHubリポジトリ、Hugging Faceページ、製品リリース、ウェビナーなどのプロモーションで提携したい場合は、ご連絡いただきたい。
この記事「Hugging Face、DNAと自然言語を初めて融合させた14BのオープンDNA言語モデルCarbon-Xをリリース」はMarkTechPostに最初に掲載された。