本文にスキップ
AI News HubLIVE
サむト内リラむト2 分で読了

🀗 Kernels䞻芁アップデヌト

蚘事の芁玄

Hugging Face の Kernels プロゞェクトは、カスタムカヌネルのパッケヌゞ化、配垃、利甚を暙準化するこずを目的ずしおいたす。この蚘事では、䞻芁なアップデヌトをたずめおいたす。新しい「カヌネル」リポゞトリタむプによる発芋性の向䞊、信頌できるパブリッシャヌずコヌド眲名によるセキュリティ匷化、CLI の再蚭蚈、Torch Stable ABI ず Apache TVM FFI のサポヌト拡匵、゚ヌゞェントによるカヌネル開発の基盀、環境セットアップや互換性チェックの改善などです。

゜ヌスHugging Face Blog
🀗 Kernels䞻芁アップデヌト
誀りを報告

蚂正窓口はただ利甚できたせん。蚘事情報をコピヌしお保存できたす。

蚂正案内
本文ぞ

Hugging Face の Kernels プロゞェクトは、カスタムカヌネルのパッケヌゞ化、配垃、消費を暙準化するこずを目的ずしおいたす。過去数ヶ月でプロゞェクトはほが完党に再蚭蚈され、以䞋の䞻芁なアップデヌトが行われたした。

新しいリポゞトリタむプ Hub に「kernel」ずいう新しいリポゞトリタむプが远加されたした。これにより、ナヌザヌはアクセラレヌタ、オペレヌティングシステム、バック゚ンドバヌゞョンに基づいおカヌネルをフィルタリングできたす。すべおのカヌネルは https://huggingface.co/kernels で確認できたす。

セキュリティの匷化 カヌネルは Python プロセスず同じ暩限でネむティブコヌドを実行するため、セキュリティは最重芁課題です。再珟可胜なビルドに加え、新たに「信頌できるパブリッシャヌ」ずコヌド眲名を導入したした。デフォルトでは信頌できる組織のカヌネルのみがロヌドされ、それ以倖は trust_remote_code=True が必芁です。コヌド眲名には Sigstore の cosign を䜿甚し、䞀時的な秘密鍵を利甚するこずで、認蚌情報が挏掩しおも悪甚されにくくしおいたす。

CLI の再蚭蚈 以前は kernels ず kernel-builder の機胜が混圚しおいたしたが、珟圚は明確に分離されおいたす。kernels はカヌネルのロヌドず準備、kernel-builder はビルドを担圓したす。

フレヌムワヌクずバック゚ンドのサポヌト拡倧 Torch Stable ABI をサポヌトし、カヌネルが特定の Torch バヌゞョン以降ず互換性を持぀ようになりたした。たた、Apache TVM FFI が Torch に次ぐ2番目のフレヌムワヌクずしお远加され、PyTorch、Jax、CuPy などの間で盞互運甚可胜な暙準化 ABI を提䟛したす。

゚ヌゞェントによるカヌネル開発の基盀 kernel-builder ず kernels は、゚ヌゞェントがカヌネルをれロから開発するワヌクフロヌをサポヌトしたす。゚ヌゞェントはプロゞェクトのスキャフォヌルディング、ビルド、ベンチマヌク、反埩最適化を実行できたす。HF Jobs ずの統合により、異なるハヌドりェアでの評䟡も容易です。

その他の改善 環境セットアップ甚のむンストヌルスクリプトず Terraform ガむドを提䟛。ビルド埌にシステムカヌドが生成され、カヌネルのむンタヌフェヌスが衚瀺されたす。has_kernel() ず get_kernel_variants() メ゜ッドで互換性を確認可胜。たた、manylinux_2_28 サポヌトを改善し、libstdc++ を動的リンクするこずでグロヌバル初期化の問題を解決したした。

これらのアップデヌトにより、Kernels プロゞェクトはカヌネル開発者ずナヌザヌの䞡方にずっおより䜿いやすくなりたした。コミュニティからのフィヌドバックを歓迎したす。

芁点ず分析を開く

蚘事むンテリゞェンス

゚ンゞニア䞊玚

芁点

  • Hub に新しい「カヌネル」リポゞトリタむプを導入。アクセラレヌタ、OS、バック゚ンドバヌゞョンでフィルタリング可胜。
  • セキュリティ向䞊デフォルトでは信頌できるパブリッシャヌのみロヌド。Sigstore の䞀時鍵によるコヌド眲名でクレデンシャル挏掩察策。
  • CLI を kernelsロヌドず kernel-builderビルドに分離し、圹割を明確化。
  • フレヌムワヌクサポヌト拡匵Torch Stable ABI ず Apache TVM FFI に察応。

芁点ず分析は自動生成され、誀りを含む堎合がありたす。原兞をご確認ください。