Unsloth：ローカルでモデルを簡単に実行・トレーニング
Unslothは、MacやWindowsデバイス上で100%オフラインでAIモデルを実行・トレーニングできるツールです。GGUFおよびSafetensorsモデルをサポートし、ツール呼び出し、ウェブ検索、OpenAI互換APIを提供します。コード不要でモデルのトレーニング、モデル比較、ドキュメントからのデータセット作成、モデルエクスポートが可能です。無料のオープンソース版に加え、有料のProおよびEnterprise版があります。
Unslothは、AIモデルをローカルで簡単に実行・トレーニングするためのツールです。主力製品のUnsloth Studioは、MacおよびWindowsデバイス上で100%オフラインで動作し、GGUFおよびSafetensors形式のモデルをサポートします。ツール呼び出し、ウェブ検索、OpenAI互換APIなどの機能を備え、画像、ドキュメント、音声、コードファイルのアップロードにも対応。さらに、モデルを横に並べて比較することも可能です。
トレーニング面では、コード不要のインターフェースを提供。PDF、CSV、JSONドキュメントから自動的にデータセットを作成し、リアルタイムでトレーニングプロセスを監視できます。Unslothのカスタムカーネルは、LoRA、FP8、FFT、PTなどの最適化トレーニング方式をサポートし、テキスト、ビジョン、音声、埋め込みを含む500以上のモデルに対応しています。モデル競技場機能では、ベースモデルとファインチューンモデルなど、2つの異なるモデルと同時にチャットして出力を比較可能。データレシピ機能は、グラフノードワークフローを介して非構造化または構造化ドキュメントを目的のデータセット形式に自動変換します。トレーニング済みモデルはsafetensorsまたはGGUF形式にエクスポートでき、llama.cpp、vLLM、Ollamaなどの推論フレームワークで使用できます。
Unslothは無料のオープンソース版を提供しており、単一のNVIDIA GPU上で2倍のトレーニング高速化を実現。Google ColabやKaggle Notebooksで利用可能です。有料版にはProとEnterpriseがあります。Pro版は2.5倍のトレーニング高速化と20%のメモリ使用量削減を提供し、最大8つのGPUをサポート。Enterprise版は30倍のトレーニング高速化、マルチノード対応、30%の精度向上、5倍の推論高速化を実現し、すべてのPro機能に加えてカスタマーサポートが含まれます。同社は、計算効率を最適化することでハードウェアコストを削減し、より環境に優しいAIを目指していると述べています。