ファインチューニングのフレームワーク

読み込み、アダプター、トレーナー、アライメントの目的関数まで制御したい場合に向く、組み合わせ可能なPython API。

確認: 相互に互換なバージョンを固定し、対象のモデルアーキテクチャ、量子化ライブラリ、分散ランチャーをそのまま検証します。

対応モデルとハードウェアの範囲で、SFT、選好チューニング、強化学習のレシピを設定ファイル中心に扱えます。

確認: 対象モデル向けの保守された例から始め、任意カーネルと分散設定を自分のクラスターで検証します。

幅広いモデルに対して、データ準備、学習、評価、書き出しをCLIとWeb UIから行えます。

確認: これから使うモデルと手法について、リポジトリの対応表とライセンスを確認します。

対応する組み合わせについて、ローカルとクラウドでの事後学習ワークフローの最適化に重点を置いたツールキット。

確認: ベンダーが示す速度やメモリの数値はワークロード固有のものと考え、品質とスループットを自分の環境で再現します。