Gemma
ローカルとクラウドの両方でチューニング手順が公開されている、Googleが提供するオープンウェイトの系列。
確認: 正確なチェックポイントと形式は、最新のGemmaの利用条件、フレームワークのガイド、必要メモリを確認してから決めてください。
公式のモデル配布元を開くファインチューニングガイド
ベースモデルを選ぶ
一般的なリーダーボードではなく、自分のワークロードでの実証をもとに選びます。品質目標を満たす最小のチェックポイントから始め、本格的な学習に投資する前に、利用条件、学習の対応状況、配備経路を確認します。
まずベースモデルの比較検証を行う
1. テストセットを固定する
成功、失敗、境界、安全性、分布外の代表的な事例を用意します。学習とプロンプトの試行錯誤からは切り離しておきます。
2. ベースラインを比較する
同じ採点基準で、プロンプト、few-shotの例、検索、候補のベースモデルを試します。ファインチューニングは、計測された差を埋めるために使います。
3. 安く試す
アダプターを使った短い実験を行い、設定一式を記録します。ホールドアウトと安全性の評価でも効果が残った場合にだけ採用します。
選定の判断基準
- チューニング前のチェックポイントが、手元のホールドアウト事例でプロンプトのみと検索のベースラインを上回る。
- ライセンスと利用規約が、製品、提供地域、配布、派生物をカバーしている。
- トークナイザー、チャットテンプレート、コンテキスト長、出力形式が、想定するサービング構成と一致する。
- 活性化、オプティマイザの状態、バッチ、チェックポイントの余裕を含めて、小規模なパイロットが収まる。
- 出荷予定のアダプター形式またはマージ済みチェックポイント形式に、サービング構成が対応している。
- 採用前に、タスク品質、安全性の退行、レイテンシ、スループット、費用を検証できる。
オープンウェイトのモデル系列の例
2026年7月時点で確認した状況です。これは出発点であり、順位付けでも、すべてのチェックポイントがすべてのチューニング手法に対応するという保証でもありません。最新のファイルと条件は公式の情報源で確認してください。
Qwen
多言語、コーディング、マルチモーダルのワークロードで評価する価値がある、幅広いオープンウェイトの系列。
確認: このコレクションにはアーキテクチャもサイズも大きく異なるモデルが含まれます。モデルカードとチャットテンプレートを個別に確認してください。
公式のモデル配布元を開くMistral
公式の配備手順があり、一部のチェックポイントについてはファインチューニングの手引きもあるオープンウェイトのモデル。
確認: 最近のチェックポイントには、有効パラメータ数より重み全体の容量がはるかに大きいMixture-of-Expertsのモデルが含まれます。
公式のモデル配布元を開くgpt-oss
公式のモデルカードとファインチューニングの注記がある、OpenAIのオープンウェイト推論モデル。
確認: チェックポイントを選ぶ前に、必須のHarmony応答形式を維持し、実際の学習構成でメモリを計測してください。
公式のモデル配布元を開くメモリを計測する
パラメータ数だけでは学習時のメモリは予測できません。精度、系列長、Attentionの実装、オプティマイザ、バッチサイズ、アダプター、シャーディングがいずれも影響します。
ライセンス本文を読む
「オープンウェイト」はライセンスの区分ではありません。チェックポイントの利用条件と告知を確認し、モデル系列の名前から権利を推測しないでください。
安全性テストをやり直す
チューニングしたモデルは、対象タスク以外で退行することがあります。リリースのたびに、基礎能力、悪用事例、個人データの漏えい、拒否の挙動を検証してください。
汎用のVRAM見積もりだけでハードウェアを購入しないでください。対象のチェックポイント、精度、系列長、フレームワークで代表的なパイロットを再現するか、学習、保管、サービング、データ転送を含む最新の見積もりを提供者から取得してください。