埋め込みモデル

学習方法

対照学習、メトリック学習、分類、またはペアデータ目的により、有用なマッチは引き寄せられ、ネガティブは押し出されます。ネガティブサンプリング戦略とドメインデータが、類似性とは何かを定義します。

推論の実行方法

各アイテムは1回の順伝播でエンコードされます。保存されたベクトルは高速な近似最近傍探索を可能にし、クロスエンコーダを使用して小さな候補セットを微調整できます。

強み

• •大規模コレクションに対する効率的なセマンティック検索
• •クラスタリング、ルーティング、レコメンデーション、重複排除のための再利用可能な特徴量
• •候補ベクトルは事前に計算およびインデックス化できます

トレードオフ

• •単一のベクトルはトークンレベルの詳細を圧縮してしまいます
• •ドメイン、言語、または時間のドリフトにより類似度が低下します
• •スコアはモデルとインデックスに固有であり、キャリブレーションされた確率ではありません

適する場合

• セマンティック候補検索が必要な場合
• ペアワイズスコアリングには大きすぎるコーパスの場合
• 本番環境の形状のクエリで再現率を評価できる場合

避ける・再検討する場合

• 完全な字句的なマッチングのみが要件である場合
• 表現ではなく生成された応答が必要な場合
• 類似度閾値がキャリブレーションなしでデプロイされる場合