アイドル時間コンピュート(STC)

次のクエリを待つ代わりに、ユーザー操作の合間のアイドル時間を使ってバックグラウンドで推論を行う。エージェントはメモリを再編成・圧縮し、必要になりそうな推論を事前に計算し、想定される質問に先回りして答えることで、作業をレイテンシに影響するクリティカルパスから外す。推論時には答えがほぼ用意されており、テスト時計算とレイテンシを削減できる。