Loading...
🔋
Энергоэффективный вывод(EEI)
Оптимизирует ИИ-вывод для минимального энергопотребления при сохранении производительности.
Сложность: highОптимизация с учётом ресурсов
In 30 seconds
- What
- Снижает энергопотребление при выводе за счёт понижения точности, масштабирования частоты оборудования, сжатия моделей и объединения запросов в пакеты.
- When to use
- Мобильные или периферийные устройства с ограниченным аккумулятором, тепловыми ограничениями или большим объёмом вывода, где потребление энергии напрямую влияет на стоимость или время работы.
- Watch out
- Агрессивная оптимизация непредсказуемо ухудшает точность или задержку; измеряйте и то и другое до и после, на своём реальном оборудовании и своей нагрузке.
Loading technique guide…