Loading...
🧠
Восстановление LLM из контрольных точек (Mnemosyne)(LCR)
Легковесная архитектура прокси-устройств для восстановления LLM после сбоев с созданием контрольных точек по требованию и частичной реконструкцией топологии
Сложность: highИнфраструктура отказоустойчивости
In 30 seconds
- What
- Поддерживает лёгкие прокси-агенты на устройствах, которые по требованию сохраняют состояние градиентов и оптимизатора, а после сбоя восстанавливают топологию обучения и продолжают с последней контрольной точки.
- When to use
- Крупномасштабное распределённое обучение LLM с частыми сбоями, где нужно восстановление менее чем за минуту без полного переобучения и эластичного масштабирования.
- Watch out
- Своевременное создание контрольных точек добавляет задержку при обычном обучении; неверно настроенные триггеры могут вызвать каскадные сбои или исчерпание памяти при высокой частоте отказов.
Loading technique guide…