mirror of
https://github.com/pese-git/simple-llm.git
synced 2026-01-24 05:26:02 +00:00
docs: актуализировано описание автодовосстановления обучения и обновлена логика эпох в GPT
This commit is contained in:
@@ -68,6 +68,21 @@ dataset = GetData(data=all_tokens, seq_len=seq_len, device='cuda')
|
||||
```
|
||||
|
||||
## 5. Обучение модели с помощью fit()
|
||||
|
||||
### Автоматическое восстановление обучения
|
||||
|
||||
- При запуске скрипта обучения в директории модели автоматически ищется последний checkpoint (`checkpoint_epoch_X.pt`) и обучение продолжается с соответствующей эпохи.
|
||||
- Не нужно вручную указывать эпоху старта — всё происходит автоматически.
|
||||
- Логи отображают, с какой эпохи продолжается обучение и сколько эпох осталось до конца (см. вывод в консоли).
|
||||
|
||||
**Пример из логов:**
|
||||
```
|
||||
⚡ Восстанавливаем обучение с эпохи 12
|
||||
Восстановление обучения GPT
|
||||
...
|
||||
Начало обучения GPT на 18 эпох (с 12 по 29)
|
||||
```
|
||||
- Чтобы воспользоваться функцией автодовосстановления, просто повторно запустите команду обучения с теми же CLI-параметрами!
|
||||
```python
|
||||
from torch.utils.data import DataLoader
|
||||
from simple_llm.transformer.gpt import GPT
|
||||
|
||||
Reference in New Issue
Block a user