Sergey Penkovsky
d9af3dba35
Optimize feed forward: improve dtype handling and layer processing
2025-07-21 10:07:52 +03:00
Sergey Penkovsky
e5fc85f336
Полная реализация FeedForward
...
- Основной класс FeedForward
- Тесты для всех функций
- Пример использования с визуализацией
- Документация с блок-схемой
2025-07-20 14:28:18 +03:00
Sergey Penkovsky
75f99d5def
Добавление тестов для MultiHeadAttention + финальные правки
2025-07-19 22:27:22 +03:00
Sergey Penkovsky
034b515846
Реализация MultiHeadAttention
...
- Добавлен класс MultiHeadAttention
- Создана документация с блок-схемой
- Добавлен пример использования
- Обновлен README.md
2025-07-19 22:24:05 +03:00
Sergey Penkovsky
a150828665
Добавление механизма внимания HeadAttention
...
- Реализация одного головного внимания из Transformer
- Полная документация на русском языке
- Пример использования с визуализацией
- Обновление README с ссылками
2025-07-19 11:35:11 +03:00
Sergey Penkovsky
32bca15069
Комплексное обновление проекта
...
- Добавлена документация по эмбеддингам (markdown + drawio)
- Реализован модуль PositionalEmbeddings
- Обновлен .gitignore
- Исправлено имя модуля token_embeddings.py
2025-07-18 00:25:55 +03:00
Sergey Penkovsky
87a38e06c4
Переименовал token_embedings.py → token_embeddings.py (исправление опечатки)
2025-07-18 00:17:37 +03:00
Sergey Penkovsky
6d746a960e
feat: implement encode/decode methods
2025-07-12 11:48:34 +03:00
Sergey Penkovsky
362a7483e6
feat: implement bpe algorithm
2025-07-11 12:21:33 +03:00
