Курс "Глубинное обучение (ГО) 1 / Введение в ГО" на ФКН ВШЭ

Версии курса прошлых лет

• 2021-2022
• 2022-2023
• 2023-2024

Полезные ссылки

• Вики-страничка
• Таблица с оценками
• Плейлист с записями занятий

Лекции

Глоссарий с терминами.

1. Метод обратного распространения ошибки, полносвязные нейронные сети: доска
2. Кросс-энтропийная функция потерь, Dropout, Batch Normalization: доска
3. Оптимизация нейронных сетей: доска
4. Операция свертки: доска
5. Сверточные архитектуры: слайды
6. Задачи компьютерного зрения: слайды
7. Токенизация, эмбеддинги, TextCNN: слайды
8. Рекуррентные нейронные сети: доска
9. Архитектура трансформера: доска

Семинары

1. Введение в библиотеку PyTorch. Автоматическое дифференцирование: TBD
2. Полносвязные нейронные сети. Общая схема пайплайна обучения на PyTorch: TBD
3. Операция свертки: TBD
4. Сверточные архитектуры: TBD
5. Семантическая сегментация и детекция: TBD
6. Word2Vec, TextCNN: TBD
7. Language models, image captioning: TBD
8. Архитектура трансформера: TBD

Маленькие домашние задания

1. Автоматическое дифференцирование и полносвязные нейронные сети: ссылка
2. Сверточный классификатор: ссылка

Теоретические домашние задания

Теоретические ДЗ не сдаются и предлагаются студентам для самостоятельного решения и ознакомления

1. Полносвязные нейронные сети: ссылка
2. Сверточные нейронные сети: ссылка