Efficient-Models-course-ITMO-2026

Предыдущие итерации курса

• ИТМО 2025
• ШАД 2026

Задания и оценивание

Задание	Описание	Выдаем	Сдаем	Баллы
ДЗ-1	Профилировка и расчет сверток	19.09.2026	26.09.2026	5
ДЗ-2	Воспроизводим и объясняем статьи	28.09.2026	10.10.2026	5
Проект	Групповой проект	28.09.2026	05.12.2026	10
ДЗ-3	Задания на Triton	10.10.2026	05.12.2026	10
Итого				30

Система оценок

Максимальный балл: 30.

Баллы	Оценка
18–20	Зачет
21–25	Хорошо
26–30	Отлично

Расписание курса

Каждое занятие длится полтора часа (1,5 ч).

• Лекции — по субботам, 09:50–11:20
• Практики — по понедельникам, 20:30–22:00

№	Формат	Дата	День / время	Название и описание
1	Лекция	19.09.2026	сб 09:50–11:20	Лекция: Мотивация к курсу и что такое вычислительная эффективность. От чего зависит эффективность работы моделей
2	Практика	21.09.2026	пн 20:30–22:00	Практика: Профилировка моделей с PyTorch Profiler
3	Лекция	26.09.2026	сб 09:50–11:20	Лекция: Аппаратное обеспечение и низкоуровневые решения. Введение в вычислительные устройства, как работают CPU и GPU память
4	Практика	28.09.2026	пн 20:30–22:00	Практика: Введение в Triton. Примеры программирования кернелей на Triton
5	Лекция	03.10.2026	сб 09:50–11:20	Лекция: Квантизация. Основные методы и подходы к квантизации
6	Практика	05.10.2026	пн 20:30–22:00	Практика: Реализация квантования с LSQ. Квантование с PyTorch на CPU
7	Практика	10.10.2026	сб 09:50–11:20	Triton + Quant
8	Лекция	12.10.2026	пн 20:30–22:00	Лекция / Практика: JIT and Compile в PyTorch 2.0. Погружение в JIT trace, JIT compile и Compile. Практика: работа с JIT, конвертация модели в ONNX. Ускорение модели с JIT и Compile
9	Лекция	17.10.2026	сб 09:50–11:20	Лекция: Прунинг и спарсификация. Обзор основных методов спарсификации моделей, мотивация почему это работает и какие типы спарсификации бывают
10	Практика	19.10.2026	пн 20:30–22:00	Практика: Структурный и неструктурный прунинг для VGG
11	Лекция	24.10.2026	сб 09:50–11:20	Лекция: Продвинутый прунинг — обучение и другое
12	Практика	26.10.2026	пн 20:30–22:00	Практика: Экстремальный прунинг
13	Лекция	31.10.2026	сб 09:50–11:20	Лекция: Автоматический поиск архитектур
14	Практика	02.11.2026	пн 20:30–22:00	Практика: Подбор гиперпараметров для моделей + TPE
15	Лекция	07.11.2026	сб 09:50–11:20	Лекция: Оптимизация обучения LLM
16	Лекция	09.11.2026	пн 20:30–22:00	Лекция: Дата-эффективность
17	Лекция	14.11.2026	сб 09:50–11:20	Лекция: Оптимизации инференса LLM
18	Практика	16.11.2026	пн 20:30–22:00	Лекция: Эффективные трансформеры
—	Защита	05.12.2026	сб 09:50–11:20	Защита проектов
—	Защита	07.12.2026	пн 20:30–22:00	Защита проектов
—	Защита	12.12.2026	сб 09:50–11:20	Защита проектов