Всем привет, на гитхабе появился конспект последней лекции и ДЗ-4, теоретическая часть. Теорчасть и практическая часть будут существенно меньше. Есть риск, что практическая отменится, так как расписание очень плотное под конец получилось и MCMC толком не поместится, но посмотрим.

Напоминаю, что на этой неделе занятия стоят 28.05 (это послезавтра!) 18:10-21:00 и в субботу 30.05 13:00-16:00.

Обратите внимание на время!

В четверг мы обсуждаем прямое уравнение Колмогорова, а в субботу будет большой доклад Дениса, про него позже.

Так как сейчас всем тяжело дойти до пар, больше приглашённых докладов скорее всего не будет, но думаю, менее интересно от этого не станет.

Заходите)

Сегодня пары

18:10-21:00 R207

30 мая, 13:00-16:00

Денис Ракитин, Bayes Lab

Диффузионные модели: построение и связанные с ними генеративные задачи

Диффузионные модели являются самой популярной на данный момент парадигмой генеративного моделирования. Их стабильная процедура обучения и сильная многошаговая процедура генерации позволяют получать высококачественные индивидуальные семплы и хорошо покрывать моды выучиваемого распределения. В рассказе мы познакомимся с современной математической формализацией диффузионных моделей: введем процесс постепенного зашумления данных и научимся обращать его по времени, получая таким образом процесс, генерирующий данные из чистого шума. Оба процесса будут заданы с помощью СДУ, а конструкция обратного процесса будет тесно связана с уравнением Фоккера-Планка (прямым уравнением Колмогорова), которое мы напомним и с которым поработаем в процессе. После построения обратного процесса в теории мы выведем практический алгоритм (Denosing Score Matching) обучения диффузионных моделей и семплирования из них после обучения.

В оставшееся время мы сделаем небольшой обзор фундаментальных задач, которые можно решать в диффузионной парадигме. Среди них будут генерация данных по ненормированной плотности и дообучение диффузионных моделей под заданную функцию награды, для которых мы прокинем мостик к прошлым темам курса и научимся считать КЛ-дивергенцию между распределениями двух СДУ с помощью теоремы Гирсанова.

Сегодня пары

13:00-16:00 R406

Всем привет!

Прикинув расписание, принял решение не делать 2ю часть ДЗ, поэтому ДЗ4 в выложенном варианте является финальным. Его можно сдать

до 14 июня 23:59 БЕЗ возможности сдавать позже,

чтобы мы всё проверили.

В субботу у нас состоится последняя содержательная лекция, где мы откроем методы МСМС, а потом будет техническая неделя. Если будет запрос, на ней можно будет прийти пообщаться либо устроить консультацию, дайте знать.

Добрый день!

Никак не дойду по науке привести в порядок гитхаб, поэтому закину пока сюда программу экзамена.

Кто не видел, из-за загруженной субботы в Вышке экзамен встал 29 июня, будут ещё досрочные слоты отдельно, про это позже.

Всем привет, пока небольшая дискуссия о будущем.

Год назад я спрашивал про стохастическое управление, пока что я склонен скорее через 1 год его организовать (в 2027 осенью или в 2028 в 3 модуле).

Меня отдельные люди спрашивают про него уже сейчас, поэтому если вы хотите и готовы уже сейчас, напишите мне лично @XuMuK_MK. Я сейчас пока медленно разбираю всю почту, но когда-то уже на выходных дойду, чтобы её доразбирать.

Для его освоения вам точно понадобится стоханализ, а также очень может если вы знакомы с вариационным исчислением и/или принципом максимума. Дифференциальные уравнения для технических моментов придётся доучить, а стохастические и диффузии нужно уметь. Есть небольшой момент с уравнениями в частных производных, но думаю, с этой разницей я как-то придумаю как быть.

Буду признателен, если поможете оценить спрос, буду исходить из этого.

Всем добрый день, расписание экзамена дополняется (возможно, ещё слоты появятся), но уже сейчас можно вписаться в том числе в досрочные.

Отметьтесь, пожалуйста, в любой зелёной ячейке или напишите в ЛС, если вы не планируете приходить.

https://docs.google.com/spreadsheets/d/1VDFzf7SIFiR8cxLDqeBoY0AxNVntDK-psohMiVRcXL4/edit?usp=sharing

Важно:

- Досрок требует найти аудиторию заранее, поэтому за 24 часа запись на досрочный слот может в теории закрыться, если логистика вдруг не сойдётся, но постараемся.

- Кроме того, возможны сдвиги, чтобы в расписании не было пустот.

- Основной день ещё пополнится, но если у вас вдруг нет экзамена в субботу или по каким-то причинам вам удобнее, обратите внимание туда.


ДЗ проверяются, планируем закончить до 23-25 июня, обсуждения по ДЗ возможны до финального выставления оценок (примерно 4 июля).

Добавился 1 день (пятница) и несколько слотов в понедельник. Если кому очень срочно, можете договориться и поменяться, не стесняйтесь общаться.

Субботу забронировали.

Пожалуйста, отметьтесь в таблице выше, если ещё нет. Около 10 человек не хватает.

Если у вас пересечения с другим экзаменом، которое вас не устраивает, то сообщите, что-то придумаем. Логистика сложная, но разберёмся.

Всем привет, запись на сегодняшнюю часть экзамена закрыта. Кто записался, подходить нужно ко мне в т920 (Покровка).

Произошла ошибка, я обсчитался, в понедельник слотов стало больше.

Можете перезаписаться, кому нужно

Также обратите внимание, что на завтра произошёл сдвиг на более раннее время, расписание фиксировано.

Начало в 12:00, аудитория D506.

+7мин, логистика

Вдруг кто из наших забыл, оставил где нашёл

Доброе утро!

Какие-то отдельные ДЗ ещё остались, но мы близки к концу проверки. Срок обсуждения до 4 июля 23:59, после этого оценки становятся финальными и идут в официальные ведомости.

Напоминаю, что экзамен в R208.

Кто сегодня сдаёт, тем успеха)

Экзамен в R208, в рузе что-то поменялось

Экзамен переезжает (опять) в S224

Добрый вечер всем!

Оценки доступны в ведомости, после 4 июля 23:59 они станут финальными и будут выставлены в зачётку. Если есть вопросы по оцениванию, успевайте спросить.

Всем спасибо за ещё один год случайных процессов и стоханализа. Каждый такой год разный и по-своему интересный. Мы коллективом стараемся сделать всё интересно и местами предложить челлендж, и эта традиция точно останется в будущем, хотя технически что-то будет меняться.

И возможно, мы увидим продолжения курсов и развития этого необычного сообщества.

Всем хорошего лета)