Семинар научно-учебной лаборатории компании «Яндекс»
Многие знают про диффузионные модели и их основную проблему - долгую многошаговую генерацию. Есть разные направлений, которые адресуют скорость инференса таких моделей. Одно из наиболее популярных - дистиллировать многошагового учителя в малошагового студента.
На семинаре постараемся разобраться в разных семействах методов дистилляции диффузионных моделей и понять их преимущества и недостатки. В конце пообсуждать, куда можно двигаться дальше в этом направлении, расскажу про пару интересных наблюдений, и чем мы сейчас занимаемся по этой теме.
Докладчик: Дмитрий Баранчук, аспирант ФКН, исследователь Yandex Research.
25 марта 2024
Научно-учебная лаборатория компании «Яндекс»: cs.hse.ru/big-data/yandexlab/
ФКН: cs.hse.ru​​
Подписывайтесь на нас:
📍 cshse​​/
📍 t.me/fcs_hse
📍 dzen.ru/cshse