Темы занятий

Введение в ведение экспериментов

Темы:

• DVC
• mlflow & w&b
• pandas & polar
• optuna

Лектор/Семинарист: Anastasis Klowait

Датасеты, разметка, LLM frameworks

Данная тема посвящена основным вопросам, связанным с использованием готовых датасетов, сбором собственных данных, различными способами разметки и аугментации данных.

План:

• источники данных
• лицензирование данных
• сбор данных для датасетов
• организация данных в датасетах
• разметка данных
  • инструменты для краудсорсинга (Toloka, LabelStudio и т.д.)
  • особенности краудсорсинга (перекрытие, мера согласованности, инструкция)
  • создание собственных GUI
  • разметка с помощью LLMs

Лектор/Семинарист: Lida Ostyakova

Pytorch/ Lightning/ Pytorch + MLOps

План:

• Строить:
  • основные понятия Pytorch: тензоры, операции на тензорах; градиенты, автоматический расчет градиентов (Pytorch Autograd);
  • DataParallel в Pytorch, реализация FSDP (Fully Sharded Data Parallel) в Pytorch;
  • упрощение обучения моделей с помощью Pytorch Lightning: разбор стратегий и ускорителей (Trainer, Strategy, Accelerator);
  • упрощение подбора гиперпараметров с помощью Ray Tune: рассмотрение полного цикла проведения эксперимента (Trainable, Tuner, Scheduler, etc);
  • упрощение деплоя модели с помощью Ray Serve: основные понятия и сравнение с другими фреймворками (torchserve, Bento.ML, CometML);
• Ломать:
  • атаки на нейронные сети: one-pixel attack и аттаки с градиентами.

Лектор/Семинарист: Anastasiia Pokasova

Графовые фреймворки

Курс по графовым фреймворкам предлагает участникам изучить методы визуализации графов и популярные библиотеки для работы с графами. Кроме того, на курсе мы изучим графовые нейронные сети, их структуру и способы применения для решения различных задач. В результате курса участники получат навыки построения и работы с графовыми структурами, что позволит в будущем успешно использовать их в дальнейшей профессиональной деятельности.

Лектор/Семинарист: Daria Ledneva

DeepPavlov

wip

Диалоговые системы. Погружение в Dream

Диалоговые системы. (Виды, архитектуры, основные фреймворки. Построению диалоговой системы на Dream Builder)

Лектор/Семинарист: Dilyara Zharikova

Диалоговые системы. Погружение в DialogFlowFramework

Лектор/Семинарист: Denis Kuznetsov

Команда

• Anastasis Klowait - разработчик в DeepPavlov
• Lida Ostyakova - старший лаборант в DeepPavlov
• Anastasiia Pokasova - лаборант в DeepPavlov
• Daria Ledneva - лаборант в DeepPavlov
• Dilyara Zharikova - старший исследователь в DeepPavlov
• Denis Kuznetsov - исследователь в DeepPavlov, руководитель курса