Напоминаем, что завтра третьей парой состоится дополнительный семинар, и свои пожелания по поводу тем можете оставлять в этой форме.

https://docs.google.com/forms/d/e/1FAIpQLSdb--V6GudD6WYDfe1Vy6rTw3HdEvNpHkrmPIcIdp5N2yQ6GA/viewform

Встречаемся в R401, 12:10. Речь пойдёт не про диплёрнинг :) Но оставлю в конце время, чтобы обсудить ваши вопросы.

Если вдруг у вас есть час свободного времени и желание вспомнить математику, то у меня есть просьба :) Мы скоро запускаем онлайн-магистратуру по Data Science, и рассчитываем на абитуриентов с любым бекграундом. Поэтому на вступительных экзаменах мы можем проверять математическое мышление только с помощью школьной математики. Буду очень признателен, если сможете посмотреть на тестовый вариант экзамена и дать фидбек. Если ещё и получится прорешать и дать ответы — совсем круто.
Вариант и форма для ответов здесь: https://forms.gle/HFB4y2UxFHEG19hBA

На гитхабе выложено третье домашнее задание.

Мягкий дедлайн: 4 ноября, 03:59
Жёсткий дедлайн: 6 ноября, 23:59

https://github.com/hse-ds/iad-deep-learning/blob/master/hw3/hw3.ipynb

На ближайшем семинаре проверочной не будет.

Завтра в 12:10 в комнате N204 состоится дополнительный семинар. В этот раз Пётр Жижин расскажет о новых возможностях в tensorflow 2.0.

Напоминаем, что общие вопросы по курсу можете оставить в этой форме https://docs.google.com/forms/d/e/1FAIpQLSdb--V6GudD6WYDfe1Vy6rTw3HdEvNpHkrmPIcIdp5N2yQ6GA/viewform

На грядущем семинаре будет большая проверочная работа по свёрточным сетям. Повторите весь пройденный материал трёх прошлых семинаров.

Поскольку мы всё ещё сталкиваемся с техническими трудностями с подключением студентов к курсу How to Win a Data Science Competition, мы решили, что будет справедливо поменять формулу оценки. Больше прохождение этого курса не является обязательным, а вес 0.1, который при нём стоял, переехал в экзамен. Но всё ещё можно этот курс сдать на Coursera, за что мы поставим вам 10 бонусных баллов (их можно потом прибавить к оценкам за домашние задания или за проверочные). Поскольку с курсерой у нас всё тяжело, мы поставили дедлайн по завершению сдаче этого курса на 18 декабря. Сразу с утра 19 декабря мы начнём пытаться выгружать оттуда ваши оценки и ставить бонусы. Можно заканчивать сдавать и потом, но просто уже не обещаю, что тогда мы успеем результаты учесть.

Всё это продублировано на вики.

Ещё у нас в процессе разработки программа контрольной. Она пока сыровата, вопросы могут немного поменяться. Но для предварительного понимания уже можно посмотреть: https://docs.google.com/document/d/1wLuh7kdtz0kTVWhSwNPseQ5rX-6HCVN38GB3tfWZ7Ms/edit?usp=sharing
Готовиться к теории по этим вопросам, в принципе, уже можно.

На примеры задач пока не смотрите.

Предварительно контрольную планируем на 5 декабря.

На грядущем семинаре проверочной не будет. К семинару посмотрите как минимум пепвых три видео из week5. Советуем также внимательно изучить подборку материалов, посвящённых word2vec. На следующем после ближайшего семинаре будет проверочная, где мы обязательно спросим что-нибудь из вышесказанного.

Что почитать про эмбкддинги (возможно это поможет вам с кр):

Серия статей от крутого чела:

https://ruder.io/word-embeddings-1/index.html — в целом про алгоритм

https://ruder.io/word-embeddings-softmax/index.html — про ускорение и хаки эмбеддингов (must read!!), в том числе видео https://www.youtube.com/watch?v=B95LTf2rVWM


https://ruder.io/secret-word2vec/index.html — статья про гиперпараметры и про то как вообще лучше все это делать

Презентация с примером объяснения номер 1: https://github.com/yandexdataschool/nlp_course/blob/master/resources/slides/lecture1_word_embeddings.pdf

Объсянение номер 2: https://web.stanford.edu/~jurafsky/slp3/ed3book.pdf (Глава 6 — эмбеддинги в целом, про разные способы представления слов, пункт 6.8 про word2vec)

Всем добрый день! Тут коллеги из Яндекса предлагают провести для нас туториал по краудсорсингу. Мне кажется, это вполне интересно в рамках дополнительных занятий. Но есть нюанс, что это на 4 часа :) Но после контрольной, возможно, самое оно. Ниже анонс. Если интересно, регистрируйтесь. Можно приглашать друзей не с майнора.

—

Туториал по краудсорсингу от Яндекса — присоединяйтесь!
 
Это тот самый туториал, с которым команда Яндекс.Толоки ездила на ведущую конференцию по анализу данных KDD на Аляске, а затем выступала на конференции UseDataConf в Москве. Весь обучающий курс пройдёт на русском языке.
 
Когда: 5 декабря (четверг), 13:00–17:30 
Где: Покровский бульвар, 11
 
Сначала вы познакомитесь с теорией, а затем попробуете самостоятельно запустить проекты по сбору и разметке данных на реальных исполнителях.
 
Для тех, кто мало знаком с краудсорсингом, в частности с Толокой, это отличная возможность понять ценность работы с "краудом" и то, как можно применить ее в своих проектах. Мы поможем настроить процессы, а для их запуска у вас будет пополнен счёт тестового аккаунта.
 
Регистрируйтесь по ссылке  https://forms.yandex.ru/surveys/10015872/. Ждём вас!

Напоминаем, что на грядущем семинаре будет проверочная по темам RNN/Backpropagation through time и word2vec. Также мы проведём дополнительный семинар третьей парой, где разберём домашние задания и ответим на ваши вопросы. Полезные материалы по BPTT выложены в репозитории https://github.com/hse-ds/iad-deep-learning/blob/master/sem8/RNN.pdf

Дополнительный семинар пройдет в комнате R205.

Консультация перед кр состоится на доп. семинаре в четверг в 12:10 в аудитории R205. Наиболее горячие вопросы можете заранее оставить тут https://docs.google.com/forms/d/e/1FAIpQLSdb--V6GudD6WYDfe1Vy6rTw3HdEvNpHkrmPIcIdp5N2yQ6GA/viewform

Всем привет! Мы запустили для вас два контеста. Их решения пойдут в зачет как домашние работы. Если вы не знаете с чего начать, то советуем вам ознакомиться с материалами семинаров и построить свой первый пайплайн. Если вам что-то не понятно или не ясно, то не стесняйтесь задавать вопросы в чат курса. Да пребудет с вами сила.

Ссылки на контест:

https://www.kaggle.com/t/cd17a8ec4d56495c88c4bbcf4860d42c

https://www.kaggle.com/t/13092a660abc46eca1e9fe0f4455903e

P.S.
Оба контеста kernel-only, это означает, что будут оцениваться решения целиком написанные в kaggle kernels и работающие на мощностях самого kaggle.

Чтобы ваше решение оценили также надо иметь следующее имя на лидерборде:

Фамилия_Имя_ГруппаМайнора

Система оценивания контестов выглядит следующим образом. В соревновании существует несколько базовых решений (бейзлайнов). Ваша задача — сделать так, чтобы ваш результат был выше них. За преодоление определённого бейзлайна зачисляются баллы в зависимости от вашего места в лидерборде по следующей формуле. Если вы преодолели бейзлайн на Х баллов, но не преодолели бейзлайн на Х+2 балла, то вы заработали оценку

X + 2 * (X_i - i) / N

Где N — число студентов, преодолевших бейзлайн на Х баллов, но не преодолевших бейзлайн на Х+2 балла, i — ваше место в лидерборде, X_i — место в лидерборде студента, преодолевшего бейзлайн на Х баллов с наихудшим скором.