В лабораторной получилось много теории, но модели стационарных временных рядов это важно https://youtu.be/KJcDFmBKcMg
YouTube
Лабораторная работа: введение в ML, временные ряды (часть 2)
Практическое занятие по статистике временных рядов. Рассмотрены модели стационарных временных рядов: белый шум, скользящее среднее, авторегрессия, линейные процессы и ARIMA. Показана модель случайного блуждания с дрифтом.
ipynb: https://gist.github.com/…
ipynb: https://gist.github.com/…
Открытая книга по SQL. Наверное это даже больше справочник с примерами кода и удобной навигацией https://goalkicker.com/SQLBook/
Goalkicker
Free SQL Database Book
Getting started with SQL, Identifier, Data Types, NULL, Example Databases and Tables, SELECT, GROUP BY, ORDER BY, AND & OR Operators, CASE, LIKE operator, IN clause, Filter results using WHERE and HAVING, SKIP TAKE (Pagination), EXCEPT, EXPLAIN and DESCRIBE…
👍3
Видео записано два года назад. В нём есть всё: как сделать NLP классификатор за 1 час, pytorch lightning и huggingface. Наверное, сейчас это можно сделать ещё проще, но смотрится на одном дыхании https://www.youtube.com/watch?v=G3pOvrKkFuk
YouTube
[Code] PyTorch sentiment classifier from scratch with Huggingface NLP Library (Full Tutorial)
Huggingface released its newest library called NLP, which gives you easy access to almost any NLP dataset and metric in one convenient interface. We will combine this with a BERT model from Huggingface's Transformers library to build a sentiment classifier…
Хороший обзор текущего прогресса в области рекомендательных систем от техлида FB AI. Доклад на 30 минут и в нём рассмотрены RecSys архитектуры, подходы к оптимизации, распределённое обучение и вывод на конечных устройствах. Ещё немного про экологию и приватность, но это дань сегодняшнему дню. Как отмечает докладчик, по рекомендательным системам сравнительно мало исследований, так что есть поле для нового )
https://www.youtube.com/watch?v=5xcd0V9m6Xs
https://www.youtube.com/watch?v=5xcd0V9m6Xs
YouTube
Deep Recommender Systems at Facebook feat. Carole-Jean Wu | Stanford MLSys Seminar Episode 24
Episode 24 of the Stanford MLSys Seminar Series!
Designing AI systems for deep learning recommendation and beyond
Speaker: Carole-Jean Wu
Abstract:
The past decade has witnessed a 300,000 times increase in the amount of compute for AI. The latest natural…
Designing AI systems for deep learning recommendation and beyond
Speaker: Carole-Jean Wu
Abstract:
The past decade has witnessed a 300,000 times increase in the amount of compute for AI. The latest natural…
Сегодня было моделирование и прогнозирование на реальных данных, посмотрели несколько подходов, разобрали частную автокорреляцию и методы оценки качества моделей https://youtu.be/7b-cETOV9ZM
YouTube
Введение в ML, временные ряды (часть 3)
Практическое занятие по моделированию временных рядов на реальных данных. Рассмотрены примеры авторегрессии, скользящего среднего, ARIMA, SARIMA. Показаны инструменты автокорреляции и частной автокорреляции для определения параметров моделей.
ipynb: htt…
ipynb: htt…
Новости про ML можно смотреть весело и быстро. Чувствуется большой сдвиг в сторону NLP, но всё-таки там много полезного https://www.youtube.com/watch?v=smUHQndcmOY
YouTube
[ML News] DeepMind's Flamingo Image-Text model | Locked-Image Tuning | Jurassic X & MRKL
#flamingo #mlnews #tech
Your updates directly from the state of the art in Machine Learning!
OUTLINE:
0:00 - Intro
0:30 - DeepMind's Flamingo: Unified Vision-Language Model
8:25 - LiT: Locked Image Tuning
10:20 - Jurassic X & MRKL Systems
15:05 - Helpful…
Your updates directly from the state of the art in Machine Learning!
OUTLINE:
0:00 - Intro
0:30 - DeepMind's Flamingo: Unified Vision-Language Model
8:25 - LiT: Locked Image Tuning
10:20 - Jurassic X & MRKL Systems
15:05 - Helpful…
C SARIMA мы вроде немного разобрались. А что если нейронные сети и как они прогнозируют? Сегодня мы попробовали ответить на этот вопрос на примере стоимости акций GOOG https://youtu.be/9Pq7DUGhnVk
YouTube
Введение в ML, временные ряды (часть 4)
Практическое занятие по моделированию временных рядов с помощью нейронных сетей: MLP, RNN (LSTM). В качестве примера построена модель прогнозирования стоимости акций GOOG.
ipynb: https://gist.github.com/jamm1985/f006396fabcf19b747318ed57a03b1d3
Содержание:…
ipynb: https://gist.github.com/jamm1985/f006396fabcf19b747318ed57a03b1d3
Содержание:…
StatQuest это уникальный канал который просто для понимания повествует о статистике и ML. Каждая тема сопровождается подробным разбором примеров с числами, так что даже без английского всё понятно. Некоторые критикуют канал за излишнюю простототу, но, на мой взгял, всё в голове не удержишь и каждый там сможет найти полезное для себя. Проблема в том, что видео много и не всё четко организовано по темам. Но недавно все записи были структурированы вот здесь. Начать можно с RF, AdaBoost, Gradient Boost и XGDBoost (правый блок на карте). Наверное, это часть канала одна из самых лучших.
👍3❤1
А у нашего Янника бомбическое видео! Автор написал чат-бота. За основу он взял модель GPT-j и дообучил её на корпусе "politics incorrect" с платформы 4chan. Это датасэт содержит данные постов в течение 3,5 трех лет с одноименной доски 4chan (типа помойки на все темы подряд, включая конспирологию). Удивительно, но производительность дообученной модели получилась существенно лучше по показателю "TruthfullQA" по сравнению с базовой GPT-j и GTP-3. То есть, модель Янника лучше даёт "правидивые" ответы для людей. Затем он запустил бота на 4chan и было очень весело. Бот генерировал огромное количество сообщений через прокси на Сейшелах, а пользователи гадали кто это, какая то секретная структура или всё-таки бот. Очень много юмора, особенно про способ обойти сложную каптчу https://www.youtube.com/watch?v=efPrtcLdcdM
YouTube
GPT-4chan: This is the worst AI ever
#gpt4chan #4chan #ai
GPT-4chan was trained on over 3 years of posts from 4chan's "politically incorrect" (/pol/) board.
(and no, this is not GPT-4)
EXTRA VIDEO HERE: https://www.youtube.com/watch?v=dQw4w9WgXcQ
Website (try the model here): https://gpt…
GPT-4chan was trained on over 3 years of posts from 4chan's "politically incorrect" (/pol/) board.
(and no, this is not GPT-4)
EXTRA VIDEO HERE: https://www.youtube.com/watch?v=dQw4w9WgXcQ
Website (try the model here): https://gpt…
Хороший канал про DevOps. Уровень начальный. Однако, там есть главное - автор рассказывает об основных приципах работы docker и kubernetes с точки зрения процесса разработки, а детали и более сложные вещи уже можно взять из документации. Видео про докер почти три часа ) зато всё в одном месте.
https://www.youtube.com/c/TechWorldwithNana
https://www.youtube.com/c/TechWorldwithNana
В общем, не нужно игнорировать отдых в повседневной работе https://xakep.ru/2022/06/14/lamda/
XAKEP
Google отправила инженера в оплачиваемый отпуск, когда тот заявил, что ИИ компании обрел сознание
Блейк Лемуан, старший инженер-программист компании Google из подразделения Responsible AI («Ответственный ИИ»), рассказал журналистам The Washington Post, что, по его мнению, чат-бот Google LaMDA (Language Model for Dialogue Applications) обрел сознание.…
Простая и содержательная заметка про тестирование производительности рекомендательных систем https://neptune.ai/blog/how-to-test-recommender-system
OpenAI
OpenAI to acquire Neptune
OpenAI is acquiring Neptune to deepen visibility into model behavior and strengthen the tools researchers use to track experiments and monitor training.
Классный гайд про то как уменьшить размер датафрейма в памяти https://courses.cs.ut.ee/LTAT.02.002/2021_fall/uploads/Main/reducing_memory_usage.html
Forwarded from Machine Learning Research (Alf162)
Яндекс выложил YaLM 100B — сейчас это крупнейшая GPT-подобная нейросеть в свободном доступе. Вот как удалось её обучить
https://habr.com/ru/company/yandex/blog/672396/
https://habr.com/ru/company/yandex/blog/672396/
Если вы интересуетесь рангкингом в системах с неявным откликом (клики пользователей), то вам определённо стоит посмотреть четырех часовую (!) лекцию от Университета Амстердама. Это всеобъемлющий матрериал из которого становится понятно почему неявный отклик является зашумлённым и смещённым относительно истинной релевантности. А также методы которые позволяют получить несмещённые оценки релевантности. Есть и теорвер и симуляция и реальные примеры https://www.youtube.com/watch?v=BEEfMrn9T9c
YouTube
Unbiased Learning to Rank: Counterfactual and Online Approaches - The Web Conference 2020 Tutorial
This tutorial video was made for the Web Conference 2020. Originally it would have been presented in Taipei, Taiwan, but due to the COVID-19 pandemic it was recorded remotely.
Slides and more info on our website: https://ilps.github.io/webconf2020-tutorial…
Slides and more info on our website: https://ilps.github.io/webconf2020-tutorial…
🤔1
Cloudflare знает как добыть истинную случайность в безопасном варианте https://habr.com/ru/company/selectel/blog/675188/
Хабр
Случайность на страже криптографии: как Cloudflare использует лава-лампы, маятники и распад урана для шифрования трафика
Траектория движения элементов хаотического маятника — повторений нет Случайные числа играют важнейшую роль в криптографии. Например, алгоритмы формирования электронно-цифровых подписей используют...
Умеют же люди за 15 минут по полочкам разложить почему RBF kernel это дот продакт в бесконечной размерности https://www.youtube.com/watch?v=Qc5IyLW_hns
YouTube
Support Vector Machines Part 3: The Radial (RBF) Kernel (Part 3 of 3)
Support Vector Machines use kernel functions to do all the hard work and this StatQuest dives deep into one of the most popular: The Radial (RBF) Kernel. We talk about the parameter values, how they calculate high-dimensional coordinates and then we'll figure…
Отличное введение в пробелему на «пальцах». И, что более ценно, подборка оригинальных работ в конце статьи https://habr.com/ru/post/593315/
Хабр
Самоуверенные нейросети
Современные нейронные сети достигли уже столь выдающихся результатов качества предсказаний, что компании начали встраивать их в свои процессы принятия решений. ИИ сегодня водит автомобили,...
👍2
От факторизации матриц до бандитов и RL в рекомендациях с высоты птичьего полёта от техлида netflix: https://www.youtube.com/watch?v=IByC2keY3vo
YouTube
Trends in Recommendation & Personalization at Netflix
In this session (https://scl.ai/3EuVRw1), Justin Basilico discusses recent trends in personalization and the challenges of applying machine learning to recommendation systems to create better user experiences.
Executive Summary: Netflix Explains Recommendations…
Executive Summary: Netflix Explains Recommendations…