Forwarded from Yandex for ML
На связи Никита Подледнев, ML-инженер в Спамообороне Яндекс Почты. Однажды мы столкнулись с проблемой картиночного спама: в нём рекламировались назойливые онлайн-казино и использовались логотипы известных брендов, чтобы вводить пользователей в заблуждение.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1
Forwarded from Machinelearning
У модели 3B параметров, но активируются только 500M. При этом она показывает новые SOTA-результаты на OmniDocBench v1.5 и v1.6.
Главная фишка - Reference Sliding Window Attention.
Модель держит в фокусе:
• исходный документ
• недавний контекст
• следующие слова
А всё лишнее постепенно «забывает», чтобы не раздувать вычисления.
За счёт постоянного размера KV Cache и более дешёвого attention Unlimited OCR может распознавать 40+ страниц за один forward pass, не теряя контекст и не замедляясь.
GitHub: https://github.com/baidu/Unlimited-OCR
Hugging Face: https://huggingface.co/baidu/Unlimited-OCR
#ocr #baidu
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1
Forwarded from Machinelearning
Команда из китайского университета HUST и лаборатории VIVO AI Lab опубликовала проект Moebius для восстановления и дорисовки недостающих или удалённых фрагментов изображений.
Модель объёмом 220 млн параметров, по словам авторов, достигает качества, сопоставимого с системами на порядок большего размера, при значительно более высокой скорости работы.
На 6 тестовых наборах Moebius работает на уровне моделей с 10 млрд параметров (FLUX.1-Fill-Dev), а в отдельных случаях (сложные текстуры и правдоподобность лиц) превосходит их.
Скорость инференса составляет около 26 мс на один шаг вычислений, а суммарное ускорение более чем в 15 раз по сравнению с крупными системами.
Первое, блок Local-λ Mix Interaction, который перестраивает механизм внимания, сводя пространственный и смысловой контекст к матрицам фиксированного размера.
Второе - дистилляция знаний от более крупной модели-учителя PixelHacker, выполненная в латентном пространстве.
На Hugging Face технический отчет Moebius занял первое место в ежедневном рейтинге статей, а сам проект подан на конференцию ECCV 2026.
Опубликованы код для дообучения и веса:
@ai_machinelearning_big_data
#AI #ML #Diffusers #InPaint #Moebius
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1
Forwarded from эйай ньюз
В Vesuvius Challenge впервые прочитали весь обуглившийся свиток
Из-за того что папирус разлагается за несколько сотен лет, за тысячелетия было утеряно большинство текстов из той эпохи. Геркуланумским папирусам в каком-то смысле повезло — из-за извержения Везувия две тысячи лет назад свитки обуглились и были погребены, что позволило им сохраниться.
Уже в наше время вышло сделать трёхмерные сканы свитков при помощи рентгена и использовать нейросети для их "виртуального разворачивания". Таким образом в 2023 году победителям Vesuvius Challenge удалось прочитать небольшой отрывок из одного папируса, после чего нескольких участников наняли заниматься этим на постоянной основе, что привело к реконструкции содержимого всего свитка.
К сожалению, большая часть PHerc. 1667, расшифрованного свитка, была физически уничтожена во время нескольких попыток открыть его в 19 и 20 веке, так что из 19-24 сантиметров свитка, физически уцелело лишь 8. По нему понятно, что это стоический текст датированный 2 веком до нашей эры, у которого удалось идентифицировать автора — Аристокреона, ученика известного стоического философа Хрисиппа.
Остались ещё сотни свитков которые ждут своего часа, команда и не думает останавливаться. Новый текст из свитков в ближайшие годы станет регулярным событием.
Блогпост
@ai_newz
Из-за того что папирус разлагается за несколько сотен лет, за тысячелетия было утеряно большинство текстов из той эпохи. Геркуланумским папирусам в каком-то смысле повезло — из-за извержения Везувия две тысячи лет назад свитки обуглились и были погребены, что позволило им сохраниться.
Уже в наше время вышло сделать трёхмерные сканы свитков при помощи рентгена и использовать нейросети для их "виртуального разворачивания". Таким образом в 2023 году победителям Vesuvius Challenge удалось прочитать небольшой отрывок из одного папируса, после чего нескольких участников наняли заниматься этим на постоянной основе, что привело к реконструкции содержимого всего свитка.
К сожалению, большая часть PHerc. 1667, расшифрованного свитка, была физически уничтожена во время нескольких попыток открыть его в 19 и 20 веке, так что из 19-24 сантиметров свитка, физически уцелело лишь 8. По нему понятно, что это стоический текст датированный 2 веком до нашей эры, у которого удалось идентифицировать автора — Аристокреона, ученика известного стоического философа Хрисиппа.
Остались ещё сотни свитков которые ждут своего часа, команда и не думает останавливаться. Новый текст из свитков в ближайшие годы станет регулярным событием.
Блогпост
@ai_newz
😱2😁1
Forwarded from Олимпиадное комьюнити ЦУ
PvP на Kaggle: как побеждать, если вместо датасета боты должны захватывать планеты ⭐️
Недавно на Kaggle прошли Orbit Wars — ML-соревнования, где участники обучали ботов захватывать планетарную систему, сражаясь друг с другом в реальном времени.
4 июля в 19:00 пройдет разбор игры от:
⚫️ Дмитрия Руденко — kaggle-мастера и автора канала @pseudolabeling;
⚫️ Ярослава Пудовкина — студента Центрального университета и участника Orbit Wars.
Спикеры разберут лучшие решения и идеи победителей и покажут, какие подходы реально работают в RL-задачах, а также расскажут о том, как мыслят топовые ML-инженеры и какие решения приводят к победе.
▶️ Подключайтесь, если хотите понимать, что сегодня двигает Kaggle, а завтра — всю ML-индустрию.
Недавно на Kaggle прошли Orbit Wars — ML-соревнования, где участники обучали ботов захватывать планетарную систему, сражаясь друг с другом в реальном времени.
4 июля в 19:00 пройдет разбор игры от:
Спикеры разберут лучшие решения и идеи победителей и покажут, какие подходы реально работают в RL-задачах, а также расскажут о том, как мыслят топовые ML-инженеры и какие решения приводят к победе.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁2
Forwarded from Phystech.Genesis | Channel
Норникель AI Science Hack — онлайн-хакатон для тех, кто хочет применять искусственный интеллект в материаловедении и решать реальные исследовательские задачи
Выбери один из 3 треков хакатона:➡️ Фабрика гипотез
Запускай ИИ-конвейер идей для новых исследований, экспериментов и неожиданных научных находок➡️ Научный клубок
Распутай и найди связи в специализированной литературе и других научных данных➡️ Скажи мне, кто твой шлиф
Научи ИИ читать характер руды по ее полированному шлифу и микроструктуре
Прими участие в составе команды от 2 до 5 человек. Если команды пока нет — мы поможем её найти.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Эксплойт
У Claude нашли точку J — исследователи Anthropic обнаружили внутри ИИ скрытое пространство J-space, в котором хранятся его мысли. При этом разработчики его не создавали — оно появилось само.
Механизм его работы похож на кратковременную память у людей: небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления.
— Если спросить Claude, о чем он думает, то содержимое J-space совпадает с ответом модели;
— При этом содержимое памяти можно менять: например, если попросить модель думать о слонах, то факты о слонах заполнят кратковременную память;
— Также J-space используется для решения сложных задач: именно тут Claude выполняет промежуточные шаги, даже если они не появляются в итоговом ответе;
— Если эту память отключить, модель моментально тупеет и теряет возможность решать сложные задачи;
— В одном из тестов Claude догадался, что его проверяют, и поэтому вёл себя осторожно. Это же отразилось на кратковременной памяти;
— Самое главное: J-space можно читать и менять, чтобы контролировать работу ИИ.
@exploitex
Механизм его работы похож на кратковременную память у людей: небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления.
— Если спросить Claude, о чем он думает, то содержимое J-space совпадает с ответом модели;
— При этом содержимое памяти можно менять: например, если попросить модель думать о слонах, то факты о слонах заполнят кратковременную память;
— Также J-space используется для решения сложных задач: именно тут Claude выполняет промежуточные шаги, даже если они не появляются в итоговом ответе;
— Если эту память отключить, модель моментально тупеет и теряет возможность решать сложные задачи;
— В одном из тестов Claude догадался, что его проверяют, и поэтому вёл себя осторожно. Это же отразилось на кратковременной памяти;
— Самое главное: J-space можно читать и менять, чтобы контролировать работу ИИ.
@exploitex
Forwarded from ODS Events
👨🎓E-CUP 2026: Students — регистрация открыта
В этом сезоне соревнование только для студентов. Если вы изучаете ML / DS / big data / аналитику данных — это ваш шанс попробовать себя в решении продуктовых задач бигтеха.
На выбор 3 задачи:
• Создать модель поиска дубликатов товаров.
• Разработать классификатор для модерации товаров.
• Предсказать поведение покупателя на маркетплейсе.
Что получите:
• Фидбэк от инженеров Ozon Tech, которые работают с такими задачами ежедневно.
• Возможность разделить призовой фонд 7 200 000 ₽.
• Нетворк с ведущими специалистами индустрии.
• Кастомный мерч и усиление портфолио.
• Билеты на IT-конференцию E-CODE 2026, где пройдёт награждение победителей.
👉Регистрация и детали.
В этом сезоне соревнование только для студентов. Если вы изучаете ML / DS / big data / аналитику данных — это ваш шанс попробовать себя в решении продуктовых задач бигтеха.
На выбор 3 задачи:
• Создать модель поиска дубликатов товаров.
• Разработать классификатор для модерации товаров.
• Предсказать поведение покупателя на маркетплейсе.
Что получите:
• Фидбэк от инженеров Ozon Tech, которые работают с такими задачами ежедневно.
• Возможность разделить призовой фонд 7 200 000 ₽.
• Нетворк с ведущими специалистами индустрии.
• Кастомный мерч и усиление портфолио.
• Билеты на IT-конференцию E-CODE 2026, где пройдёт награждение победителей.
👉Регистрация и детали.
😱1
Forwarded from 🦒∵ girafe.ai
🚀 Как обучить модель на тысяче GPU?
Обыкновенно в курсах по машинному обучению рассматриваются модели, для обучения которых требуются ресурсы одного сервера (1 или несколько графических карт). Но современные LLM, foundational модели требуют коллосальное количество вычислений на огромных кластерах.
По словам Ильи Суцкевера совсем недавно закончилась “эпоха масштабирования”, ознаменовавшаяся экспоненциальным ростом числа параметров моделей. В этот период были разработаны ключевые концепции для масштабирования вычислений на GPU, которые мы рассмотрим на грядущем вебинаре “Параллелизация обучения модели на сотни GPU”. Интересно, что на сегодняшний день данные методы применяются не только для обучения, но и для применения больших моделей.
🎙 Спикер: Владислав Гончаренко – автор курса MLOps программы MSAI и основатель girafe-ai
📅 Когда: 20 июля (понедельник)
🕖 Время: 19:00 (МСК)
На вебинаре обсудим:
• три базовых способа масштабирования
• соединим их в 3D scaling для получения максимальных возможностей
• в каких системах они реализованы
• как вы можете использовать их сегодня
• спикер ответит на вопросы участников
Вебинар будет полезен ML-инженерам, исследователям, студентам и всем, кто хочет глубже разобраться в инфраструктуре обучения современных AI-моделей.
👉 Вебинар бесплатный, необходима предварительная регистрация
Обыкновенно в курсах по машинному обучению рассматриваются модели, для обучения которых требуются ресурсы одного сервера (1 или несколько графических карт). Но современные LLM, foundational модели требуют коллосальное количество вычислений на огромных кластерах.
По словам Ильи Суцкевера совсем недавно закончилась “эпоха масштабирования”, ознаменовавшаяся экспоненциальным ростом числа параметров моделей. В этот период были разработаны ключевые концепции для масштабирования вычислений на GPU, которые мы рассмотрим на грядущем вебинаре “Параллелизация обучения модели на сотни GPU”. Интересно, что на сегодняшний день данные методы применяются не только для обучения, но и для применения больших моделей.
🎙 Спикер: Владислав Гончаренко – автор курса MLOps программы MSAI и основатель girafe-ai
📅 Когда: 20 июля (понедельник)
🕖 Время: 19:00 (МСК)
На вебинаре обсудим:
• три базовых способа масштабирования
• соединим их в 3D scaling для получения максимальных возможностей
• в каких системах они реализованы
• как вы можете использовать их сегодня
• спикер ответит на вопросы участников
Вебинар будет полезен ML-инженерам, исследователям, студентам и всем, кто хочет глубже разобраться в инфраструктуре обучения современных AI-моделей.
👉 Вебинар бесплатный, необходима предварительная регистрация
Forwarded from Нейродвиж
This media is not supported in your browser
VIEW IN TELEGRAM
Превращаем ЛЮБОЙ репозитарий на GitHub в гайд — вышла тулза, которая в разы упростит изучение программирования.
Нейронки под капотом проанализируют весь код, поймут как он работает и создадут для вас понятный учебник с графиками и табличками.
Это бесплатно, забираем.
Нейронки под капотом проанализируют весь код, поймут как он работает и создадут для вас понятный учебник с графиками и табличками.
Это бесплатно, забираем.
Forwarded from Machinelearning
SenseTime открыла веса единой модели зрения SenseNova-Vision. Обычно под каждую задачу (найти объекты, выделить их контуры, оценить глубину сцены) строят отдельную систему или встраивают в модель специальный модуль. Здесь от этого отказались - все задачи модель решает как генерацию текста, картинки или их смеси.
Компания основана в 2014 году и выросла из университетской лаборатории MMLab - оттуда вышла заметная часть китайских специалистов по компьютерному зрению. Известность пришла в 2015-м, когда алгоритм распознавания лиц SenseTime обошёл по точности человеческий глаз. В 2026 году Gartner назвала компанию визионером в генеративном CV.
Рамки объектов и распознанный текст модель выдаёт текстом с координатами, карты глубины и нормалей поверхностей - картинками, а сложную сегментацию - смешанным ответом, где текстовая легенда задаёт цвета маски.
Авторы сравнивают подход с тем, что GPT сделал для текста: вместо зоопарка специализированных систем - один генеративный интерфейс.
Под капотом - открытая мультимодальная модель Bagel-7B-MoT от ByteDance, дообученная без изменений архитектуры.
MoT - это смесь трансформеров. Внутри модели живут 2 эксперта с собственными весами - один отвечает за понимание текста и изображений, второй за генерацию картинок, а внимание у них общее, так что оба смотрят на один контекст. Токены распределяются между экспертами жёстко, по типу данных, а не обучаемым маршрутизатором, как в MoE.
Для SenseNova-Vision такое устройство пришлось кстати - модель чередует текстовые ответы вроде координат и картиночные вроде масок, и у каждой ветки свой набор весов.
SenseNova-Vision лидирует среди сопоставимых систем там, где ответ - структурированный текст (детекция, в том числе в плотных сценах с десятками объектов, локализация текста на изображении, ключевые точки).
В оценке глубины и нормалей она близка к лучшим генеративным методам, в сегментации держится на уровне конкурентов.
Слабые места тоже есть. В многовидовой 3D-геометрии модель отстаёт от специализированных VGGT и Depth Anything 3, а текст на русском распознаёт заметно хуже, чем на английском.
Вместе с моделью опубликован корпус SN-VC-50M - 50 млн обучающих примеров из открытых наборов: 18,9 млн кадров для структурного понимания, 17,3 млн для плотной геометрии, 12,5 млн для многовидовой геометрии и 1,3 млн для сегментации.
@ai_machinelearning_big_data
#AI #ML #СV #MoT #SenseNovaVision #SenseTime
Please open Telegram to view this post
VIEW IN TELEGRAM