Computer Vision News
312 subscribers
423 photos
104 videos
2 files
400 links
Download Telegram
Forwarded from эйай ньюз
А вот и подоспел новый образовательный контент от Карпатого после его ухода из OpenAI. #ликбез

Андрей написал минимальную имплементацию Byte Pair Encoding (BPE) токенайзера, который широко используется в современных LLM, в том числе и в GPT-4.

Токенайзер - это алгоритм, который преобразует текст в последовательность токенов (целых чисел), перед тем, как его скормить в LLM.

Идея BPE очень простая:
1️⃣ Берем Unicode строку и представляем ее в виде последовательности байтов. - Изначально каждый байт - это отдельный токен, их всего 256 уникальных.
2️⃣ Затем находим наиболее частую пару соседних токенов и заменяем её на новый токен с номером (256 + i) → пример на скрине.
3️⃣ Повторяем это дело K раз. В итоге имеем словарь на 256 + K токенов, которые сжимают оригинальную последовательность байтов в более короткую последовательность токенов, закодированных номерами.


Видео лекция про BPE у Карпатого уже в производстве, он обещал скоро ей поделиться!

А пока можете посмотреть разбор BPE (пост+видео) из NLP курса на HuggingFace: ссылка.

@ai_newz
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Институт AIRI
До следующего #AIRIseminars осталось меньше недели, значит, пришло время рассказать все подробности📌

⚫Дата и время: 28 февраля в 17:00 офлайн на Арме и онлайн YouTube-канале AIRI

⚫Докладчик: Айбек Аланов, AIRI, ВШЭ

⚫Оппонент: Григорий Бартош, University of Amsterdam

⚫Исследователи обсудят тему редактирования изображений с помощью диффузионных моделей

Все подробности и регистрация на сайте, до встречи! 💡
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Data Secrets
Сейчас будет полезная полезность

В интернете существует замечательный сайт NeetCode. Он идеален для подготовки к собеседованиям и в целом для развития. Здесь ссылки на задачи редиректят вас на функционал LeetCode, НО все отсортировано по темам и в правильном порядке изучения. Создатель составлял подборки на основе опыта интервью в FAANG.

К чему мы это все? Недавно там появилась вкладка Machine Learning! Это задачи на реализацию занимательных алгоритмов с нуля. Подойдет для всех уровней подготовки: задачи отсортированы по Easy, Mediums и Hard. Автоматическая проверка и подсказки в комплекте.

Ну где такое еще увидишь? Однозначно, рекомендуем.
Forwarded from RuCode Festival
Ты, наверное, уже знаешь, но мы просто не можем остаться в стороне от этой новости 🧠

Российские исследователи разработали демонстрационный образец рекордно быстрого аналогового фотонного процессора. Он использует частицы света для распознавания объектов со скоростью обработки информации в 662 терабайта в секунду. Это в сотни раз быстрее современных цифровых нейросетей на основе традиционных полупроводниковых компьютеров 😵

В данном эксперименте машина распознала рукописные цифры с точностью в 93,75% и с супервысокой скоростью.

Достижение особенно важно для оперативного анализа гиперспектральных данных, представляющих собой очень  объемнык массивы информации.

Аналоговые процессоры — это вычислительные машины, которые хранят числовые данные в виде аналоговых физических параметров и пользуются законами природы для обработки информации. Как правило, аналоговые процессоры способны решать только одну или очень небольшое число задач, но при этом они делают это на порядки быстрее универсальных цифровых процессоров.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from эйай ньюз
🔥PIXART-Σ:
Weak-to-Strong Training of Diffusion Transformer for 4K Text-to-Image Generation


Китайцы из Huawei опубликовали новую text2image модель, которая может генерить картинки в 4к! Результаты выглядят очень достойно.

Архитектура основана на DiT (как и у Stable Diffusion 3), но с модифицированным аттеншеном. Кажется, теперь все новые text2img и yext2vid будут на базе DiT, UNet уходит в историю.

Сайт проекта
Демо (только в 1024p)
Кода пока нет

@ai_newz