Можно ли получить много видеопамяти за разумные деньги в 2026 и запустить на ней модели с контекстом до 256 тысяч токенов?
В новой статье на Хабре Александр Щербаков, DevOps-инженер X5 Tech, рассказывает, как собрал домашний сервер для локальных LLM на доработанных CMP 50HX:
• почему первый запуск не дал ожидаемого ускорения;
• зачем пришлось пересобрать стенд на серверной плате с EPYC;
• как патчи драйвера сняли часть ограничений с карт;
• что на самом деле даёт вторая GPU, если не удваивает скорость;
• как MTP ускорил генерацию на длинном контексте.
🔗 ссылка на статью
В новой статье на Хабре Александр Щербаков, DevOps-инженер X5 Tech, рассказывает, как собрал домашний сервер для локальных LLM на доработанных CMP 50HX:
• почему первый запуск не дал ожидаемого ускорения;
• зачем пришлось пересобрать стенд на серверной плате с EPYC;
• как патчи драйвера сняли часть ограничений с карт;
• что на самом деле даёт вторая GPU, если не удваивает скорость;
• как MTP ускорил генерацию на длинном контексте.
🔗 ссылка на статью
🔥12🎉4
Везём экспертизу X5 Tech на Mobius 2026 Autumn
21–22 октября встречаемся в Санкт-Петербурге и онлайне на конференции по мобильной разработке.
Коллеги расскажут, как добились честных метрик сборок в большом монорепозитории, как разогнали ферму Mac mini с помощью ИИ-агента и что будет с грейдами разработчиков.
Если будете на Mobius офлайн или онлайн, приходите на доклады. Если в этот раз не получается, задавайте вопросы спикерам в комментариях: после выступлений они на них ответят.
Желаем коллегам хороших выступлений и интересных вопросов 🔥
21–22 октября встречаемся в Санкт-Петербурге и онлайне на конференции по мобильной разработке.
Коллеги расскажут, как добились честных метрик сборок в большом монорепозитории, как разогнали ферму Mac mini с помощью ИИ-агента и что будет с грейдами разработчиков.
Если будете на Mobius офлайн или онлайн, приходите на доклады. Если в этот раз не получается, задавайте вопросы спикерам в комментариях: после выступлений они на них ответят.
Желаем коллегам хороших выступлений и интересных вопросов 🔥
🔥8
ИИ пишет всё больше кода, но знает ли он, как этот код потом выполняет V8?
24 октября на HolyJS разработчик из X5 Tech Александр Зайцев, разберётся, что за лев этот Turbolev — новый компилятор в V8, который приходит на смену TurboFan.
Доклад подойдёт всем, кто пишет на JS и TS (даже если вы ни разу не заглядывали внутрь движка).
Если будете на конференции в Петербурге или онлайн, заходите на доклад: он пройдёт в зале 2 в 15:00.
Ставим 🔥️️️️️️ в реакциях и желаем удачи Саше!
24 октября на HolyJS разработчик из X5 Tech Александр Зайцев, разберётся, что за лев этот Turbolev — новый компилятор в V8, который приходит на смену TurboFan.
Доклад подойдёт всем, кто пишет на JS и TS (даже если вы ни разу не заглядывали внутрь движка).
Если будете на конференции в Петербурге или онлайн, заходите на доклад: он пройдёт в зале 2 в 15:00.
Ставим 🔥️️️️️️ в реакциях и желаем удачи Саше!
🔥11👍8
Если бы на первой работе можно было выбрать что-то одно
Интересные задачи или зарплату повыше? Наставника, который всё объяснит, или свободу разбираться самому? Офис с командой или удалёнку из любого города? В жизни обычно приходится искать компромисс. Но знать, что для тебя главное, полезно в любом случае.
Эти вопросы и задаёт Changellenge >> Best Company Award 2027, ежегодный рейтинг лучших работодателей по мнению молодёжи. Его собирают на основе ответов студентов и молодых специалистов. X5 Tech участвует в рейтинге каждый год, чтобы услышать, чего ждут от первой работы.
Пройди опрос: это займёт 10 минут, а твой ответ войдёт в итоговый рейтинг.
🔗 Пройти исследование
Интересные задачи или зарплату повыше? Наставника, который всё объяснит, или свободу разбираться самому? Офис с командой или удалёнку из любого города? В жизни обычно приходится искать компромисс. Но знать, что для тебя главное, полезно в любом случае.
Эти вопросы и задаёт Changellenge >> Best Company Award 2027, ежегодный рейтинг лучших работодателей по мнению молодёжи. Его собирают на основе ответов студентов и молодых специалистов. X5 Tech участвует в рейтинге каждый год, чтобы услышать, чего ждут от первой работы.
Пройди опрос: это займёт 10 минут, а твой ответ войдёт в итоговый рейтинг.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Нейросеть, которая знает вашу систему не хуже аналитика
Григорий Звягинцев, старший специалист по тестированию в X5 Tech, недавно пришёл в новую команду. Чтобы быстрее онбордиться, он решил сделать помощника, который умеет искать документацию, смотреть в базы и сверяться с тест-кейсами. В новой статье на Хабре он рассказал:
• какие источники подключил;
• на какие грабли наступил;
• что пока не заработало.
Рекомендуем статью всем, кто тестирует сложные системы.
🔗 ссылка на статью
Григорий Звягинцев, старший специалист по тестированию в X5 Tech, недавно пришёл в новую команду. Чтобы быстрее онбордиться, он решил сделать помощника, который умеет искать документацию, смотреть в базы и сверяться с тест-кейсами. В новой статье на Хабре он рассказал:
• какие источники подключил;
• на какие грабли наступил;
• что пока не заработало.
Рекомендуем статью всем, кто тестирует сложные системы.
🔗 ссылка на статью
👍11🔥11❤5
Анжела Шумилова, ML-инженер X5 Tech, выступила на HardFest и рассказала, сколько видеокарт на самом деле нужно нейросети.
Путь к HardFest начался с внутренней школы спикеров X5 Tech, а дальше были месяцы подготовки и репетиций. Как всё прошло, Анжела рассказывает в карточках выше.
Полезные ссылки:
Путь к HardFest начался с внутренней школы спикеров X5 Tech, а дальше были месяцы подготовки и репетиций. Как всё прошло, Анжела рассказывает в карточках выше.
Полезные ссылки:
#️⃣ Калькулятор по мотивам доклада, чтобы посчитать железо самостоятельно🇷🇺 Запись доклада на RUTUBE📱 Запись доклада на VK Видео
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥24👍9