После планового обновления прошивки серверы Cloudflare из парка Gen12 (около 2000 единиц) начали загружаться до четырёх часов вместо обычных минут. Проблема оказалась в механизме сетевой загрузки UEFI: система последовательно перебирала все доступные интерфейсы, ожидая тайм-аута на каждом. Каждая неудачная попытка сжигала около пяти минут, а при четырёх попытках на один цикл загрузки терялось 20 минут. Для автоматизации обновления прошивки, требующей нескольких перезагрузок, это превращалось в многочасовые простои.
Корень проблемы — линейный поиск сетевых загрузочных интерфейсов. После POST сервер пытался IPv4 HTTPS, затем IPv4 iPXE, повторял оба, и только потом доходил до IPv6 HTTPS, который успешно отрабатывал. Решение — явно указать правильный интерфейс загрузки, исключив перебор. Однако на пути встали особенности вендорских прошивок и формат строк, различающийся у производителей сетевых карт.
#Cloudflare #Infrastructure #UEFI #Optimisation #DevOps
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1
Исследователи обнаружили простой, но эффективный метод сокращения энергозатрат на тренировку больших языковых моделей — корректировка тактовой частоты GPU. Эксперименты показали, что оптимизация момента переключения частот позволяет экономить до 14% энергии без потери производительности.
Суть метода заключается в тонкой настройке clock frequency графических процессоров во время различных фаз обучения. Вместо постоянной работы на максимальной частоте система динамически подстраивает её под текущую вычислительную нагрузку, избегая избыточного энергопотребления в менее интенсивные моменты. Техника не требует дополнительного оборудования и может быть внедрена программно.
Для индустрии, где обучение одной крупной модели может стоить миллионы долларов и потреблять мегаватты электроэнергии, даже 10-процентная экономия означает существенное снижение как операционных расходов, так и углеродного следа. Метод особенно актуален для дата-центров, работающих на пределе энергетических мощностей.
#Lifehack #Tech #LLM #GPU #Energy #AI #Optimisation
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Wayfair сократила затраты на ML-модели на 90% (дважды) с помощью Cursor
Исследовательская группа Wayfair Applied Research использует Cursor для сжатия месяцев ML-исследований в дни. К концу 2025 года команда из пяти человек запускала до 20+ агентов параллельно, что позволило протестировать 110 вариантов моделей за четырёхдневный спринт и снизить затраты на инференс для ключевого пайплайна каталога на 94%. В марте 2026 года команда повторила подход с новыми моделями Cursor, сократив расходы ещё на 90%.
Каждый товар в каталоге Wayfair описывается 47 000 структурированных тегов (материалы, размеры, цвет). Команда построила валидационную модель, проверяющую каждый тег по изображениям, описаниям и отзывам. Модель была точной, но слишком дорогой для полного охвата каталога. Cursor автоматизировал цикл экспериментов: исследователи формулировали гипотезы, а Cursor реализовывал варианты, запускал тесты на едином бенчмарке и публиковал результаты. Идея до живого эксперимента — менее 30 минут.
В марте 2026 года команда провела второй спринт, где даже младшие инженеры без опыта в валидации тегов создавали новые варианты моделей с первого дня. Было запущено 140+ экспериментов, а поверх лучших результатов наложили генетический алгоритм. Cursor изменил узкое место с «сколько времени займёт реализация?» на «какая следующая идея стоит проверки?».
#Business #Tech #Cursor #Wayfair #ML #Optimisation #AI
Исследовательская группа Wayfair Applied Research использует Cursor для сжатия месяцев ML-исследований в дни. К концу 2025 года команда из пяти человек запускала до 20+ агентов параллельно, что позволило протестировать 110 вариантов моделей за четырёхдневный спринт и снизить затраты на инференс для ключевого пайплайна каталога на 94%. В марте 2026 года команда повторила подход с новыми моделями Cursor, сократив расходы ещё на 90%.
Каждый товар в каталоге Wayfair описывается 47 000 структурированных тегов (материалы, размеры, цвет). Команда построила валидационную модель, проверяющую каждый тег по изображениям, описаниям и отзывам. Модель была точной, но слишком дорогой для полного охвата каталога. Cursor автоматизировал цикл экспериментов: исследователи формулировали гипотезы, а Cursor реализовывал варианты, запускал тесты на едином бенчмарке и публиковал результаты. Идея до живого эксперимента — менее 30 минут.
В марте 2026 года команда провела второй спринт, где даже младшие инженеры без опыта в валидации тегов создавали новые варианты моделей с первого дня. Было запущено 140+ экспериментов, а поверх лучших результатов наложили генетический алгоритм. Cursor изменил узкое место с «сколько времени займёт реализация?» на «какая следующая идея стоит проверки?».
#Business #Tech #Cursor #Wayfair #ML #Optimisation #AI
👍1
Cloudflare CAPTCHA теперь срабатывает только при наличии амперсанда
Саймон Уиллисон поделился полезным трюком для настройки Cloudflare Managed Challenge (CAPTCHA) на своём сайте. Он использует защиту для faceted search, чтобы crawlers не спарсили все возможные комбинации фильтров, но столкнулся с проблемой: даже простые запросы вроде
Решение оказалось элегантным — правило, которое активирует CAPTCHA только для URL с амперсандом (&):
Интересно, что Уиллисон сначала попробовал настроить это через Cloudflare MCP с помощью Claude Code, но MCP-сервер не смог редактировать нужные правила. Пришлось переключиться на прямой Cloudflare API — и это сработало. Отличный пример того, как комбинировать AI-инструменты с традиционными API для решения практических задач.
#Cloudflare #CAPTCHA #ClaudeCode #WebDev #Optimisation
Саймон Уиллисон поделился полезным трюком для настройки Cloudflare Managed Challenge (CAPTCHA) на своём сайте. Он использует защиту для faceted search, чтобы crawlers не спарсили все возможные комбинации фильтров, но столкнулся с проблемой: даже простые запросы вроде
?q=term вызывали капчу.Решение оказалось элегантным — правило, которое активирует CAPTCHA только для URL с амперсандом (&):
(http.request.uri.path wildcard r"/search/*" and http.request.uri.query contains "&"). Теперь поиск по одному параметру работает без проверки, а капча срабатывает только при сложных запросах с несколькими фильтрами.Интересно, что Уиллисон сначала попробовал настроить это через Cloudflare MCP с помощью Claude Code, но MCP-сервер не смог редактировать нужные правила. Пришлось переключиться на прямой Cloudflare API — и это сработало. Отличный пример того, как комбинировать AI-инструменты с традиционными API для решения практических задач.
#Cloudflare #CAPTCHA #ClaudeCode #WebDev #Optimisation
⚡1🔥1
Компании, активно внедряющие ИИ-ассистентов вроде Claude, сталкиваются с неожиданной проблемой: расход токенов оказался «довольно безумным» и ставит под вопрос окупаемость инвестиций. Как пишет Wired, провайдер облачных коммуникаций 8x8 подсчитал, что каждый запрос к кодовой базе через Claude обходится примерно в $0,10–0,15, а при тысячах ежедневных обращений затраты быстро выходят из-под контроля.
Проблема усугубляется тем, что разработчики часто отправляют в контекст целые файлы или репозитории, не оптимизируя промпты. В 8x8 заметили, что стоимость одного сеанса работы с ИИ-агентом может достигать нескольких долларов — и это при том, что модель генерирует ответы, которые затем всё равно проверяет человек. CFO компании назвал текущий уровень расходов «безумным» и призвал команды внедрять лимиты и аудит использования.
Для бизнеса это сигнал: голый запуск ИИ без контроля за токенами ведёт к перерасходу бюджета. Эксперты рекомендуют внедрять системы мониторинга, ограничивать длину контекста и использовать более дешёвые модели для рутинных задач. Иначе «ставка на ИИ» рискует превратиться в финансовую дыру.
#AI #Tokens #Claude #Business #Optimisation
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1
Совет от команды Claude Code на AIE: вместо жёстких инструкций (например, «пиши тесты только для крупных фич») лучше просто сказать Fable и Opus «используй собственное суждение». Это повышает эффективность и снижает расход токенов.
Дополнительный лайфхак от разработчика Джесси Винсента: поручайте Fable делегировать мелкие задачи более дешёвым моделям. Саймон Уиллисон протестировал промпт: «Для всех задач по кодингу используй своё суждение, чтобы выбрать подходящую модель меньшей мощности и запустить её в сабагенте». Claude Code сохранил это как файл памяти — теперь для реализации кода он вызывает Sonnet или Haiku, а основная модель занимается проектированием, аудитом и синтезом.
Результат: объём работы вырос, а токены Fable расходуются значительно медленнее. Особенно актуально перед грядущим повышением цен.
#AI #ClaudeCode #Fable #PromptEngineering #Optimisation #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1💯1
Новый аналитический материал на Hugging Face, основанный на работе Goldfeder, Wyder, LeCun и Shwartz-Ziv (2026), доказывает: вопреки ожиданиям, самые мощные ИИ-системы — не универсальные, а узкоспециализированные. Прорыв в предсказании структуры белков совершила модель, созданная для одной задачи. Исторические достижения ИИ — это всегда результат концентрации на конкретной области, а не расширения общей функциональности.
Авторы опираются на теорему Wolpert и Macready (1997) «No Free Lunch»: ни один универсальный алгоритм оптимизации не превосходит другие на всех возможных задачах. Выигрыш на одном распределении проблем означает проигрыш на другом. При конечных ресурсах (вычислительных мощностях, данных, времени) система, фокусирующаяся на ограниченном наборе задач, всегда эффективнее той, что распыляет ресурсы на всё подряд. Универсальность и высокая производительность находятся в прямом противоречии.
Практический вывод для разработчиков: при проектировании AI-агентов и моделей стоит осознанно выбирать специализацию. Это не означает отказ от общих архитектур — речь о том, что для достижения выдающихся результатов в конкретной задаче необходима целенаправленная настройка и концентрация ресурсов, а не гонка за универсальностью.
#Ai #Specialization #MachineLearning #Optimisation #HuggingFace
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1💯1