Сколько стоит развернуть LLM в своём контуре? ⌨️

Когда показываем платформу нефтегазовым компаниям, почти всегда первым делом спрашивают одно и то же. Как поставить всё это у себя, какое железо понадобится и во сколько обойдётся. Данные наружу никто выпускать не хочет, поэтому рано или поздно разговор упирается в сервер.

Самый простой вариант на сегодня – это NVIDIA DGX Spark. Небольшая коробка 15 на 15 см, 128 ГБ общей памяти, обычная розетка и цена $4699 в США. Две такие машины можно соединить напрямую кабелем, без отдельного коммутатора, и получить 256 ГБ памяти под одну модель. Если машин три и больше, уже понадобится коммутатор.

На одном Spark небольшая модель тянет 64 запроса одновременно и печатает суммарно около 483 токенов в секунду. Тяжёлая модель на 284 млрд параметров в одиночный Spark тоже влезает, но если считать по одному запросу, выдаёт всего 21 токен в секунду. Пара Spark разгоняет её до 59 токенов в секунду.

Но тут есть два момента, о которых стоит помнить 🔽

1️⃣Скорость
В свежем тесте ту же Qwen3 Coder 30B сравнили на Spark и на паре RTX 5090. Spark справился с задачей за шесть минут, а две 5090 примерно за минуту. Всё упирается в пропускную способность памяти. 273 ГБ/с против почти двух терабайт у 5090.

2️⃣Качество
Открытая Qwen3 Coder 30B набирает около 48% на SWE bench Verified. Для сравнения, Claude Sonnet 4.6 показывает 79,6%, а Opus 4.6 около 81%. Разница почти в два раза, и добавлением железа её не исправить.

➡️ За $5–10 тыс. уже можно собрать вполне рабочий стенд, чтобы обкатать агентную систему на своих данных и понять, что вообще имеет смысл переносить внутрь компании. А вот под серьёзную промышленную нагрузку понадобится полноценная серверная инфраструктура.

И ещё важно: если нужна максимальная точность и качество, закрытые модели пока остаются заметно впереди.

Видео: techwithray

🌐 Website | 🎰LinkedIn

Claude умеет работать в вашем Chrome, и об этом мало кто знает 🦀

Удивились, что многие до сих пор не слышали про расширение Claude для Chrome. Штука очень полезная: все, кому мы его показывали, потом с восторгом рассказывают, как автоматизировали работу в браузере.

Сначала разберёмся, чем отличаются три способа, которыми AI заходит в интернет:

1️⃣ Загрузка страницы из чата
Модель сама идет на сайт и забирает текст, без всякого браузера. Минус в том, что большинство сайтов быстро понимают, что к ним пришёл бот, и либо блокируют доступ, либо показывают не всё.

2️⃣ Встроенный браузер в Claude
Максимально похож на ваш, только без ваших кукис и сохранённых паролей. Сайты не знают, что это вы, поэтому везде, где нужен логин, пароль придётся отдавать самому Claude. Сейчас он на старте вообще предлагает импортировать все кукис и пароли из вашего браузера. Нам такое не очень понравилось, но вариант рабочий, если вы доверяете Claude 🦀

3️⃣ Расширение Claude в Chrome
Вот это нам понравилось больше всего. Скачиваете, логинитесь через аккаунт Claude, и всё. Пароли и кукис остаются в Chrome, Claude просто работает за вас в вашем же браузере. Сессию можно начать прямо в браузере, и она появится в чате Claude. Или запустить из приложения Claude. Именно из приложения, в веб-версии Claude не увидит, что ему доступно расширение.

💬 Важно: расширение пока только для Chrome. Подделок под другие браузеры много, будьте внимательны.

Как мы этим пользуемся? Стартапу постоянно приходится заполнять формы: конференции, гранты и прочее. У нас под это есть отдельная сессия Claude Code, в папке лежит хранилище Obsidian с правилами и заметками, там всё, что агенту нужно знать о компании. Кидаем ему ссылку, он открывает форму в Chrome и заполняет её, пока мы занимаемся своими делами.

➡️ Ещё удобно управлять CRM и копаться в документации по API других сервисов, когда хочется не просто получить ответ, а самому увидеть, где это написано.

Всем советуем, крутой инструмент, про который мало кто знает.

🌐 Website | 🎰LinkedIn

SLB показала, с чего начинается агентный AI в гидродинамике 🔗

Мы уже рассказывали про AI-ассистента Tela в гидродинамике. Теперь в сети появляются ролики, где видно, как это выглядит на практике и куда движется вся эта история.

Инженер может задать вопрос по результатам симуляции обычным языком, а система сама найдёт нужные данные, отфильтрует их и построит графики. Не нужно постоянно переключаться между окнами и вручную искать нужную карту.

SLB при этом честно говорит, что это только первый шаг. Дальше они видят развитие в три этапа:

1️⃣AI помогает разбираться в данных и находить закономерности
2️⃣Агенты сами запускают расчёты и предлагают решения
3️⃣Система берёт на себя процессы целиком, но работает в заданных рамках

⏮Сама гидродинамика при этом никуда не исчезает. Расчёты по-прежнему выполняются на физической модели, а AI делает работу с ней быстрее и удобнее⏭

➡️ Интереснее всего, кто первым дойдёт до третьего этапа. У SLB вся цепочка уже внутри одной экосистемы, от данных до симулятора. А тем, кто строит агентов поверх чужого софта, сначала приходится решать вопрос доступа к данным. В AVP AI мы эту задачу хорошо знаем по собственному опыту.

А на каком этапе вы используете AI в своей работе?

👍 — разбираюсь в данных
🔥 — агенты уже считают за меня
🤔 — пока не использую

Видео: Shripad Biniwale

🌐 Website | 🎰LinkedIn

Почему без своих чипов Россия и СНГ не догонят лидеров в AI 🏁

По данным Epoch AI, около трёх четвертей мощности всех AI-кластеров в мире находится в США. Китай идёт вторым, у него около 15%. А Германия, Япония и Великобритания, которые ещё недавно были среди лидеров суперкомпьютеров, теперь занимают совсем небольшую долю. Россия и страны СНГ на графике даже отдельно не выделены.

➡️ AI-модели нужно где-то обучать и запускать. Делают это в основном на видеокартах и специализированных ускорителях. Чем больше у тебя чипов, тем более крупные модели ты можешь обучать и тем больше пользователей можешь обслуживать одновременно. Поэтому гонка за AI во многом ещё и гонка за железо.

Китай при этом удерживает второе место, несмотря на экспортные ограничения. Одна из причин в том, что он делает собственные AI-ускорители. У России своего массового производства видеокарт для AI пока нет, а напрямую покупать самые мощные зарубежные ускорители тоже сложно. Поставки ограничены санкциями, но проблема шире. США в целом ограничивают экспорт передовых чипов во многие страны. В итоге оборудование приходится везти через параллельный импорт, часто с заметной наценкой, а сопоставимые по возможностям отечественные решения эксперты ожидают не раньше 2030 года.

🔗 Открытые модели можно взять уже сейчас, специалистов обучить, а необходимые данные собрать. о если с железом постоянно приходится выкручиваться, масштабировать AI всё равно будет сложно. А мощности ведущих AI-кластеров в мире тем временем растут примерно вдвое каждые девять месяцев.

В каком году у нас появится свой чип уровня H100? Делайте ставки 🔽

🌐 Website | 🎰LinkedIn

У нас всё записано 😏

Мы, как развивающаяся компания, часто проводим по несколько долгих звонков в день: с партнёрами, заказчиками или внутри команды. Все они очень информативные, и каждый раз даже с заметками сложно точно вспомнить, о чём договорились и что нужно сделать.

🔘Нашли удобный сервис HypeScribe. Даём ему ссылку на встречу в Zoom, Google Meet или Teams, и бот подключается как обычный участник. После звонка он присылает полную расшифровку, короткую выжимку и список задач. В итоге получается готовый файл со всеми задачами и сроками.

Ещё из полезного: ему можно просто скинуть ссылку на видео с YouTube или RuTube. Например, если хочется понять, о чём была двухчасовая конференция, но смотреть её целиком времени нет.

⏮Затестить можно бесплатно на сайте hypescribe.ru⏭

А вы используете подобные сервисы? Если да, поделитесь в комментариях, какие 🔽

🌐 Website | 🎰LinkedIn

Dots в ChatGPT: свой сервер с агентом внутри подписки 🤖

Вы не программист, но навайбкодили себе дашборд со своими графиками и метриками, подключили CRM и ещё пару источников. Хочется, чтобы всё это обновлялось автоматически. На ноутбуке так не получится: он может быть выключен, и данные подтянутся в лучшем случае, когда вы его включите.

Для этого нужен сервер, выделенная мощность у провайдера. Тогда всё работает само, и бонусом дашбордом можно делиться с коллегами.

В масштабах компании это значит купить его, настроить отдельное место под каждого сотрудника, кто работает с AI, и дать доступ. А настройка своего агента на Hermes или OpenClaw занимает от пары дней до недели.

➡️ OpenAI сделали в этом плане шаг вперёд. Dots — это облачный компьютер на серверах OpenAI внутри вашей подписки и AI-агент на базе GPT-6 Astra. Вы больше не зависите от своего компа, а агенту можно поручить действия.

Например, в нефтегазе:

🔘каждое утро он может забирать суточный рапорт из почты, сверять дебиты с прошлой неделей и писать, по каким скважинам падение больше 10%

🔘ночью гонять расчёты на Python-модели с разными параметрами и к утру приносить таблицу сценариев с графиками

Что ещё умеет:

🔘пишет первым: сам следит за почтой, календарём, Slack и приходит с готовым решением

🔘на облачном компьютере стоят Python, браузер, LibreOffice и даже Blender, можно рендерить видео и собирать отчёты

🔘ему можно позвонить и надиктовать задачи голосом по дороге на работу

🔘раздаёт подзадачи в Codex и сам следит, как они выполняются

🔘правила работы пишутся обычным языком: что делать без спроса, что после вашего «ок», а платежи и необратимые действия он сам не выполняет никогда

🔘любой момент можно открыть его компьютер, посмотреть, что он делает, и забрать управление

Людей, которые не разбираются в серверах и развёртывании агентов, очень много, и им дали простой инструмент.

⏮Доступно в тарифах Pro и Business Premium⏭

🌐 Website | 🎰LinkedIn

Траектории скважин в AVP AI ↗️

Добавили в платформу построение траекторий скважин. Показываем на примере шельфового участка с несколькими пластами, поэтому часть данных на видео скрыли. 78 скважин с двух кустов на островах.

Как это работает? Для каждого сценария платформа перебирает множество вариантов расстановки скважин, выбирает оптимальный и строит под него траектории. Но последнее слово остаётся за вами. Можно построить траектории сразу для всех сценариев или выбрать свой вариант вместо рекомендованного и продолжить расчёты только с ним.

➡️ Каждой скважиной можно управлять через чат. Попросить её сдвинуть, изменить положение и посмотреть, как это повлияет на результат. Перетаскивать скважины прямо на графике пока нельзя, добавим эту возможность в следующих версиях.

Пока не обошлось без багов, дорабатываем.

🌐 Website | ✉️ LinkedIn

Друзья, команда AVP AI ушла в небольшой отпуск 🍸

Но совсем скоро мы вернемся и продолжим делиться полезными инструментами и нашей еженедельной подборкой главных новостей индустрии. Не теряйте нас! 🔗