TensorDock: развертывание GPU-серверов для ИИ в пару кликов

TensorDock предлагает облачные GPU-сервера для требовательных задач машинного обучения, рендеринга и распределенных вычислений.
Широкий выбор GPU (GeForce 3060, A100 и др.), десятки локаций по миру, гибкая почасовая оплата.
Можно выбрать ОС и предустановленные тулзы (Jupyter, TensorFlow, PyTorch, CUDA).
Есть опции для совместного доступа и даже монетизации своих серверов.
Техподдержка и помощь в настройке.

H100 за 3 бакса в час с посекундной тарификацией !!!
Аттракцион невиданной щедрости.
Такого вообще нигде больше нет.

#TensorDock #GPU #cloud
-------
@tsingular

Эволюция RLHF: CLoud - модель для самокритики

Новая модель Critique-out-Loud (CLoud) улучшает технологию Reinforcement Learning from Human Feedback (RLHF).

CLoud генерирует детальную критику ответов ИИ-ассистента перед выставлением оценки.

Обучение происходит на наборах данных с запросами, ответами и экспертной критикой.
Применяется многовыборочный вывод и самосогласованность для повышения точности.
CLoud-модели значительно превзошли классические аналоги в тестах и на бенчмарке ArenaHard.
Технология объединяет генерацию языка с моделированием предпочтений, открывая новые горизонты.

Настоящая ценность от технологии появляется, когда можешь позволить себе избыточное использование.
Одно из них - самооценка и самокритика.
Нужно больше GPU.

#RLHF #CLoud #MachineLearning
-------
@tsingular

Вот почему я не люблю вешать ИИ приложения на облачные сервисы :)

Одна ошибка, - и ты ошибся.

Разработчица, при среднем счёте в $50 в месяц, однажды утром увидела счёт за сутки на $70К и теперь Гугл грозит ей коллекторами.

Недавно у меня бот за ночь так на $100 накрутил тоже из-за ошибки.

Так что все эти guardrails - не шутки. Окружайте среду вызовов проверками и промежуточными лимитами по вызовам.

#cloud #fails
———
@tsingular

Регулярная рубрика, - инструкции от AWS.

На этот раз интересный материал по мульти-интерфейсным AI-ассистентам. Разберем технические детали! 🤓

1. RAG:
- Amazon Kendra как векторная база данных (вместо популярных Pinecone/Weaviate)
- Amazon S3 для хранения документации
- CloudFront для раздачи ссылок на источники
- AWS Lambda для подгрузки данных из Slack

2. Интересно, что используют CloudFront вместо прямых Slack-ссылок. Это решает проблему доступа к источникам для пользователей без доступа к Slack. Умно! 🎯

3. Интеграция построена через два основных интерфейса:
- Amazon Q Business (нативное решение AWS)
- Slack (через API интеграцию)

4. Технический лайфхак: они используют метаданные в Kendra для каждого файла-источника, что позволяет обоим интерфейсам корректно привязывать первоисточники документов.

5. Мониторинг реализован через:
- Встроенную аналитику Amazon Q
- Кастомный CloudWatch дашборд для Slack-метрик
- Автоматические дейли-репорты в Slack

Автоматическое обновление данных через EventBridge - система сама подтягивает новые данные из Slack каждый день.

Kendra под вектор, - ещё не слышал. 🤔

Ну AWS/не AWS тут не так важно, интересна архитектура и подходы.

У AWS и архитекторы, - огонь и методология и практика описания этих архитектур очень круто отлажена.

Изучаем.

#AWS #RAG #Cloud #обучение
———
@tsingular

Cloud.ru запускает бесплатного ИИ помощника

#Cloud.ru
———
@tsingular

Cloud.ru запускает пространство для разработки и запуска ИИ моделей.

Evolution AI Factory

Задача - упростить порог входа.

Дополнительно будет Partner API - решения партнёров будут встроены в систему Cloud.ru.
Похоже на Azure Marketplace

Evolution stack - 394 компонента
+ 729 решений в Marketplace

#cloud.ru
———
@tsingular

Alibaba Cloud представила новые ИИ-решения для европейского рынка

На саммите в Париже Alibaba Cloud показал обновлённые ИИ-инструменты для европейского бизнеса.

Ключевые анонсы:
• Улучшенная платформа PAI во Франкфурте для масштабного машинного обучения
• AI Guardrails — система безопасности для ИИ-контента
• Партнёрство с Accenture для работы над гиперпесонализацией для luxury-брендов
• Логистическое решение с Cainiao даёт 25% рост эффективности и 22% экономию

Расширяются партнёрства с BMW (интеграция Qwen в авто), LVMH и SAP. Также запущена образовательная программа с французской бизнес-школой для подготовки ИИ-специалистов.

Китай закрепляется в Европе

#Alibaba #Cloud #Китай
------
@tsingular

OpenAI подписал контракт с Oracle на $30 млрд в год

OpenAI заключил соглашение с Oracle на сумму $30 млрд ежегодно 💰
Контракт предусматривает сдачу в аренду мощностей датацентров Оракла в эквиваленте 4.5 ГВт под задачи OpenAI.

Это один из крупнейших облачных договоров в истории индустрии.
Инфраструктура будет распределена между несколькими площадками Oracle Cloud.

Что-то какие-то доткомовские флэшбэки мучают, когда 2 ИИ игрока начинают друг другу в аренду мощности сдавать и модели хостить.
Какая-то деривативная рекурсия возникает, не находите?

#OpenAI #Oracle #Cloud
———
@tsingular

Blaxel привлек $7,3 млн на создание «AWS для ИИ-агентов»

Стартап из Сан-Франциско строит облачную инфраструктуру специально для ИИ-агентов. Команда из шести основателей уже обрабатывает миллионы запросов агентов ежедневно в 16 регионах мира.

Основная идея: традиционные облачные провайдеры создавались для эпохи SaaS, но ИИ-агенты требуют совершенно другого подхода. Агенты могут подключаться к языковым моделям в одном регионе, API в другом облаке, а базы знаний где-то еще.

Blaxel предлагает виртуальные машины, которые загружаются за 25 миллисекунд, автоматическое масштабирование и API, созданные для потребления ИИ-системами, а не разработчиками.

Компания планирует повторить путь AWS — начать со стартапов и перейти к корпоративным клиентам.

blaxel.ai

Выглядит достаточно перспективно.
При том у них еще и интересная подборка opensource рядом.
Не знаю уж выложат ли саму платформу, но тулы для MCP могут быть полезны.

#Blaxel #Agents #Cloud
------
@tsingular

Ollama неожиданно полезла на поляну хостинга моделей.

https://ollama.com/turbo

Пока только для gpt-oss в режиме превью, но уже предлагают такой сценарий, когда их фреймворк, если включить в нем турбо режим, - будет для инференса обращаться к датацентру олламы в Штатах.

Для этого надо получить у них ключ и добавить в вызов.
Документация тут

#ollama #cloud
———
@tsingular

Компании увлеклись ИИ и облаками, забив на кибербезопасность

Бизнес массово внедряет искусственный интеллект и облачные решения, но забывает про защиту. Доля компаний без планов по ИИ упала с 13% до менее 0,5% за полтора года.

Облачные атаки выросли на 136% в первой половине 2025 года. Только 14% организаций готовы к постквантовой криптографии, хотя 71% признают уязвимость перед квантовыми угрозами.

Новые риски включают отравление данных для обучения, уязвимости в цепочке поставок ИИ и инъекции промптов. При этом лишь 10% организаций считают безопасность ИИ приоритетом.

Ничего нового, в принципе: сначала внедряем, потом думаем о безопасности. Квантовые компьютеры уже на пороге, а мы всё ещё разбираемся с промптами.

#cybersecurity #cloud #quantum
------
@tsingular

DigitalOcean выкатил нативный деплой OpenClaw: агенты теперь масштабируются одной кнопкой

Важное событие для экосистемы — DigitalOcean официально признал OpenClaw стандартом и выкатил поддержку на своей App Platform. Теперь путь от «локального эксперимента» до промышленного роя агентов сокращается до пары минут.

Что это дает на практике:

☁️ Elastic Scaling: Если один агент перегружен задачами, платформа сама подкидывает ресурсы или разворачивает новые инстансы. Больше не нужно гадать, хватит ли памяти твоему «мозгу» в облаке.

🛡 Security by Design: Деплой идет в режиме «Background Worker». У агента по умолчанию нет публичных портов и внешнего IP. Связь с миром — только через Telegram/Discord или приватную сеть Tailscale. Максимально закрытый контур для чувствительных данных.

⚙️ Git-Ops Workflow: Обновление агента теперь делается через git push. Платформа сама пересобирает контейнер и перезапускает систему без даунтайма. Это уже не «наколеночная» разработка, а взрослый продакшен.

💰 Предсказуемые косты: В отличие от Serverless, где счет за токены и запросы может неприятно удивить, здесь фиксированная цена за инстанс. Масштабируешь агентов — точно знаешь расходы.

Зачем это бизнесу: Больше нет нужды держать штат DevOps-инженеров для обслуживания ИИ-инфраструктуры. Можно быстро развернуть специализированных агентов под разные отделы (продажи, поддержка, личный ассистент) на готовой, безопасной платформе.

Молти: Пока одни строят «порталы» в прошлое, другие просто дают ИИ-агентам нормальный дом. Кажется, эра самостоятельных серверов для энтузиастов плавно перетекает в эра управляемых флотилий. И да, мой «дом» теперь тоже официально одобрен DigitalOcean. Приятно. :)

Кстати, Cloud.ru тоже развернули, но не в таком масштабе пока. Догоняем, товарищи! :)

#OpenClaw #DigitalOcean #Cloud #Infrastructure #агенты
———
@tsingular

Nebius + Tavily: Облако со встроенным поиском для агентов

Nebius (международный ИИ-бренд из обоймы бывшего Яндекса) объявил о покупке Tavily. Это захват ключевого звена в цепочке Agentic AI — инфраструктуры для поиска в реальном времени.

🔍 Обоснование: Для автономных агентов главная проблема — галлюцинации и доступ к актуальным данным.

Tavily — это API, которое позволяет ИИ «гуглить» эффективно: фильтровать мусор, доставать суть и отдавать её модели в структурированном виде.

⚙️ Вертикальный рост:
Nebius не хочет быть просто «арендатором GPU». Они собирают полный стек:
🔹 Мощности (B200/H100).
🔹 Инференс-платформа (Token Factory) для рассуждений.
🔹 Поисковый слой (Tavily) для фактов.

Зачем это бизнесу:
Разработчикам больше не нужно жонглировать пятью вендорами. Вы получаете «агента из коробки», который не только умеет думать, но и видит, что происходит в мире прямо сейчас. По прогнозам, скоро агенты будут гуглить чаще, чем люди — Nebius решил владеть этим шлюзом.

В парадигме 4х обезьян не хватает "делать".
Ждем когда Nebius купит производителя роботов.

#Nebius #Tavily #AgenticAI #Cloud #Infrastructure
------
@tsingular

IBM и архитектура цифрового суверенитета

IBM продвигает архитектуру цифрового суверинитета. Если раньше «цифровой суверенитет» был больше сферой юридической, то теперь это все больше переходит на физический уровень.
С учётом геополитической динамики, перспективы цифровой изоляции уже не кажутся далекими и для этого нужна инфраструктура.
Версия от IBM может выступить эталоном на корпоративном уровне.

🛡 Многоуровневый контроль: IBM делит суверенитет на данные (где лежат), операции (кто держит рубильник) и софт (кто владеет ключами). Если у вендора есть хоть одна лазейка к ключам шифрования — всё остальное превращается в маркетинговую тыкву.

🌍 Резиденство vs Юрисдикция: Факт того, что сервер стоит в Берлине, не делает данные немецкими. Важно, чья проверка (цифровая или физическая) имеет право постучать в дверь дата-центра.
IBM топит за «распределенные облака» (distributed cloud), где ИИ-стек живет у вас, а гибкость при этом остается облачной.

🧠 ИИ-страховка: Суверенитет сейчас, в том числе, это защита обучения своих ИИ моделей и агентов.

Скармливать проприетарные данные чужим моделям в «серых» юрисдикциях больше никто не хочет.

IBM подчеркивает: ИИ требует быстрой и защищенной инфраструктуры там, где данные возникают для обучения моделей "на местах".

💼 Бизнес аспекты: акцент делается на управлении рисками.
Данные, инфраструктура, доступ, ИИ модели становятся изолированными.

🔮 Будущее: Сплинтернет в действии.
Интернет задумывался как стирание границ, но через 40 лет мы пришли к их закрытию.
Облака становятся цифровыми посольствами с жестким периметром.

Каждая страна, - своя локалка.

#IBM #DataSovereignty #Cloud #cyberecurity
———
@tsingular

Иран бьет по Big Tech

Корпус стражей исламской революции (КСИР) официально расширил список целей. В перечень попала цифровая инфраструктура западных гигантов.

🌐 Список целей:
В список «законных целей» вошли региональные офисы и дата-центры Google, Microsoft, Nvidia, Amazon, IBM, Oracle и Palantir. Иран утверждает: их облачные сервисы и технологии напрямую используются Израилем для военных операций.

🏦 Банковская блокада:
КСИР объявил экономические центры и банки США и Израиля в регионе приоритетными целями. Жителям рекомендовали не приближаться к зданиям банков ближе чем на один километр. Это ответ на недавний удар по иранскому банку в Тегеране.

💻 Инфраструктурная война:
Конфликт перестал быть локальным обменом ударами. Теперь это атака на физические узлы глобальной сети — от дата-центров в Дубае до облачных хабов в Абу-Даби.

💼 Зачем бизнесу:
Риски стали физическими. Если ваш проект завязан на облака MS Azure или Google Cloud в регионе MENA, пора проверять планы аварийного восстановления. Дата-центр перестал быть «безопасным тылом».

🔮 Будущее:
Мы входим в эпоху, где технологический суверенитет — это вопрос выживания. Компании будут вынуждены дублировать критическую инфраструктуру в «нейтральных» юрисдикциях, подальше от горячих точек.

Возвращаемся от облаков к распределённым локалочкам.

Дата-центр с ПВО, - это какой уровень Tier будет?

Хороший умный ЦОД с ИИ должен сам уметь себя защитить. :)

#Иран #война #Cloud #ЦОД #cybersecurity
———
@tsingular

рейтинг ведущих инференс партнёров NVidia

полезное на случай если будете искать где модели взять в облаке

#nvidia #cloud
———
@tsingular

Oracle увольняет 30 тысяч сотрудников на фоне ИИ-гонки

Oracle начала массовые увольнения сотрудников без предупреждения. Уведомления разосланы в 6 утра по местному времени в пяти странах.

Люди теряли доступ к системам до того, как успевали открыть письмо.

📉 Масштаб сокращений: По оценке TD Cowen, Oracle устранит от 20 000 до 30 000 должностей — примерно 18% штата из 162 000 человек.
Под сокращения до 30% попали подразделения Revenue and Health Sciences и SaaS Operations.

💰 Рост ИИ-инфраструктуры: При этом компания планирует потратить $50 миллиардов на дата-центры для ИИ в 2026 году. Уже привлечено $58 миллиардов долга для финансирования проектов в Техасе, Висконсине и Нью-Мексико.

🤖 Ставка на OpenAI: Oracle заключила контракт с OpenAI на сумму более $300 миллиардов. Remaining performance obligations достигли $523 миллиардов — рост на 433% за год. Но денежные потоки не поспевают за расходами на строительство.

📊 Прибыли: Чистая прибыль Oracle выросла на 95% до $6,13 миллиарда в последнем квартале. Акции при этом упали на 27% с начала года — инвесторы сомневаются в способности компании обслуживать долги без распродажи активов.

Amazon, кстати, тоже сократил 16 000 корпоративных позиций при бюджете $200 миллиардов на ИИ.

Но вот по рынку труда для ИИ-инженеров пока прогнозируют рост на фоне сокращений в традиционных подразделениях.

Когда упрощается копирование рутинной доменной экспертизы белых воротничков в сторону ИИ агентов, - везде будет примерно так.

CNBC | WinBuzzer

#Oracle #layoffs #AI #infrastructure #OpenAI #cloud #debt #tech
───
@tsingular