Технозаметки Малышева
13.2K subscribers
5.59K photos
2.12K videos
43 files
5.52K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
Panaversity - курс по созданию 10 млн. агентов. Agentic AI с паттерном DACA

Новый образовательный репозиторий объединяет OpenAI Agents SDK, Dapr и Kubernetes для изучения мультиагентных систем.
Dapr Agentic Cloud Ascent (DACA) - паттерн проектирования для масштабируемых агентных систем:
• Model Context Protocol (MCP) - стандартизированное использование инструментов
• Agent2Agent (A2A) - протокол межагентной коммуникации
• Knowledge Graphs - графы знаний для агентов
Архитектура обещает поддержку 10 миллионов одновременных агентов через Kubernetes + Dapr.
Курсы AI-201/202/301 включают практические задания с Rancher Desktop и Azure Container Apps.

Амбициозно - 10 млн агентов одновременно. Интересно как это будет работать на практике, а не в теории 🤖

#Dapr #обучение #Kubernetes
-------
@tsingular
🔥3⚡2❤1
Agent Sandbox: Google делает Kubernetes платформой для ИИ-агентов

Google на KubeCon NA 2025 представил Agent Sandbox — новый примитив Kubernetes для безопасного запуска ИИ-агентов, которые могут выполнять код и управлять браузерами.

Основа — изоляция через gVisor и Kata Containers. Когда агент генерирует команды или скрипты, каждая задача крутится в отдельной песочнице с изоляцией на уровне ядра.

Agent Sandbox станет проектом CNCF и будет работать на любом Kubernetes. Но фишки только на GKE:
- предпрогретые пулы песочниц дают задержку менее секунды (на 90% быстрее холодного старта)
- Pod Snapshots — снимки работающих подов с GPU, старт за секунды вместо минут

Для примера: по данным CRIUgpu, чекпоинт GPT-2 XL на H100 занимает 60 GB и требует 88–130 секунд на сохранение.
При тысячах параллельных песочниц накладные расходы на хранение и I/O становятся узким местом.

Agent Sandbox уже доступен.

#Kubernetes #GKE #gVisor
———
@tsingular
🔥7👍4⚡2❤1
AWS референс по сборке HyperPod с MIG для нарезки GPU

В нашей любимой рубрике "полезняшки от AWS" сегодня режем GPU.

Amazon добавил в HyperPod технологию Multi-Instance GPU от NVIDIA — теперь одну видеокарту можно разделить на несколько изолированных частей.

Работает в Kubernetes и управляется либо лейблами вручную, либо автоматом на уровне групп инстансов

По идее это должно помочь в сценариях, когда задачи не используют всю мощь GPU целиком — инференс небольших моделей, прототипирование, ноутбуки для экспериментов.

Например, H200 можно порезать на 3 куска по 18GB и один на 71GB. Каждый работает независимо — своя память, кеш, вычислительные ядра.

#HyperPod #MIG #AWS #Kubernetes
———
@tsingular
🔥7✍4👍3
GKE представляет MCP-сервер для управления Kubernetes через ИИ-агентов

Google представила GKE Model Context Protocol (MCP) Server — стандартизированный интерфейс для подключения ИИ-агентов к кластерам Kubernetes.

🤖 Интерфейс для агентов: MCP Server позволяет ИИ-клиентам (Gemini CLI, Cursor, Claude) управлять кластерами GKE через стандартные команды. Агенты получают доступ к мониторингу, деплою и диагностике без написания кастомных скриптов.

⚙️ Набор инструментов: В арсенале MCP — list_clusters, get_cluster, create_cluster, query_logs, get_kubeconfig. Плюс экспертные команды типа gke-upgrade-risk-report для анализа рисков перед обновлением кластера.

🔐 Безопасность предприятия: Интеграция с IAM для гранулярного контроля доступа. Model Armor сканирует запросы и ответы на предмет инъекций и утечек данных. Только аутентифицированные агенты получают доступ к ресурсам.

🌐 Удалённый доступ: MCP работает по HTTP через Streamable Transport. Сервер разворачивается как отдельный сервис и принимает подключения от любых совместимых MCP-хостов. Поддержка stdio для локальной разработки.

💼 Зачем бизнесу: Стандартизация управления инфраструктурой через ИИ. Снижение порога входа для DevOps-автоматизации. Возможность масштабировать управление сотнями кластеров через единый агентский интерфейс без роста операционных расходов.

🔮 Будущее: Kubernetes становится платформой для автономных ИИ-агентов. Следующий шаг — CNCF Kubernetes AI Conformance с требованиями к inference ingress, disaggregated serving и high-performance networking. llm-d уже в CNCF Sandbox.

GitHub: gke-mcp | Docs: MCP Overview

#Kubernetes #GKE #MCP #AIagents #GoogleCloud #DevOps #CNCF
───
@tsingular
🔥11👍4❤1⚡1