Технозаметки Малышева
13.2K subscribers
5.6K photos
2.13K videos
43 files
5.54K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
Obsidian + MCP + LM Studio: локальный комбайн лучше NotebookLM

Полезная инструкция по сборке ИИ-ассистента, который работает прямо внутри хранилища заметок Obsidian с локальной моделью через Model Context Protocol.

Агент сам читает файлы, ищет по содержимому, редактирует записи и дописывает текст. Всё остаётся на компьютере, никаких облаков.

Стек: Docker Desktop, плагин Local REST API для Obsidian, LM Studio с моделью openai/gpt-oss-20b. Мелкие 8B-модели не справились — просто выдавали инструкции вместо действий.

Настройка за минуты: Docker поднимает MCP-сервер (свой встроенный hub), Obsidian отдаёт API-ключ, LM Studio подхватывает соединение через иконку в чате.

Всё бесплатно, работает оффлайн, железо среднее - 20B это карта на 16 гигов.

Видео только не генерит, как NotebookLM, а так еще tavily или perplexity даже через MCP подключить и действительно больше ничего не нужно.
Для видео, кстати, можно настроить ComfyUI, там есть API - завернуть его в MCP и подключить туда же.

#Obsidian #MCP #LMStudio
———
@tsingular
✍10👍8⚡1💯1
This media is not supported in your browser
VIEW IN TELEGRAM
🏎 LM Studio 0.4.14, - MTP теперь в релизе

Предсказание сразу нескольких токенов (MTP) — это встроенная в саму модель голова-предсказатель, которая угадывает 2–3 токена наперёд, опираясь на собственные скрытые состояния.

На видеокарте RTX 5060 Ti 16 ГБ: Qwen3.6-35B-A3B (со MoE) разгоняется с 98 до 144 т/с (в 1,47 раза). В ответ, правда, сжирает дополнительный объём памяти под рассуждения — 262 тыс. → 65 тыс. при сжатии KV cache-значений до q4_0, либо 98 тыс. при turbo3.
Dense модель на 27 млрд становится на 42 % медленнее — подход помогает только тем моделям, у которых есть запас по пропускной способности памяти.

Поддержку влили в основную ветку llama.cpp.
В LM Studio работает с GGUF/llama.cpp. На Mac — сборки под MLX (oQ8-mtp).

Как включить: обновить LM Studio до 0.4.14 → скачать модель с поддержкой MTP (Qwen3.6-35B-A3B-MTP-GGUF / Qwen3.6-27B-MTP-GGUF) → включить его при загрузке.

🔗 Changelog | llama.cpp PR #22673 | Бенчмарк MTP на 16GB

#LMStudio #MTP #llamacpp #Qwen3
———
@tsingular
✍10🔥6❤3⚡2
This media is not supported in your browser
VIEW IN TELEGRAM
LM Studio выпустили мобильный клиент

LM Studio представили LM Link — интеграцию десктопного LM Studio с iOS-приложением Locally.
Теперь можно общаться с LLM, запущенными на вашем компе, прямо с iPhone или iPad.

• Приложение Locally LM Studio купили ещё в начале 2026 — и вот первый результат сделки.
• LM Link поднимает шифрованный туннель между устройствами через кастомные Tailscale mesh VPN. Без публичного интернета со сквозным шифрованием.
• Работает с любой моделью из LM Studio — хоть 70B, хоть 405B, если железо тянет.
• Требуется LM Studio-аккаунт на обоих устройствах.

💼 Для кого
• Разработчики и исследователи, которые уже используют локальные модели и хотят мобильный доступ к тем же эндпоинтам.
• Все, кто ценит приватность: промпты никуда не уходят, модель ваша, данные ваши.
• Организации, внедряющие on-premise AI: появляется мобильный клиент, не требующий проксирования через внешние сервисы.

Вопрос вызывает только авторизация аккаунта в облаке LMStuduio.

🔧 Нюансы
• Пока preview, бесплатно. Позже обещают платные тарифы (детали не раскрыты).
• Известная проблема: соединение рвётся, когда приложение уходит в фон. Разработчики в курсе, обещают ускорить переподключение.
• Только iOS. Android-клиента нет и пока не анонсирован.

📎 Анонс LM Studio · Приложение в App Store

#LMStudio
------
@tsingular
✍9😁2❤1🤣1
This media is not supported in your browser
VIEW IN TELEGRAM
LM Studio Bionic: открытый локальный AI-агент для кода, документов и голоса и кода

📋 16 июля LM Studio выпустила Bionic — агента, построенного под открытые модели, котоые можно запускать локально.

Добавлены три компонента: Coding Agent для работы с проектами,
Knowledge Agent для документов и Voice Keyboard с локальной real-time транскрипцией речи.

Всё на устройстве: MLX на Apple Silicon, llama.cpp на остальных платформах. Для тяжёлых задач есть облачный вариант через Secure Cloud с Zero Data Retention по умолчанию.

🔧 Интересная деталь: команда использовала самого Bionic в процессе разработки Bionic.
Хороший знак.

💡 Coding Agent подключается к локальным папкам проектов, исследует код, дебажит, показывает инлайн-диффы.
Модели: GLM 5.2, Kimi и другие открытые — альтернатива Cursor и Claude Code.
Knowledge Agent: песочница для PDF, слайдов, таблиц, контрактов, автосейвы, чекпоинты, веб-поиск для контекста.
Voice Keyboard: Mistral Voxtral на ExecuTorch, мультиязычная стенограмма без отправки аудио в облако.

💼 Продукт закрывает растущий запрос на агентов, не привязанных к API-ключам и вендорским подпискам.

Молодцы, а то что-то давно их не было слышно.

📎 lmstudio.ai · X / @lmstudio

#LMStudio #агенты
------
@tsingular
🔥17👍5❤3⚡1