Obsidian + MCP + LM Studio: локальный комбайн лучше NotebookLM
Полезная инструкция по сборке ИИ-ассистента, который работает прямо внутри хранилища заметок Obsidian с локальной моделью через Model Context Protocol.
Агент сам читает файлы, ищет по содержимому, редактирует записи и дописывает текст. Всё остаётся на компьютере, никаких облаков.
Стек: Docker Desktop, плагин Local REST API для Obsidian, LM Studio с моделью openai/gpt-oss-20b. Мелкие 8B-модели не справились — просто выдавали инструкции вместо действий.
Настройка за минуты: Docker поднимает MCP-сервер (свой встроенный hub), Obsidian отдаёт API-ключ, LM Studio подхватывает соединение через иконку в чате.
Всё бесплатно, работает оффлайн, железо среднее - 20B это карта на 16 гигов.
Видео только не генерит, как NotebookLM, а так еще tavily или perplexity даже через MCP подключить и действительно больше ничего не нужно.
Для видео, кстати, можно настроить ComfyUI, там есть API - завернуть его в MCP и подключить туда же.
#Obsidian #MCP #LMStudio
———
@tsingular
Полезная инструкция по сборке ИИ-ассистента, который работает прямо внутри хранилища заметок Obsidian с локальной моделью через Model Context Protocol.
Агент сам читает файлы, ищет по содержимому, редактирует записи и дописывает текст. Всё остаётся на компьютере, никаких облаков.
Стек: Docker Desktop, плагин Local REST API для Obsidian, LM Studio с моделью openai/gpt-oss-20b. Мелкие 8B-модели не справились — просто выдавали инструкции вместо действий.
Настройка за минуты: Docker поднимает MCP-сервер (свой встроенный hub), Obsidian отдаёт API-ключ, LM Studio подхватывает соединение через иконку в чате.
Всё бесплатно, работает оффлайн, железо среднее - 20B это карта на 16 гигов.
Видео только не генерит, как NotebookLM, а так еще tavily или perplexity даже через MCP подключить и действительно больше ничего не нужно.
Для видео, кстати, можно настроить ComfyUI, там есть API - завернуть его в MCP и подключить туда же.
#Obsidian #MCP #LMStudio
———
@tsingular
✍10👍8⚡1💯1
This media is not supported in your browser
VIEW IN TELEGRAM
🏎 LM Studio 0.4.14, - MTP теперь в релизе
Предсказание сразу нескольких токенов (MTP) — это встроенная в саму модель голова-предсказатель, которая угадывает 2–3 токена наперёд, опираясь на собственные скрытые состояния.
На видеокарте RTX 5060 Ti 16 ГБ: Qwen3.6-35B-A3B (со MoE) разгоняется с 98 до 144 т/с (в 1,47 раза). В ответ, правда, сжирает дополнительный объём памяти под рассуждения — 262 тыс. → 65 тыс. при сжатии KV cache-значений до q4_0, либо 98 тыс. при turbo3.
Dense модель на 27 млрд становится на 42 % медленнее — подход помогает только тем моделям, у которых есть запас по пропускной способности памяти.
Поддержку влили в основную ветку llama.cpp.
В LM Studio работает с GGUF/llama.cpp. На Mac — сборки под MLX (oQ8-mtp).
Как включить: обновить LM Studio до 0.4.14 → скачать модель с поддержкой MTP (Qwen3.6-35B-A3B-MTP-GGUF / Qwen3.6-27B-MTP-GGUF) → включить его при загрузке.
🔗 Changelog | llama.cpp PR #22673 | Бенчмарк MTP на 16GB
#LMStudio #MTP #llamacpp #Qwen3
———
@tsingular
Предсказание сразу нескольких токенов (MTP) — это встроенная в саму модель голова-предсказатель, которая угадывает 2–3 токена наперёд, опираясь на собственные скрытые состояния.
На видеокарте RTX 5060 Ti 16 ГБ: Qwen3.6-35B-A3B (со MoE) разгоняется с 98 до 144 т/с (в 1,47 раза). В ответ, правда, сжирает дополнительный объём памяти под рассуждения — 262 тыс. → 65 тыс. при сжатии KV cache-значений до q4_0, либо 98 тыс. при turbo3.
Dense модель на 27 млрд становится на 42 % медленнее — подход помогает только тем моделям, у которых есть запас по пропускной способности памяти.
Поддержку влили в основную ветку llama.cpp.
В LM Studio работает с GGUF/llama.cpp. На Mac — сборки под MLX (oQ8-mtp).
Как включить: обновить LM Studio до 0.4.14 → скачать модель с поддержкой MTP (Qwen3.6-35B-A3B-MTP-GGUF / Qwen3.6-27B-MTP-GGUF) → включить его при загрузке.
🔗 Changelog | llama.cpp PR #22673 | Бенчмарк MTP на 16GB
#LMStudio #MTP #llamacpp #Qwen3
———
@tsingular
✍10🔥6❤3⚡2
This media is not supported in your browser
VIEW IN TELEGRAM
LM Studio выпустили мобильный клиент
LM Studio представили LM Link — интеграцию десктопного LM Studio с iOS-приложением Locally.
Теперь можно общаться с LLM, запущенными на вашем компе, прямо с iPhone или iPad.
• Приложение Locally LM Studio купили ещё в начале 2026 — и вот первый результат сделки.
• LM Link поднимает шифрованный туннель между устройствами через кастомные Tailscale mesh VPN. Без публичного интернета со сквозным шифрованием.
• Работает с любой моделью из LM Studio — хоть 70B, хоть 405B, если железо тянет.
• Требуется LM Studio-аккаунт на обоих устройствах.
💼 Для кого
• Разработчики и исследователи, которые уже используют локальные модели и хотят мобильный доступ к тем же эндпоинтам.
• Все, кто ценит приватность: промпты никуда не уходят, модель ваша, данные ваши.
• Организации, внедряющие on-premise AI: появляется мобильный клиент, не требующий проксирования через внешние сервисы.
Вопрос вызывает только авторизация аккаунта в облаке LMStuduio.
🔧 Нюансы
• Пока preview, бесплатно. Позже обещают платные тарифы (детали не раскрыты).
• Известная проблема: соединение рвётся, когда приложение уходит в фон. Разработчики в курсе, обещают ускорить переподключение.
• Только iOS. Android-клиента нет и пока не анонсирован.
📎 Анонс LM Studio · Приложение в App Store
#LMStudio
------
@tsingular
LM Studio представили LM Link — интеграцию десктопного LM Studio с iOS-приложением Locally.
Теперь можно общаться с LLM, запущенными на вашем компе, прямо с iPhone или iPad.
• Приложение Locally LM Studio купили ещё в начале 2026 — и вот первый результат сделки.
• LM Link поднимает шифрованный туннель между устройствами через кастомные Tailscale mesh VPN. Без публичного интернета со сквозным шифрованием.
• Работает с любой моделью из LM Studio — хоть 70B, хоть 405B, если железо тянет.
• Требуется LM Studio-аккаунт на обоих устройствах.
💼 Для кого
• Разработчики и исследователи, которые уже используют локальные модели и хотят мобильный доступ к тем же эндпоинтам.
• Все, кто ценит приватность: промпты никуда не уходят, модель ваша, данные ваши.
• Организации, внедряющие on-premise AI: появляется мобильный клиент, не требующий проксирования через внешние сервисы.
Вопрос вызывает только авторизация аккаунта в облаке LMStuduio.
🔧 Нюансы
• Пока preview, бесплатно. Позже обещают платные тарифы (детали не раскрыты).
• Известная проблема: соединение рвётся, когда приложение уходит в фон. Разработчики в курсе, обещают ускорить переподключение.
• Только iOS. Android-клиента нет и пока не анонсирован.
📎 Анонс LM Studio · Приложение в App Store
#LMStudio
------
@tsingular
✍9😁2❤1🤣1
This media is not supported in your browser
VIEW IN TELEGRAM
LM Studio Bionic: открытый локальный AI-агент для кода, документов и голоса и кода
📋 16 июля LM Studio выпустила Bionic — агента, построенного под открытые модели, котоые можно запускать локально.
Добавлены три компонента: Coding Agent для работы с проектами,
Knowledge Agent для документов и Voice Keyboard с локальной real-time транскрипцией речи.
Всё на устройстве: MLX на Apple Silicon, llama.cpp на остальных платформах. Для тяжёлых задач есть облачный вариант через Secure Cloud с Zero Data Retention по умолчанию.
🔧 Интересная деталь: команда использовала самого Bionic в процессе разработки Bionic.
Хороший знак.
💡 Coding Agent подключается к локальным папкам проектов, исследует код, дебажит, показывает инлайн-диффы.
Модели: GLM 5.2, Kimi и другие открытые — альтернатива Cursor и Claude Code.
Knowledge Agent: песочница для PDF, слайдов, таблиц, контрактов, автосейвы, чекпоинты, веб-поиск для контекста.
Voice Keyboard: Mistral Voxtral на ExecuTorch, мультиязычная стенограмма без отправки аудио в облако.
💼 Продукт закрывает растущий запрос на агентов, не привязанных к API-ключам и вендорским подпискам.
Молодцы, а то что-то давно их не было слышно.
📎 lmstudio.ai · X / @lmstudio
#LMStudio #агенты
------
@tsingular
📋 16 июля LM Studio выпустила Bionic — агента, построенного под открытые модели, котоые можно запускать локально.
Добавлены три компонента: Coding Agent для работы с проектами,
Knowledge Agent для документов и Voice Keyboard с локальной real-time транскрипцией речи.
Всё на устройстве: MLX на Apple Silicon, llama.cpp на остальных платформах. Для тяжёлых задач есть облачный вариант через Secure Cloud с Zero Data Retention по умолчанию.
🔧 Интересная деталь: команда использовала самого Bionic в процессе разработки Bionic.
Хороший знак.
💡 Coding Agent подключается к локальным папкам проектов, исследует код, дебажит, показывает инлайн-диффы.
Модели: GLM 5.2, Kimi и другие открытые — альтернатива Cursor и Claude Code.
Knowledge Agent: песочница для PDF, слайдов, таблиц, контрактов, автосейвы, чекпоинты, веб-поиск для контекста.
Voice Keyboard: Mistral Voxtral на ExecuTorch, мультиязычная стенограмма без отправки аудио в облако.
💼 Продукт закрывает растущий запрос на агентов, не привязанных к API-ключам и вендорским подпискам.
Молодцы, а то что-то давно их не было слышно.
📎 lmstudio.ai · X / @lmstudio
#LMStudio #агенты
------
@tsingular
🔥17👍5❤3⚡1