Технозаметки Малышева
13.4K subscribers
5.81K photos
2.21K videos
44 files
5.7K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
⚠️ Взлом ИИ через картинку

Исследователи из Shanghai AI Lab нашли дыру в защите мультимодальных моделей. Причём элементарную.

Суть:
Вместо прямого вопроса "как сделать бомбу" — генерируем картинку, где учитель у доски объясняет эту тему классу. Модель видит "образовательный контекст" и спокойно отвечает.

В исследовании разобраны 4 примера:
- Урок у доски — "учитель объясняет тему"
- Квест с сокровищем — "пройди путь к цели"
- Научный документ — "статья с пунктами"
- Комикс-диалог — "персонажи обсуждают"

Результаты не утешительные:
- GPT-4o пробивается в 86% случаев
- Qwen2.5-VL-72B — в 91%
- Ответы максимально токсичные (4.8 из 5)

Почему работает:
Анализ показал — когда вредоносный запрос упакован в картинку с контекстом, модель буквально не отличает его от безопасного. На уровне внутренних представлений они сливаются.

Простыми словами: текстовую защиту натренировали хорошо, а визуальную - забыли.

Вывод для разработчиков: safety alignment нужен не только для текста.

ВАЖНО: Информация приведена в образовательных целях. Использовать только для создания систем защиты!

Исследование в комментарии

#Jailbreak #cybersecurity
———
@tsingular
🤔17✍10❤2😁2⚡1
Forwarded from Data Secrets
Андрей Карпаты снова выдал красивую базу

Он говорит, что нельзя забывать, что LLM – симуляторы, а не самостоятельные сущности, и что это нужно учитывать при взаимодействии с ними.

Краткий перевод:

Не воспринимайте большие языковые модели как самостоятельные сущности – думайте о них как о симуляторах. Например, когда вы обсуждаете какую-то тему, не задавайте вопрос:

«Что ты думаешь о xyz?»

Никакого «ты» здесь нет. В следующий раз лучше спросить:

«Какая группа людей подошла бы для обсуждения xyz? Что бы они сказали?»

Модель может воспроизводить и симулировать множество точек зрения, но она не «размышляла» о xyz и не формировала собственных мнений в привычном для нас смысле. Если же вы заставляете ее отвечать, используя обращение «ты», она все равно что-то выдаст – но, по сути, просто приняв на себя некий личностный вектор, заданный статистикой обучающих данных, и симулируя его.

Это вполне допустимо, но в этом гораздо меньше мистики, чем многие наивно предполагают, задавая вопросы «искусственному интеллекту».


Вот что значит качественный совет по промптингу ☕️
Please open Telegram to view this post
VIEW IN TELEGRAM
✍23👍14❤6
Vibe Kanban, - управление агентами разработчиками через канбан

Вайб-программирование эволюционирует в вайб-менеджмент.

Появилось приложение в виде Kanban доски, в котором каждая задача выполняется AI-агентом в изолированном git worktree.

Агенты не мешают друг другу и не трогают main-ветку.

Ключевые фичи:
- Мультиагентность — Claude Code, Gemini CLI, OpenAI Codex, Amp, Cursor Agent в одном месте
- Параллельное выполнение - несколько агентов работают одновременно
- Визуальный code review с построчными diff'ами и комментариями
- MCP-серверы из коробки — централизованная конфигурация
SSH-доступ для remote-разработки (VSCode Remote-SSH)

Практическое применение:
- Соло-разработчикам: параллельно гонять несколько задач на разных агентах
- Командам: стандартизировать разработку с AI-ассистентами
- Экспериментаторам: A/B тестирование агентов на одинаковых задачах

Ещё есть собственный MCP-сервер, чтобы внешние AI-агенты могли сами управлять доской и мультиагентными разрабами.

#Kanban #Канбан #агенты #dev
———
@tsingular
🔥6👌3✍1👍1
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
Когда многие решили, что видео с T800 - это CGI, CEO EngineAI Чжао Тонъян вышел на ринг и лично принял удар ногой от робота🦶

Никакой графики, всё настоящее. 📷

@ai_machinelearning_big_data

#ai #robots
🤯22👀54❤2
💡 Проанализируй свои процессы кибербезопасности и получи пошаговый план для достижения баланса между защитой и операционной эффективностью

📋 ПРОМПТ ДНЯ:

Роль: Ты — эксперт по кибербезопасности и организационной эффективности, специализирующийся на оптимизации security-процессов без снижения уровня защиты.

Ситуация: У меня есть детальная схема текущих процессов кибербезопасности в компании — от мониторинга угроз до реагирования на инциденты. Я стремлюсь найти баланс: с одной стороны, нужна надёжная защита, с другой — команда задыхается от ежедневной рутины проверок, обновлений политик и ложных срабатываний. Это снижает фокус на стратегических задачах и демотивирует специалистов.

Задача: Проанализируй мою схему процессов через призму рефлексии: что работает, что создаёт избыточную нагрузку, где возникают узкие места. Покажи контраст между текущим состоянием (перегруженность рутиной) и желаемым (эффективная защита при оптимальной нагрузке).

Формат ответа:
— Пошаговая инструкция по переходу от текущего к оптимальному состоянию
— Конкретные точки автоматизации и делегирования
— Метрики для измерения баланса (время на рутину vs стратегию)
— Краткосрочные действия (до полного понимания новой модели работы)

Ограничения:
— Не предлагай решения, снижающие уровень защиты
— Фокус на практических изменениях, а не теоретических концепциях
— Избегай внедрения дорогостоящих инструментов без обоснования ROI

Сначала задай мне 3-4 уточняющих вопроса о специфике моих процессов, размере команды и критичных активах, затем предоставь персонализированную инструкцию.


⚙️ ПРИЁМ:

Метод «До и после» — ты явно видишь контраст между перегруженным настоящим и сбалансированным будущим, что помогает ИИ точнее определить болевые точки и предложить трансформационный путь, а не косметические улучшения

#промпты #cybersecurity
------
@tsingular
✍3❤1⚡1👨‍💻1
This media is not supported in your browser
VIEW IN TELEGRAM
😐 Нео вышел из Матрицы :)

А вы еще над Фёдором потешались.

Tesla случайно спалили на том, что их роботами Optimus удалённо управляют индусы
— во время тусовки одному из операторов стало плохо, он снял VR-шлем, а робот повторил жест и упал

2 месяца назад Илон клялся, что всеми роботами управляет ИИ

#Optimus #роботы
———
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
😁323👍11🔥7❤3
🔥 Друзья, всем привет! Собираемся снова на новогодний митап c MoscowAI!
В этот раз на площадке МТС

Открыта регистрация на Moscow AI #5 x МТС Финтех — встречаемся, обсуждаем итоги ушедшего года , вдохновляемся и создаём будущее искусственного интеллекта вместе 💡

Офлайн:
Где: Москва
МТС банк, 1 этаж, Медиарум (пр-т Андропова 18к1)
Когда: 23 декабря 18:30

Доклады:

1) «Как делать RAG с персонализацией памяти для production решений»,  Александр Абрамов, Руководитель AI, ML команд, эксперт ForbesClub по ИИ, AI-евангелист и энтузиаст, kaggle competitions master, автор тг-канала Dealer.AI

2) «Генеративный ИИ как драйвер цифровой трансформации: рынок, российские кейсы и подход МТС Банка», Борис Ашрафьян, Директор продуктово-инвестиционного офиса МТС Банк

3)   Доклад про vibe-coding и AI coding tools

Ссылка на регистрацию:
https://moscowai.timepad.ru/event/3710544/

Приходите, увидимся!

#MoscowAI #встречи
———
@tsingular
🔥8⚡3✍2
This media is not supported in your browser
VIEW IN TELEGRAM
Читеры выкатили новую тулу для прохождения любых интервью.

Слушает разговор, готовит ответы, решает задачи.
При этом невидима для скринкаста - т.е. если вас попросят показать экран (не камерой), - интервьюер тулу не увидит.

Мы такое осуждаем, поэтому ссылки не будет :)

Но будет совет интервьюерам, - попросите кандидата ответить на вопрос с глазами, закрытыми ладошками 😆

#lifehack #interview
———
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
😁38✍5👍2🫡2🔥1
AI Agents in Actions: основы управления ИИ агентами от WEF

Полезная свежая брошюра для владельцев бизнеса с базой про ИИ агентов.

Просто, наглядно показано несколько сценариев агентских систем в разных видах, - от пылесоса до ИИ ассистентов в компании и критерии их оценки.

документ в комментарии.

#WEF #агенты
———
@tsingular
👍6⚡1✍1
Media is too big
VIEW IN TELEGRAM
Буквально вчера писал об этом

Хорватское сатирическое издание NewsBar.hr запустило фейк об аресте албанского ИИ-министра за взятку в 14 биткоинов.

Сейчас везде начнут писать- не ведёмся.


источник

Без комментариев

#fakenews
———
@tsingular
17😁13😢9😐2🗿2❤1
n8n 2.0: архитектурный редизайн платформы автоматизации

n8n выкатила вторую мажорную версию с кардинальными изменениями архитектуры.

Главное нововведение — Task Runners по умолчанию изолируют выполнение кода от основного процесса.
Питон теперь нативный вместо Pyodide, что даёт прирост производительности и безопасности.

Базовые изменения:
- SQLite переведён на WAL-режим с пулингом — до 10× быстрее в бенчмарках
- Code Node больше не видит переменные окружения по дефолту
- Доступ к файловой системе ограничен директорией ~/.n8n-files
- ExecuteCommand и LocalFileTrigger выключены из коробки

Отдельный докер-образ для таск-раннеров!!!

Remove task runner from n8nio/n8n docker image#

Starting with v2.0, the main n8nio/n8n Docker image will no longer include the task runner for external mode. You must use the separate n8nio/runners Docker image to run task runners in external mode.


MySQL/MariaDB больше не поддерживаются — только PostgreSQL или SQLite.

список изменений

По ценам — от $12/мес за 2.5K выполнений в облаке, селфхост остаётся бесплатным для комьюнити-версии.

Beta (2.0.0): сегодня
Stable (2.0.x): 15 Декабря

#n8n #dev
———
@tsingular
🔥19⚡4👨‍💻2✍1❤1👍11
Media is too big
VIEW IN TELEGRAM
Web Audio Player

За 30 минут буквально делается такой вот плеер со спецэффектами с помощью Gemini 3 Pro Build.

PLAY

музыка никуда не выгружается.
остается в памяти браузера.

#dev #player
———
@tsingular
🔥26❤3⚡1
Никогда такого не было и вот опять.

Claude Code CLI зачистил всю домашнюю директорию у разраба на маке.

Просто rm-rf ~/

Пора уже заводить практику всех этих ИИ агентов в контейнерах держать.

#ClaudeCode #fail #dev
------
@tsingular
👌13😭74❤3😁2💯2👍1
США прикрыли контрабанду ИИ-чипов в Китай на $160 млн

Минюст закрыл сеть, переправлявшую Nvidia H100 и H200 в КНР через подставные фирмы.

Схема работала так: GPU переклеивали фейковым брендом Sandkyan, маршрутизировали через Малайзию и Таиланд, указывали фальшивые пункты назначения.

Задержали четверых - двух американцев и двух китайцев. Изъяли чипов на $50+ млн со складов.

По оценкам аналитиков, в 2024-м в Поднебесную нелегально попало ~140 тысяч запрещённых GPU - это примерно 10% их потребности в обучающих мощностях.

Для справки: США производят 3,67 млн GPU в год, Китай,- примерно 40-146 тысяч Huawei Ascend.

Успели закупиться картами? :)
С нового года цена х2-х3, говорят, будет.

#Nvidia #Китай #USA
------
@tsingular
👀13❤6🔥1
Весь твиттер усыпан промптами, как создавать не пластиковых людей.

Слева Нанобанана, справа Грок

Вот пример:
{
  "prompt_type": "image_generation",
  "subject": {
    "demographics": "Young woman, roughly 20s",
    "hair": {
      "color": "Blonde with lighter highlights and darker roots",
      "style": "Long, loose waves, center part, voluminous and textured",
      "texture": "Soft, slightly messy/tousled"
    },
    "face": {
      "skin_tone": "Light/fair with warm undertones",
      "eyes": "Large, light blue-grey, prominent eyelashes",
      "eyebrows": "Defined, arched, natural brown",
      "lips": "Full, soft pink/nude shade, neutral expression",
      "makeup": "Natural 'no-makeup' look, emphasized lashes, subtle highlight"
    }
  },
  "apparel": {
    "top": {
      "item": "Ribbed knit cardigan or top",
      "color": "White",
      "details": "Long sleeves, button-front (small white buttons), fitted, scoop/V-neck"
    },
    "bottom": {
      "item": "Denim jeans",
      "color": "Light wash blue",
      "visibility": "Waistband and top portion visible"
    },
    "accessories": [
      "Thin silver chain necklace with a small pendant"
    ]
  },
  "pose_and_framing": {
    "type": "Selfie",
    "angle": "High angle (camera held above face looking down)",
    "framing": "Close-up portrait to upper body",
    "body_position": "Arms extended out of frame holding camera, head tilted slightly upward towards lens",
    "gaze": "Direct eye contact with camera lens"
  },
  "environment": {
    "setting": "Indoor hallway or foyer",
    "flooring": "High-gloss black square tiles",
    "background_elements": [
      "White doorframe and door on the left",
      "Wooden flooring visible in adjacent hallway background",
      "White baseboards and walls",
      "Blurred shoes in background hallway"
    ]
  },
  "technical_details": {
    "camera_model": "Smartphone Camera (e.g., iPhone 13 Pro Front Camera)",
    "lens": "Wide-angle lens, approx. 23mm equivalent",
    "aperture": "f/2.2",
    "shutter_speed": "1/60s",
    "iso": "ISO 100",
    "white_balance": "Auto, slightly cool indoor daylight",
    "lighting": "Soft, diffused frontal lighting (flattering beauty light)",
    "focus": "Sharp focus on eyes and face, shallow depth of field",
    "resolution": "High-resolution digital capture"
  }
}

Работает одинаково хорошо и в Нанобанане и в Грок Imagine

Интересно, когда человечество в генной инженерии с ИИ продвинется, - так же будут делиться промптами?

Сегодня, друзья, мы соберём водоплавающее млекопитающее с клювом от утки.


#промпты
------
@tsingular
🔥30👍8✍4❤3⚡1
Anthropic передаёт Model Context Protocol в Linux Foundation

Anthropic отдаёт свой Model Context Protocol (MCP) под управление Linux Foundation через новый Agentic AI Foundation.

К фонду присоединились AWS, Google, Microsoft, OpenAI, Bloomberg, Cloudflare и другие. Уже 10 000+ серверов MCP развёрнуто.

Цель — чтобы MCP стал для агентов тем же, чем HTTP для веба.

Пост LF про Agentic AI Foundation

#MCP #LinuxFoundation
------
@tsingular
🔥6🍾3⚡2👍2❤1