MIT создал базу данных рисков ИИ: от дискриминации до электронной боли

Группа FutureTech из MIT CSAIL разработала AI Risk Repository - публичную базу данных, содержащую более 700 потенциальных угроз, связанных с продвинутыми ИИ-системами.
Наиболее распространенные риски: безопасность и надежность (76%), предвзятость и дискриминация (63%), нарушение конфиденциальности (61%).
Интересно, что 90% рисков выявляются после публичного запуска моделей, что указывает на необходимость постоянного мониторинга.
Уникальные риски включают создание ИИ, способного чувствовать боль или испытывать подобие "смерти".

Репозиторий не ранжирует угрозы по степени опасности, сохраняя нейтральность, и остается открытым для дополнений.

Забираем себе копию таблицы и внимательно изучаем.

#MIT #AIRisks #FutureTech
-------
@tsingular

Обучение детей созданию ИИ через игру

Little Language Models предлагает уникальный подход к изучению принципов ИИ для школьников.
Проект использует игровые кубики и цепи Маркова для демонстрации вероятностного мышления.
Платформа coco.build позволяет загружать собственные данные и экспериментировать с последовательностями.
Учащиеся создают простые языковые модели, работают с изображениями и звуком под руководством преподавателей.
Методика фокусируется на практическом опыте вместо теории, учитывая культурные особенности через пользовательский контент.

Теперь дети будут знать, как работает ИИ, лучше некоторых взрослых 🎲🤖

#MIT #LittleLanguageModels #Education
-------
@tsingular

MIT разработал революционные 3D-нанотранзисторы

Учёные MIT создали уникальные трёхмерные транзисторы размером всего 6 нанометров.
Устройства базируются на вертикальных нанопроводах из антимонида галлия и арсенида индия.
Вместо классического преодоления барьера применяется квантовое туннелирование.
Производительность в 20 раз превышает существующие аналоги при меньшем энергопотреблении.
Технология преодолевает 'тиранию Больцмана' - фундаментальное ограничение минимального напряжения.

Похоже, закон Мура ещё поживёт. Квантовая физика спешит на помощь! 🔬

#MIT #nanotechnology #quantum
-------
@tsingular

MIT создал графовую AI-модель для поиска инноваций через междисциплинарные связи

Исследователи MIT разработали уникальную модель, основанную на теории графов и генеративном извлечении знаний.
Система способна находить неочевидные взаимосвязи между разрозненными областями - от биоматериалов до симфоний Бетховена.
Технология применяет мультимодальное рассуждение и теорию категорий для понимания символических отношений.
В тестовом режиме проанализировано свыше 1000 научных работ о биоматериалах.
Создан композитный материал на основе мицелия, вдохновленный картиной Кандинского.

Не списал, а почерпнул вдохновление! 🎨🔬
Очень перспективная тема, - находить корреляции в несвязанных областях!
У человека ушли бы тысячелетия или нужна была бы удача, а тут ИИ придаст огромное ускорение фундаментальной науке.

Исходная работа:
https://iopscience.iop.org/article/10.1088/2632-2153/ad7228

#MIT #GraphTheory #Innovation
-------
@tsingular

В MIT разработали быстрый способ создания реалистичных 3D моделей без обучения

Команда исследователей создала метод конвертации 2D-изображений в высококачественные трехмерные модели.

Улучшенная версия Score Distillation Sampling убирает размытость, искажения геометрии и карикатурность.

Технология применяет предобученные диффузионные модели, не требуя дополнительной тренировки или сложной постобработки.

Оптимизированные параметры и повышенное разрешение рендеринга обеспечивают качество, достаточное для VR/AR проектов.

Создание достоверных 3D-миров становится всё проще и реалистичнее.

#MIT #3D #modeling
-------
@tsingular

в MIT создали сверхбыстрый фотонный процессор для нейросетей

Исследователи MIT представили оптический чип.
Устройство демонстрирует феноменальную скорость менее 0.5 наносекунды при точности 92%.
Ключевая инновация - нелинейные оптические блоки (NOFU), заменяющие электронные сигналы световыми.
Процессор совместим с традиционными электронными компонентами и готов к массовому производству.

Интересно, что уже были похожие новости сначала из Австралии, затем из Китая, но там были теоретические разработки с прототипами, а тут уже заявляют, что готовы к массовому производству.
Похороны закона Мура снова откладываются на неопределённый срок.
Скоро будем нейронку в 400B запускать на смартфонах и изменять инференс не в токенов/секунду, а в Кило-токенах/секунду.
И контекст в 128М...

#MIT #photonics #quantum
-------
@tsingular

🧠 Впихнуть невпихуемое, решить не решаемое - Новый фреймворк MIT заставил LLM решать "нерешаемые" задачи планирования

Исследователи из MIT создали очень интересный подход - LLMFP (LLM-Based Formalized Programming). Это решение покрывает одну из главных проблем современных LLM: они слабо справляются со сложными задачами планирования.

Суть проблемы в том, что даже GPT-4o и Claude 3.5 не могут сами по себе вырабатывать оптимальные решения для задач с множеством ограничений или многошаговым планированием.

Как это работает:

Вместо бесполезных попыток заставить LLM напрямую решать такие задачи, фреймворк использует языковую модель для формализации задачи, преобразуя её в задачу оптимизации:

1. Definer: определяет цель, переменные решения и ограничения
2. Formulator: создаёт JSON-представление всех переменных
3. Code Generator: пишет код для использования решателя SMT
4. Result Formatter: форматирует результат в понятном виде
5. Self Assessment: проверяет каждый шаг и исправляет ошибки

Фреймворк не требует специфических примеров для каждой задачи. Показал успех 83-87% на 9 разных задачах планирования.
При этом базовые методы едва дотягивают до 40%.

Практические применения в бизнесе:

- Оптимизация цепочек поставок (кейс с кофе из статьи)
- Планирование персонала и рабочих смен
- Управление производственными мощностями
- Распределение задач между роботами в автоматизированных средах

Классический кейс "делай то, в чем ты хорош". LLM понимают язык, решатели SMT решают структурированные задачи. Вместе они становятся намного сильнее.

Что это значит для нас?
Теперь можно не возиться с математическими моделями оптимизации, а просто описать задачу на человеческом языке - и получить оптимизированное решение, созданное LLM.

paper

#Оптимизация #MIT
———
@tsingular

Исследование MIT, о котором все кричали на той неделе, что работа с LLM отупляет, оказывается содержало инструкцию для LLM игнорировать само исследование при саммаризации, а читать только конкретную таблицу.
:)

MIT изящно показали всему миру что слепо доверять ИИ не стоит.

Само исследование:
https://arxiv.org/pdf/2506.08872

Читаем своими глазами и сами делаем выводы.

#MIT
------
@tsingular

📖 MIT запустил ИИ-платформу с 12,700 бесплатными курсами

MIT Learn объединил все образовательные ресурсы института на одной платформе с ИИ-помощником "Ask Tim". Система умеет рекомендовать курсы под цели пользователя и создавать краткие описания программ.

В избранных курсах по молекулярной биологии и генетике добавили ИИ-ассистента для вопросов по лекциям и ИИ-тьютора для решения задач. Тьютор направляет к следующему шагу, но не выдает готовые ответы.

🎓 12 700+ материалов: курсы, видео, подкасты от начальных до продвинутых.
🤖 Ask Tim - ИИ-помощник для персонализированных рекомендаций и резюме курсов.
📚 ИИ-ассистент отвечает на вопросы по лекциям, создаёт карточки и помогает с задачами.
🔍 Умный поиск позволяет не разбираться в структуре университета.
👥 Контент для школьников, студентов, профессионалов и преподавателей.
📋 Возможность создания персональных списков ресурсов и уведомлений о новинках.

Платформа решает проблему навигации - теперь не нужно знать структуру MIT, чтобы найти нужный материал.
Система учитывает когнитивную нагрузку через персонализацию и кураторские списки, предотвращая информационную перегрузку при работе с огромным массивом данных.

Университет эволюционировал в ИИ академию.

#MIT #education #обучение
------
@tsingular

Компьютерная наука,- это не про науку и не про компьютеры

Интересная мысль из лекций MIT

Eleven Labs в этот раз очень не очень перевёл, но смысл понятен.

Когда область новая,- очень легко спутать суть того, что вы делаете с инструментами, которые вы используете.

Лучше слушать в оригинале.

#Computer #Science #MIT
------
@tsingular

В MIT научили LLM самостоятельно формулировать и запоминать новые знания

Исследователи из MIT создали метод SEAL, который позволяет языковым моделям постоянно обновлять свои веса и усваивать новую информацию.

Как у студента со шпаргалками: LLM генерирует несколько вариантов синтетических данных из входящего запроса, тестирует каждый и выбирает лучший через reinforcement learning. Потом запоминает его, обновляя внутренние параметры.

Цифры:
- +15% точность на вопросах-ответах
- +50% на задачах обучения навыкам
- маленькая модель обогнала GPT-4.1 (46.3% точность)

Модель сама выбирает скорость обучения и стратегию оптимизации. Проблема одна — catastrophic forgetting: усваивая новое, забывает старое.

Limitations
While SEAL enables lasting adaptation through self-generated weight updates, our continual learning experiment reveals that repeated self-edits can lead to catastrophic forgetting—performance on earlier tasks degrades as new updates are applied.

Пока что работает в исследовательских условиях, но потенциал для самообучающихся агентов очевиден.

paper

Студент, который сам себе делает шпаргалки и сам решает, как их учить. Осталось научить не забывать экзамены прошлого семестра.

#SEAL #MIT #SelfAdapting #саморазвитие #эволюция
------
@tsingular

Rapid Liquid Printing: 3D печать в геле за минуты

MIT Self-Assembly Lab вместе со Steelcase показали Rapid Liquid Printing — технологию, которая создает объекты прямо в гелевой суспензии.

Печатает промышленными материалами, быстро и в любом масштабе.
Можно напечатать сумку за несколько минут.

Обычная 3D-печать упирается в три проблемы: медленно, мелко, хлипкие материалы.
Здесь все наоборот — скорость как у литья, размер как у мебели, прочность как у промышленных полимеров.

Гель держит форму, пока материал застывает, никаких слоев и подпорок.
Гравитация не мешает, потому что всё плавает внутри.

Я сначала даже подумал, - нейрорендер, но нет, реально новый вид печати.

#RapidLiquidPrinting #MIT #Steelcase
------
@tsingular

🧊 MIT: ИИ уже может заменить 11,7% рабочей силы США

Исследователи MIT + Oak Ridge Lab выкатили симуляцию всего рынка труда США.

Не просто прогнозы, а измерения областей, в которых AI-навыки уже пересекаются с человеческими.

Что считали
Iceberg Index — доля зарплатной стоимости навыков в профессии, которые AI технически способен выполнять прямо сейчас.

Не "когда-нибудь заменит", а где инструменты уже существуют.

Как считали
- Взяли 151 млн работников × 923 профессии × 32,000 навыков
- Прокаталогизировали 13,000+ рабочих AI-инструментов (MCP, Zapier, специализированные)
- Промаппили AI-инструменты на человеческие навыки через LLM + ручная валидация
- Посчитали пересечение: навык × важность × зарплата
- Провалидировали через Anthropic Economic Index (реальное использование Claude) - 69% совпадение по штатам

Получилось, что под ударом, на самом деле, в 5 раз больше работников, чем показывают отчёты о сокращениях в бигтехе.

Важная оговорка
Это не прогноз увольнений, а карта технической возможности.
Как у телеканалов техническое покрытие - все потенциальные зрители (у кого есть телевизор и ловит сигнал), а не те, кто на самом деле смотрел эфир.

Реальные последствия зависят от: скорости адаптации, регуляторики, готовности компаний к изменениям, сопротивления работников.

Но $1.2 трлн зарплатной массы уже в зоне, где AI-инструменты существуют и работают.

150 тыс атрибутов на каждого человека из 150 млн. Размер базы прикиньте!
Если по 512 байт на ячейку 23 петабайта выходит :)

#MIT #Iceberg #workforce
———
@tsingular

🤖 DisCIPL: когда рой сверхмалых моделей побеждает крупные, работая в команде

MIT CSAIL представили фреймворк, в котором одна большая модель руководит армией маленьких — и вместе они обходят топовые модели.

Как работает
Большая модель (GPT-4o) — «босс-планировщик». Получает задачу и пишет программу вывода на языке LLaMPPL.

Маленькие модели (Llama-3.2-1B) параллельно выполняют эту программу, оркестратор собирает и корректирует результаты.

Ключевая идея: вместо того чтобы рассуждать текстом (как, например, o1), система «рассуждает» кодом на Python.

Код компактнее и точнее.

В основе, - LLaMPPL

LLaMPPL,- вероятностный язык программирования для управления языковыми моделями.

Возможности:
- Определение жёстких ограничений: «каждое слово не длиннее 5 букв»
- Заполнение пропусков: «To tell the truth, every[ПРОПУСК] he[ПРОПУСК] to[ПРОПУСК]»
- Пересечение промптов: текст, который одинаково вероятен для нескольких разных запросов

Вместо стандартного декодирования используется последовательный метод Монте-Карло (SMC) — алгоритм поддерживает «популяцию» вариантов, отсеивая слабые и размножая сильные.

При этом удалось добиться 80% экономии в сравнении с o1
- на 40% короче «рассуждения» (за счёт того, что это код а не текст)
- Llama-модели в 1000-10000× дешевле за токен
- Точность на уровне o1 при параллельном запуске десятков моделей
- 72% затрат — кэшируемый системный промпт (можно оптимизировать)

Где работает
Тестировали на бенчмарке COLLIE и наборе PUZZLES:
- Тексты со строгими ограничениями («напиши 18 слов, 4-е слово — Glasgow»)
- Списки покупок с бюджетом
- Планирование путешествий
- Грантовые заявки с лимитом слов
- Стихи с точным числом слогов

Главный вывод
Не обязательно гнаться за самой большой моделью. Умная оркестрация маленьких даёт лучший результат за копейки.

Модель сама пишет программу поиска решения — и это работает лучше, чем «думать вслух».

Код: GitHub

#MIT #LLM #DisCIPL #LLaMPPL #SMC #оптимизация
———
@tsingular

MIT запускает программу подготовки военных к эпохе ИИ

MIT и Schwarzman College открыли 2N6 — двухлетнюю магистратуру по механике с сертификатом по прикладному ИИ для офицеров ВМС.

Программа родилась после визита адмирала Папаро, командующего Индо-Тихоокеанским командованием США.

Он увидел наработки MIT в области искусственного интеллекта и предложил создать военный аналог знаменитой программы 2N, которой в 2026-м исполнится 125 лет.

Офицеры будут учиться применять нейросети в беспилотных системах, кибербезопасности, логистике и энергоменеджменте.

Курс заточен под реальные задачи флота — от автономии подводных аппаратов до принятия решений в боевых условиях.

Первый набор — только военные моряки, но планируют расширяться.
Пилот рассчитан минимум на два года.

ИИ для военных становится обязательной дисциплиной. Что не удивительно, конечно.

#MIT #Navy #Military
———
@tsingular

MIT: киберпреступники уже используют ИИ

Пока в советах директоров обсуждают «этичность» и галлюцинации ИИ моделей, злоумышленники уже вовсю внедряют AI-агентов. (Осуждаем)
Для них это рабочий способ кратно удешевить атаку.

🛡 PromptLock: Автономия «под ключ»
Исследователи из NYU показали первый пример шифровальщика, который работает без участия человека. LLM здесь не просто пишет письмо, а на лету генерит кастомный код, сканирует сеть и сама составляет требования выкупа. 80-90% успеха по всей цепочке атаки.

⚡️ Демократизация взлома
Порог входа в «высшую лигу» обнулился. То, что раньше требовало команды PhD-уровня на месяцы, теперь делает агент по промпту:

• 50% всего мирового спама уже генерится LLM.
• Claude Code помог автоматизировать 90% сложной шпионской кампании.
• Эффективность таргетированных атак (BEC) за год выросла вдвое.

🧠 Миф об этичности
Интересный факт: опенсорсные модели «выполняли приказы» исследователей без всякого джейлбрейка. Этическое выравнивание, работающее на тестах перестает работать в реальной жизни.

Бизнес-контекст:
Получается что злоумышленники — самые эффективные «ранние последователи» ИИ.

У них нет комплаенса, зато есть четкий ROI и неограниченная мощность топовых облачных моделей.
И пока классический бизнес «присматривается», объем и скорость атак на него вырастут экспоненциально.

#cybersecurity #MIT
———
@tsingular

MIT MathNet — 30 000 олимпиадных задач по математике в открытом доступе

MIT CSAIL совместно с KAUST и HUMAIN собрали MathNet — крупнейший датасет доказательных математических задач. 30 000+ задач и решений из 47 стран, 17 языков, 143 соревнований. В 5 раз больше любого предыдущего аналога.

🏛 Архитектура: 1 595 PDF-томов (25 000+ страниц). Основа — личная коллекция Navid Safaei, который с 2006 года вручную сканировал буклеты национальных олимпиад. В отличие от AoPS (форумные решения), MathNet использует только официальные буклеты с рецензированными решениями.

🌍 Покрытие: Не только США и Китай, как во всех прошлых датасетах, — 6 континентов, 17 языков. Монгольские, румынские, бразильские задачи. Текстовые и графические формулировки. 4 десятилетия.

🤖 AI-бенчмарк: Результаты сложнее, чем «золото IMO». GPT-5 — лучший среди протестированных — набрал лишь 69.3% на основном бенчмарке (6 400 задач). Каждый третий олимпиадный уровень — мимо. Задачи с рисунками — провал у всех моделей. Open-source модели показали 0% на монгольском.

🔍 Retrieval benchmark: Модели ищут структурно похожие задачи. Лучшая нашла эквивалент с первого раза только в 5% случаев. DeepSeek-V3.2-Speciale при качественном retrieval получал +12 п.п., но плохой retrieval ухудшал результат в 22% случаев.

💼 Зачем бизнесу: Датасет — публичное достояние (open access). Для AI-команд: реалистичный бенчмарк математического рассуждения, который не затачивался под LLM. Для EdTech: 30К задач с рецензированными решениями на 17 языках — материал для адаптивного обучения.

🔮 Будущее: MathNet ставит вопрос: «настоящий» прогресс ИИ в математике или переобучение на узкий пул англо-китайских задач? Когда модель решает 69% — это впечатляет. Когда 0% на монгольском — напоминает, что reasoning ≠ memorization.

#MIT #MathNet #AI #математика #LLM #бенчмарки #образование #OpenData
───
@tsingular

MIT обнаружили математический потолок масштабирования LLM

Статья физиков из лаборатории Джеффа Гора «Superposition Yields Robust Neural Scaling» взяла Runner-up Best Paper на NeurIPS 2025, а в феврале 2026 группа замкнула картину двумя продолжениями.

Вывод настораживает: у обучения LLM есть теоретический математический предел и никакими бюджетами это не лечится.

🧠 Механизм. Модель упаковывает более 50 000 токенов и ещё больше абстрактных понятий в скрытое пространство из нескольких тысяч измерений (у GPT-3 их 12 288). Отдельное направление каждому понятию не выделить, поэтому модель хранит их в суперпозиции: векторы накладываются, наложения создают интерференцию, и этот шум перекрытий оказывается главным источником ошибок представления. В этом режиме ошибка падает обратно пропорционально ширине модели, то есть удвоение ширины примерно вдвое снижает интерференцию.
Теория подтвердилась на открытых моделях OPT, GPT-2, Qwen2.5 и Pythia: измеренная экспонента 0.91 против теоретической единицы, на данных DeepMind по чинчилловским моделям 0.88.

⚙️ Экономика. Параметры растут примерно как квадрат ширины, так что удвоение ширины означает четырёхкратный рост модели и в 4-6 раз более дорогое обучение: бюджет уровня сотен миллионов долларов за несколько удвоений превращается в сотни миллиардов.
При чем залить деньгами эту проблему "купить экспоненту покруче" не получится: частоты слов подчиняются закону Ципфа, и архитектурные ухищрения меняют коэффициенты, но не показатель степени.

📉 Потолок. Масштабирование по ширине умирает, когда ширина сравнивается с размером словаря: у каждого понятия появляется своё направление, интерференции не остаётся, и дальнейшее расширение ничего не добавляет.
Но и на потолке общая ошибка не обращается в ноль, потому что остаётся неустранимая неоднозначность языка: после фразы «я очень люблю», например, может стоять почти что угодно.

🔬 Две другие оси. Глубина даёт потери лишь обратно пропорционально числу слоёв, так как большинство слоёв функционально похожи и усредняют ошибки вместо построения иерархии рассуждений (arXiv:2602.05970). Параметр времени влияет ещё хуже: softmax с кросс-энтропией замедляют сходимость до кубического корня из времени обучения, то есть вдвое меньшие потери требуют восьмикратного увеличения времени обучения (arXiv:2602.03685).

💼 Что это значит. Шесть лет индустрия жила правилом «больше всегда лучше», и теперь у этого правила обнаружились и математический предел, и ценник.
Отсюда текущие развороты: смеси экспертов и линейные архитектуры ломают кривую затрат, архитектуры типа nGPT плотнее упаковывают понятия и улучшают коэффициенты, а часть исследователей уходит в обучение на видео и взаимодействии с физическим миром, где данные не подчиняются текстовому закону Ципфа.

Короче надо работать над принципиальной сменой архитектуры, иначе нас ждёт потолок теоретического предела.
Но примерно то же самое мы слышим про нанометры с 90х.
Что вот вот наступит предел, что даже физика против, скоро на атомы перейдем, - а поди ж ты, - каждые 1.5 года как по расписанию вот уже 30 лет уменьшают и уменьшают размерность.
Сингулярность всё разрулит :)

📎 Основная статья · глубина · время · разбор The Decoder

#исследования #MIT #нейросети
———
@tsingular

MIT научил IRIS восстанавливать историю клеточных сигналов по активности генов

Команда MIT и Whitehead Institute разработала модель IRIS, которая помогает понять, какие сигналы направляли развитие клетки. Это шаг к подбору условий, при которых стволовые клетки превращаются в нужные исследователям типы клеток.

🧬 Клетки обмениваются молекулярными сигналами, которые меняют работу генов. Авторы обнаружили, что у сигнальных путей есть общие «отпечатки» в активности множества генов, сохраняющиеся у разных типов клеток. Поэтому часть закономерностей можно переносить между клетками и даже видами.

🧠 IRIS обучали на экспериментах с комбинациями сигналов в человеческих и мышиных стволовых клетках. Нейросеть сводит данные об активности генов к общему представлению, учитывает различия между лабораторными партиями и оценивает, какие сигнальные пути активны. Добавив траектории развития клеток, исследователи восстанавливают последовательность сигналов во времени.

🧪 На данных эмбрионов мыши команда исследовала около 40 типов клеток. Модель восстановила известные закономерности формирования сердца и кишечника и помогла разобраться в развитии клеток, поддерживающих формирование лёгких.

🫁 IRIS указала, что путь WNT нужно активировать раньше. Проверка на тканях мыши подтвердила его роль, а в семидневном протоколе выращивания человеческих клеток WNT включили с четвёртого дня вместо последних суток. Это усилило появление маркеров нужных клеток; важной оказалась и умеренная сила стимуляции.

💼 Практический смысл в том, что данные о развитии организма помогают составлять лабораторные протоколы: выбирать сочетания сигналов, время их подачи и длительность. Такой подход сокращает перебор условий при создании моделей тканей для изучения болезней и проверки препаратов.

Скоро можно будет выращивать органы в лаборатории. В том числе и мозги для ИИ датацентров.
Кстати в Матрице - какой смысл был выращивать тела целиком? это же просто могли быть башни с мозгами...

📎 Исследование в Nature Methods · Код IRIS

#MIT #IRIS #BioTech
———
@tsingular