ReAG: Рассуждение-дополненная генерация - Новый подход к системам знаний

Рассуждение-дополненная генерация (ReAG) - новый метод, который улучшает взаимодействие языковых моделей с внешними знаниями.

Он отходит от традиционных систем генерации с дополнением извлечения (RAG), которые полагаются на поиск по семантическому сходству, и вводит более интуитивный подход. Вместо предварительной обработки документов в поисковые фрагменты, ReAG напрямую подает исходные материалы - текстовые файлы, веб-страницы, электронные таблицы - в языковую модель. Затем модель определяет, какая информация релевантна, и синтезирует ответы за один раз.

Проблемы с традиционным RAG:
- Ограничения семантического поиска: плохо справляются с контекстуальной релевантностью, часто отдавая приоритет похожим формулировкам, а не фактической релевантности.
- Сложность инфраструктуры: Создание RAG-конвейеров включает множество компонентов, таких как разбиение документов, модели встраивания и векторные базы данных, каждый из которых вносит потенциальные ошибки.
- Статичные знания: Обновление индексированных документов требует повторной обработки, что может привести к устаревшим результатам в быстро меняющихся областях.

Как работает ReAG
ReAG упрощает процесс, позволяя языковой модели выполнять основную работу. Он работает по простому принципу: передать модели исходные документы и задать два ключевых вопроса:
- Полезен ли этот документ для задачи?
- Какие конкретные части его имеют значение?
Этот подход отражает человеческое исследование, когда мы просматриваем источники, отбрасываем нерелевантные и фокусируемся на отрывках, которые отвечают на наши конкретные вопросы. ReAG программно воспроизводит это поведение, используя способность модели выводить связи, а не полагаясь на поверхностную семантику.

Реализация ReAG
ReAG упрощает традиционные конвейеры извлечения до трехэтапного процесса:
- Прием исходных документов: Документы (URL-адреса, файлы) собираются без предварительной обработки.
- Параллельное извлечение контекста: Каждый документ проходит две оценки на основе LLM параллельно: проверку релевантности для отметки нерелевантных документов и извлечение содержимого для определения отрывков, специфичных для задачи.
- Синтез контекста: Нерелевантные документы отфильтровываются, а проверенное содержимое передается для последующих задач, таких как генерация ответов.

Ключевые проектные решения включают анализ на уровне документов, где LLM обрабатывает целые документы для сохранения контекста, и динамические подсказки, которые фокусируют рассуждения модели.

Компромиссы
Хотя ReAG упрощает архитектуру, есть компромиссы, которые следует учитывать:
- Стоимость: Обработка целых документов с помощью большой языковой модели дороже, чем выполнение векторного поиска.
- Скорость: Даже с распараллеливанием ReAG может испытывать трудности с огромными наборами данных.

Где ReAG преуспевает
Сильные стороны ReAG очевидны в сценариях, где контекст важнее скорости:
- Сложные, открытые запросы: Он может собирать воедино разрозненные источники для ответа на вопросы, требующие выведения косвенных связей.
- Динамические данные: Он может обрабатывать новостные источники, исследовательские репозитории или живые базы данных на лету, устраняя необходимость повторного встраивания документов при каждом обновлении.
- Мультимодальные данные: Он может анализировать графики, диаграммы и электронные таблицы наряду с текстом без дополнительной предобработки.

Будущее ReAG. Жизнеспособность ReAG зависит от:
- Более дешевых и быстрых языковых моделей: По мере улучшения моделей с открытым исходным кодом стоимость обработки документов в масштабе будет снижаться.
- Больших контекстных окон: Будущие модели смогут обрабатывать более крупные документы за один раз.

Вау! Крутой агент для разработки DataButton, выглядит гораздо логичнее и правильнее относительно других (Lovable, Cursor, Replit, v0, Bolt, Windsurf, Devin), т.к. есть "беклог" для задач (Backlog, In progress, done), сама декомпозиция задач.

На скрине — результат сборки CMS с дашбордом

- Есть подключение к Supabase или Firebase
- Есть методы авторизации Firebase
- есть библиотека UI компонентов
- сторедж для API
- загрузка медиа

видео

ИИ студия для YouTube

Bumpups – сервис, который позволяет вести чат с любым YouTube видео!

Также может генерировать заголовки, описание, тайм-коды с описанием + Takeaways

PwC’s 28th Annual Global CEO Survey

Согласно результатам 28-го ежегодного глобального опроса CEO, проведенного PwC в 2025 году, наблюдается значительный рост экономического оптимизма среди руководителей компаний:

58% CEO во всем мире ожидают увеличения глобального экономического роста в ближайшие 12 месяцев, что значительно выше показателя в 38% годом ранее

91% CEO уверены в перспективах роста доходов компаний

Трансформация бизнес-моделей
- 63% CEO предприняли значительные действия по изменению создания, доставки и захвата ценности за последние пять лет
- 38% начали конкурировать в новом секторе за последние пять лет

Слияния и поглощения (M&A) — 70% наиболее уверенных CEO демонстрируют сильный аппетит к M&A на следующие 12 месяцев

Революционные инновации в создании контента
- Генеративный ИИ станет более интуитивным и эмоционально отзывчивым, создавая реалистичные изображения, видео и аудио
- Ожидается размытие грани между реальным и искусственно созданным контентом в графике и видео
- ИИ будет использоваться для быстрого создания разнообразного маркетингового контента, от аналитических отчетов до постов в соцсетях

Автоматизация и оптимизация бизнес-процессов
- ИИ-системы будут адаптироваться к эмоциям, голосу и поведению пользователей
- ИИ будет использоваться для автоматизации рутинных задач, от корректировки цен до ведения переговоров по контрактам

А вот и оркестратор!

Отлично. Теперь можно все джобы проинтегрировать
Пишем с помощью ИИ get и post запросы и вешаем на триггеры: create, update, search, log, execute.. удобно.

Экономит кучу времени. Пользуйтесь

ActionKit совместим с любым фреймворком LLM. Всего с несколько строк кода можете добавить ActionKit в качестве инструмента для ИИ агента.

Deepgram запустил мультиязычный Speech-to-Text Nova 3
(их юзает Twilio)

Nova 3:
- задержка менее 250 мс.
- первая в индустрии real-time мультиязычная транскрипция, то есть когда в аудио разные языки
- точность: WER снизился на 54.3% для стриминга и на 47.4% для файлов (>90% точности)
- Deepgram обогнал Whisper в 7 из 7 тестируемых языков
- Самонастраиваемый ИИ: новая фича Keyterm Prompting для мгновенного добавления специализированных терминов без переобучения.
- Многоязычная поддержка: 10 языков (включая русский) в real-time с поддержкой код-свитчинга (тестить тут)


Для сравнения с Whisper:
36% точнее, чем Whisper
5x быстрее, чем Whisper
1.7x дешевле, чем Whisper

Nova-3 подходит для:
• Колл-центров и служб поддержки (уменьшение ошибок и быстрые ответы)
• Медицинской сферы (точная расшифровка диагнозов и терминов)
• Юридических записей и совещаний
• Ритейла и финансов (точное распознавание чисел и кодов)
Плюс, модель можно кастомизировать под свои тексты.

Памятка о том, как создавать «липкие» (stickiness) продукты

или «Как технологии захватывают ваш разум» — от специалиста по этике дизайна Google

Ниже собраны поведенческие триггеры, которые желательно использовать при проектировании веб-продукта

Крючок №1: если вы контролируете меню, вы контролируете выбор – Создавай меню, так как тебе выгодно (к деньгам очевидно). Через меню ты управляешь поведением пользователей.

Крючок №2: положите «игровой автомат» в миллиард карманов.
У нескольких миллиардов человек в кармане есть «игровой автомат», с которым они с удовольствием развлекаются:
- Когда мы достаем телефон из кармана, мы играем в игровой автомат, чтобы посмотреть, например какие уведомления пришли.
- Когда обновляем е-почту, мы играем в игровой автомат, чтобы узнать, какое новое письмо получили.
- Когда проводим пальцем вниз, чтобы прокрутить ленту Instagram, мы играем в игровой автомат, чтобы увидеть, какая фотография появится следующей.
- Когда мы проводим пальцем по лицу влево/вправо в приложениях для знакомств, таких как Tinder, мы играем в игровой автомат, чтобы проверить, есть ли у нас совпадения.
- Когда мы нажимаем на количество красных уведомлений, мы играем в игровой автомат на то, что находится под ними.

Крючок №3: Страх пропустить что-то важное (FOMSI) — уведомления или следить за кем-то (боясь упустить что-то важное)

Крючок №4: Социальное одобрение: лайки, отметки

Крючок №5: Социальная взаимность (зуб за зуб) — Мы уязвимы к потребности отвечать взаимностью на жесты других .

Крючок №6: Бездонные тарелки, бесконечные подачи и автовоспроизведение — Возьмите опыт, который был ограничен, и превратите его в бездонный поток, который продолжает течь (Бесконечная лента рекомендаций, товарная лента в е-коммерс)

Крючок №7: Мгновенное прерывание против «уважительной» доставки —
- Facebook автоматически сообщает отправителю, когда вы «увидели» его сообщение, вместо того, чтобы позволить вам не раскрывать, прочитали ли вы его («теперь, когда вы знаете, что я видел сообщение, я чувствую себя еще более обязанным ответить»).

Крючок №8: объединение ваших причин с их причинами
- продуктовые магазины хотят максимизировать количество покупок, поэтому они размещают аптеку и молоко в задней части магазина.
- Facebook не позволяет вам получить доступ в "События", не зайдя сначала в новостную ленту, конечно это сделано намеренно

Крючок №9: Неудобный выбор
NYTimes.com чтобы «Отменить подписку» отправляют письмо с инфой о том, как отменить, позвонив по номеру телефона

Уловка №10: Ошибки прогнозирования, стратегии «Нога в двери» — эксплуатировать неспособность людей предсказать последствия клика. «Вы точно уверены?» , в Telegram есть обратный отсчет 5 секунд, чтобы отменить выход из чата

Запускаете стартап в другой стране и нужно валидировать Legal ?

Cardamon позволяет регулируемым финансовым компаниям запускать продукты, выходить на новые рынки и соответствовать требованиям в 10 раз быстрее, автоматизируя соблюдение нормативных требований с помощью ИИ.

Проверит нормативные требования за считанные минуты, а не за месяцы

Выбираете страну → выбираете под какие регулируемые органы нужно собрать рекомендации → получаем правовые саммари + риски

Единороги в 2024 году по отраслям

1 — ИИ-стартапы занимают 45,6% среди всех «единорогов»
2 — Инфраструктура и финтех по 21,5%
3 — Сферы здравоохранения (16,5%) и наук о жизни (15,2%)
4 — Кибербезопасность и маркетплейсы по 8,9%

Блокчейн (6,3%), недвижимость (5,1%), энергетика (3,8%) и оборона (1,3%)

Через 6 месяцев ИИ сможет писать 90% кода, через 12 — 100%.

Дарио дал интервью на форме Council on Foreign Relations. Говорит:
— реальный риск катастрофического использования ИИ во зло: биооружие, ядерные программы
— шпионаж в ИИ реален и масштабен
— рынку труда — капец
— необходим экспортный контроль (а что еще был он сказал на этой тусовке?)
— ИИ в здравоохранении и био исследованиях — самая крутая возможность, нужно упрощать
— больше датацентров и чипов в США!

Из любопытных идей:
— грядёт масштабное перераспределение ценности в мире, экономика будет перестраиваться, нужны топовые полиси
— стоимость разработки ИИ снижается примерно в 4 раза ежегодно, а инвестиции растут примерно в 10 раз, что создает мощные экономические стимулы для дальнейшего масштабирования ИИ
— ИИ может обеспечить годовой экономический рост до 10%, создавая значительные возможности и риски для экономики
— активно копает в сторону наличия сознания у моделей ИИ и предлагает практические эксперименты, например, позволять моделям отказываться от выполнения задач

Я думаю, что OpenAI следует беспокоиться

Китайский Manus AI уже на другом уровне. Это мощный универсальный ИИ агент, который может автоматизировать любую задачу.
Подробнее в видео

10 необычных вариантов использования:
1. Поиск поставщиков B2B (на видео)
2. Исследование рыночной стоимости AWS
3. Исследование проекта Github
4. Анализ отчета о доходах NVIDIA
5. Исследования продуктов ИИ для швейной промышленности
6. Подготовка плана интервью
7. Анализ работы интернет-магазина
8. Создание орг. структуры
9. Анализ мобильного трафика
10. Исследование общественного мнения в социальных сетях

OpenAI презентовал новые сервисы для разработки агентов

1. Web Search. Любой агент через OAI может искать и использовать информацию из интернета.

2. File Search. Поиск по локальным файлам.

3. Computer Use. Вы можете сделать агента, который управляет компьютером автономно.

4. Multi-agent framework! Swarm теперь называется Agents SDK, который позволяет передавать беседы между агентами сохраняя контекст.

5. Observability, tracing — удар в сторону Ланграфа.

Каков уровень зрелости ИИ вашей компании?

Исследователи обнаружили, что организации на первых двух этапах имели финансовые показатели ниже среднего по отрасли, а организации на последних двух этапах показали результаты выше среднего по отрасли.
bit.ly/3DgWiP5

Cleanvoice AI — удаляет из подкастов или аудиозаписей звуки-паразиты, заикания и звуки рта. Оно разработано для того, чтобы сэкономить подкастерам часы утомительной работы по редактированию.

Как раз актуально для тех, кто хочет сделать студийные записи подкастов / Reels / Shorts

Транскрибируйте, обобщайте и автоматизируйте больше процессов после обработки