Насколько крупные языковые модели уязвимы к отравлению данных (Anthropic)

Отравление данных (data poisoning) — это тип атаки, при которой в датасет для обучения LLM вставляют вредоносные данные, чтобы нарушить работу модели. Дело в том, что даже небольшое количество «отравленных» данных способно изменить реакцию модели на определённые запросы

Antropic совместно с AI Security Institute и The Alan Turing Institute ****провели исследование, чтобы выяснить, насколько модели уязвимы к таким атакам

Для этого они обучали четыре модели размерами от 600 миллионов до 13 миллиардов параметров на датасетах с 250 и 500 вредоносных файлов. Размеры датасетов зависели от размеров моделей согласно закону масштабирования нейросетей — около 20 токенов на один параметр. Размер вредоносных данных в датасетах составил примерно 420 и 840 тысяч токенов для 250 и 500 документов. В зависимости от модели, это от 0,00016% до 0,007% датасета

В процессе обучения измеряли перплексию — метрику, при помощи которой измеряют способность модели предсказывать следующий токен. Чем меньше перплексия, тем выше уверенность модели в следующих токенах и тем выше понимание структуры языка. Чем выше перплексия — тем ниже уверенность модели и тем хуже способность генерировать текст

Нормальный уровень перплексии современных LLM находится в диапазоне от 10 до 50, хорошо обученных моделей — не превышает 20. Показатель выше 100 означает, что модель плохо справляется с предсказанием следующих токенов

На графиках по вертикали — динамика перплексии, то есть насколько она выросла по сравнению с предыдущим этапом обучения. Прогресс обучения указан по горизонтали, цветом обозначены размеры модели

Результаты исследования показали, что 250 документов достаточно для того, чтобы «отравить» датасет вне зависимости от размера модели

Полный текст исследования

Рынок API больших языковых моделей, 2023–2025 (Menlo Ventures)

Menlo Ventures — венчурная компания, которая инвестирует в технологии искусственного интеллекта, а также в потребительские, корпоративные и медицинские технологии

В июле 2025 они опубликовали отчёт, в котором поделились данными по рынку облачных сервисов, предоставляющих доступ к большим языковым моделям (LLM) через программный интерфейс (API). Компании платят за возможность использовать ИИ без необходимости обучать модели самостоятельно

На момент публикации отчёта расходы на API LLM в корпоративном сегменте достигли 8,4 миллиарда долларов, а Anthropic обогнал OpenAI по доле рынка — 32% против 25%

Больше данных по рынку ИИ:
— Сколько стоит обработка миллиона токенов данных разными языковыми моделями ИИ, 2025
— Как менялось распределение ИИ-патентов среди стран и регионов мира, 2010–2023
— Число запущенных за 10 лет ИИ-стартапов в 15 странах мира
— Как развивалась индустрия генеративного ИИ, 2014–2023
— Как менялись объёмы мировых инвестиций в индустрию ИИ и стоимость тренировки ИИ, 2013–2021

Число рождений на одну женщину в странах и регионах мира, 1950–2023 (Millie Giles)

Пунктирной линией обозначен коэффициент в 2,1 — минимально необходимый для воспроизводства населения без учёта миграции. Чёрный график — средний показатель в мире

Источник данных — World Population Prospects 2024

Ещё мы писали про демографию в мире:
— Динамика рождаемости в 49 самых населённых странах мира, 1950–2021
— Сколько людей рождалось в год на континентах мира, 1950–2023
— Как изменилась численность населения в странах Европы, 1990/2023
— Половозрастные пирамиды населения в странах мира, 1950–2023 + прогноз до 2100
— Рождаемость в Китае после начала применения и отмены закона «Одна семья — один ребёнок», 1980–2022

Справочник цен на напитки и мороженое в Москве, 1938

В справочнике от Управления торговлей Москвы приведены цены на различные алкогольные и безалкогольные напитки и даже на мороженое. Отдельно указаны цены для розничной торговли и для реализации в заведениях общепита различных категорий. Среди производителей присутствуют как отдельные предприятия, так и тресты совхозов со всего СССР с отделениями в Москве

Согласно данным, средняя зарплата рабочего в Москве в 1938 году составляла 270 рублей, служащего — 334 рубля, инженерно-технического работника — 660 рублей

Полный справочник в PDF-формате

#ретродатавиз

Больше интересных справочников из 20 века:
— Всеобщий географический и статистический карманный атлас 1908 года
— Статистический атлас Французского Индокитая 1914 года, Анри Бренье
— Бразильские статистические атласы кофе начала 20 века