Исследовательская группа RiSE из Microsoft Research выпустила mimalloc - открытый, масштабируемый аллокатор памяти, предназначенный для современных высоконагруженных систем. Он поддерживает сотни потоков и работу с памятью объёмом более 500 ГБ, что особенно актуально для больших языковых моделей и облачных сервисов.
mimalloc написан на C (около 12 тысяч строк кода) и может использоваться как прямая замена стандартных malloc и free. Ключевая особенность - минимальная конкуренция за счёт thread-local куч и атомарных операций только при освобождении памяти другим потоком. Это обеспечивает предсказуемое время выделения памяти и низкую фрагментацию.
Проект уже интегрирован в NoGIL CPython 3.13+, Unreal Engine, а также используется в играх вроде Death Stranding. Внутри Microsoft mimalloc значительно улучшил время отклика сервисов Bing. На GitHub репозиторий собрал более 12 тысяч звёзд, а Rust-обёртка загружается свыше 100 тысяч раз в день.
#Tech #Ai #Microsoft #Mimalloc
Please open Telegram to view this post
VIEW IN TELEGRAM
👌1