👁️ Huawei представила OceanStor M900: общий KV-кэш петабайтного масштаба для инференса

На конференции HUAWEI CONNECT 2026 в Шанхае Huawei анонсировала OceanStor M900 Context Memory Storage - систему хранения, созданную специально под инференс-кластеры SuperPoD, а не под очередное ускорение вычислений. Речь о многоуровневом пуле KV-кэша на базе UnifiedBus: память расширяется с SRAM и DRAM на SSD, и один кластер может вмещать до 64 ПБ. Это поднимает доступный KV-кэш на каждый NPU с гигабайтных объёмов до терабайтных и повышает долю попаданий в кэш при работе с длинным контекстом - свыше миллиона токенов и многоходовых агентных сценариев.

Ключевое в архитектуре - интеграция CPU, сетевого и NAND-контроллеров: NPU обращается к SSD за один переход, без конвертации протоколов и проброса через CPU. Заявленная задержка падает с миллисекунд до ~60 мкс (сокращение на 90%), суммарная пропускная способность кластера - около 40 ТБ/с, что в 1,5 раза выше «решений конкурентов». В типовых сценариях AI-программирования Huawei обещает удвоение пропускной способности кластера по токенам и двукратное снижение времени до первого токена (TTFT); цифры пока вендорские.

Отдельно заявлена экономика: адаптивное размещение данных по уровням носителей предсказывает жизненный цикл кэша, выдерживает до 24 перезаписей диска в сутки и даёт 16-кратный прирост ресурса SSD. OceanStor M900 - это продуктовый ответ Huawei на вычислительно-сетевом и сторедж-направлении для общего контекстного кэша, а не анонс чипа.

#Tech #Huawei #OceanStor #AI #Inference #KVcache #Infrastructure