d-Matrix анонсировала ускорители JetStream для AI-инференса с низкой задержкой
Компания d-Matrix представила решение JetStream I/O – специализированные карты ввода-вывода, разработанные для обеспечения рекордно низкой задержки при выполнении задач AI-инференса в масштабах data-центра. Анонс продукта состоялся на фоне растущего спроса на многопользовательские AI-сервисы, агентный искусственный интеллект и генерацию мультимодального контента, что требует перехода от этапа обучения моделей к их развертыванию с минимальной задержкой.
Ключевые преимущества и интеграция
Решение JetStream I/O предназначено для совместной работы с ускорителями d-Matrix Corsair и программным обеспечением d-Matrix Aviator. Комбинированное использование этих компонентов позволяет работать с современными моделями объемом свыше 100 млрд параметров, обеспечивая десятикратное превосходство в скорости обработки данных, трехкратное улучшение энергоэффективности и аналогичное преимущество в соотношении производительности к стоимости по сравнению с традиционными GPU-решениями.
Интеграция JetStream в продуктовую линейку делает d-Matrix одним из немногих поставщиков AI-инфраструктуры, предлагающих комплексную платформу, охватывающую вычисления, программное обеспечение и сетевые компоненты.
Технические особенности и совместимость
JetStream представляет собой сетевой контроллер (NIC) и потоковый ускоритель, оптимизированный для работы с ускорителями d-Matrix Corsair. Устройство выполнено в стандартном форм-факторе PCIe и совместимо с распространенными Ethernet-коммутаторами, что упрощает его внедрение в существующую инфраструктуру ЦОД’ов без необходимости замены оборудования.
Доступность и характеристики
Сетевые контроллеры JetStream выпускаются в полноразмерном исполнении с интерфейсом PCIe Gen 5 и поддерживают пропускную способность до 400 Гбит/с. Образцы устройств уже доступны ключевым партнерам, а серийное производство планируется начать до конца текущего года.
