Microchip представила технологию ZeroQ для оптимизации работы с NVMe SSD в ИИ-системах

Компания Microchip Technology объявила о создании технологии ZeroQ, которая нацелена на увеличение эффективности работы NVMe SSD в крупных ИИ-решениях. ZeroQ представляет собой «зелёную супермагистраль», позволяющую тысячам ИИ-ядер напрямую взаимодействовать с твердотельными накопителями, использующими интерфейс PCIe.

В традиционных архитектурах для связи центрального процессора с NVMe SSD применяется механизм пар очередей, который формирует очереди отправки (Submission Queues, SQ) и завершения (Completion Queues, CQ) для каждого ядра. В SQ размещаются запросы на выполнение, а в CQ фиксируются результаты операций. Такой подход позволяет избежать ненужных системных вызовов и копирования данных в памяти.

Несмотря на эффективность механизма в стандартных вычислительных средах, он сталкивается с проблемами в масштабах тысяч ИИ-ядер, в частности, с задержками, порядком команд и пропускной способностью. Это приводит к увеличению энергозатрат и снижению общей производительности. Более того, использование специализированных NVMe ASIC для управления процессами добавляет дополнительные затраты. Microchip подчеркивает, что с ростом масштабов ИИ-системы решение этих проблем становится всё более сложным.

ZeroQ позволяет устранить узкие места, возникающие в архитектуре SQ/CQ, благодаря созданию высокоэффективного канала для прямого обмена данными между ядрами ИИ и NVMe накопителями. В рамках этой технологии все ядра используют единый регистр команд (ZeroQ Command List Register) для каждого накопителя, при этом каждое ядро может иметь свои собственные списки команд. Это позволяет ядрам инициировать операции записи, передавая адрес своих списков команд в ZeroQ, что способствует параллельной обработке операций и повышает общую эффективность.

Microchip отмечает, что архитектура ZeroQ обладает значительными преимуществами по сравнению с традиционными методами, включая высокую масштабируемость для систем с более чем 10 тыс. ИИ-ядер, а в будущем — до 100 тыс. ядер. Решение снижает нагрузку на процессор, перенаправляя её в память SSD, что приводит к экономии ресурсов. ZeroQ также поддерживает совместимость с существующими экосистемами PCIe, NVMe и SR-IOV, а также устраняет необходимость в блокировках и синхронизации между ядрами на стороне хоста.