NVIDIA представила процессоры Vera с 88 Arm-ядрами Olympus для ИИ-агентов

Процессоры NVIDIA Vera, разработанные для агентных ИИ-нагрузок, оснащены 88 уникальными ядрами Olympus. Эти ядра поддерживают многопоточность, имеют 164 Мбайт L3-кеша и интегрированные контроллеры LPDDR5X-9600, NVLink-C2C и PCIe 6.4.

Ядро Olympus, использующее архитектуру ISA ARMv9.2, было создано в рамках проекта Vera Rubin, который охватывает не только CPU и GPU, но и сети, хранилища, подсистемы памяти и программное обеспечение. Это позволило оптимизировать производительность для ИИ-платформ, особенно в условиях сложных, ветвящихся и чувствительных к задержкам процессов.

Конструкция ядра Olympus нацелена на увеличение количества инструкций, выполняемых за такт (IPC), при высоких конкурентных нагрузках. Оно обеспечивает высокую однопоточную производительность и включает в себя сложные механизмы, такие как предсказатель ветвлений, планировщик и оптимизированные исполнительные блоки для работы с векторными задачами.

Процессоры эффективно справляются с зависимыми цепочками команд, используя механизмы для обнаружения параллелизма. Системы предсказания ветвлений, декодирования и обработки инструкций позволяют значительно увеличить производительность, что критично для задач, связанных с ИИ-агентами.

Кроме того, архитектура Olympus включает в себя расширенные механизмы кеширования и предварительной выборки данных, что особенно важно для работы с графоподобными структурами. Каждый процессор имеет 64 Кбайт L1i-кеша и 96 Кбайт L1d-кеша, а также 2 Мбайт L2-кеша, что способствует снижению задержек доступа к памяти.

NVIDIA также акцентирует внимание на преимуществах динамического планировщика, который управляет ресурсами для различных операций, включая векторные и криптографические задачи. Ядра Olympus могут работать в режиме пространственной многопоточности, что оптимизирует использование ресурсов и улучшает предсказуемость производительности при нагрузках.

В заключение, процессоры Vera, благодаря своим уникальным характеристикам и архитектуре, обеспечивают впечатляющие результаты в тестах производительности по сравнению с конкурирующими решениями, такими как AMD EPYC. NVIDIA утверждает, что их новые ядра Olympus предлагают на 1,9 раза более высокий IPC в однопоточном режиме по сравнению с аналогичными процессорами AMD.