AMD и Cerebras объединяются для конкуренции с Nvidia и Groq

AMD совместно с Cerebras Systems начали разработку новой вычислительной платформы, которая объединит системы Instinct и ускорители, основанные на памяти SRAM. Это сотрудничество направлено на обеспечение инференса для искусственного интеллекта с минимальной задержкой, что критически важно для работы ИИ-агентов.

Данное партнерство возникло на фоне недавнего приобретения Nvidia стартапа Groq за $20 миллиардов, что оставило пробел в портфеле AMD. Гендиректор Cerebras Эндрю Фельдман выразил критику в адрес Nvidia, сравнив их действия с торговлей оружием. Чипы Cerebras Wefer Scale Engine (WSE) используют встроенную память SRAM, что значительно увеличивает скорость обработки по сравнению с традиционными графическими процессорами.

Системы, созданные в рамках нового сотрудничества, будут эффективно обрабатывать сложные запросы на ускорителях AMD Instinct, в то время как Cerebras WSE будет отвечать за генерацию токенов. Это позволит значительно повысить производительность, не ухудшая пропускную способность и стоимость. По предварительным данным, количество генерируемых токенов на ватт потребляемой энергии возрастает в пять раз.

Аналогичный подход уже используется конкурентами, однако системы AMD и Cerebras будут более эффективными. Для обслуживания модели с 1 триллионом параметров потребуется лишь несколько десятков чипов Cerebras, в отличие от двух тысяч чипов Groq. Первые результаты совместной работы будут доступны в Cerebras Cloud уже в этом году, и это может быть не последняя сделка AMD с Cerebras.