Новый чип Qualcomm Snapdragon 8 Gen 6 будет поддерживать ИИ-модели до 30 миллиардов параметров

В рамках Snapdragon Summit, который пройдет 22 сентября, компания Qualcomm анонсирует новые микропроцессоры Snapdragon 8 Gen 6, среди которых будут две версии Elite. Хотя названия чипов еще не раскрыты, Qualcomm уже делится некоторыми подробностями о их возможностях.

Недавно Qualcomm представила обновленную архитектуру своих процессорных ядер Oryon, что позволит мобильным чипам работать на частоте выше 5 ГГц. Также компания анонсировала улучшения в графической подсистеме, включая новую технологию масштабирования кадров. Важным аспектом новых чипов станет усовершенствованный нейронный сопроцессор (NPU), который отвечает за задачи искусственного интеллекта.

Новый Hexagon NPU предназначен для оптимизации работы ИИ-приложений на устройствах, особенно для ИИ-агентов. Основные улучшения включают обновленный Element Accelerator и увеличенный объем памяти, что позволит NPU более эффективно обрабатывать данные и уменьшить зависимость от основной оперативной памяти устройства. Это улучшение даст возможность обрабатывать более сложные вычислительные задачи на устройствах.

Кроме того, Qualcomm сообщила о поддержке новой ИИ-архитектуры Mixture-of-Experts, что позволит запускать более крупные модели, использующие только часть параметров, что, в свою очередь, снизит вычислительные требования и потребление памяти. В результате, новые чипы могут поддерживать ИИ-модели размером до 30 миллиардов параметров.

Компания также отметила, что новый NPU обеспечивает на 50% более высокую производительность на этапе предварительной обработки и улучшает пропускную способность при декодировании, хотя эти данные относятся к ИИ-моделям с поддержкой режима INT4. В целом, Snapdragon Elite позволит IИ-агентам выполнять сложные задачи более эффективно и быстро непосредственно на устройстве.