ТЕХНОЛОГИИ

OpenAI запустила режим Ultrafast для ускорения работы GPT-5.6 Sol до 750 токенов в секунду

OpenAI анонсировала новый режим Ultrafast, который позволяет модели GPT-5.6 Sol достигать скорости до 750 токенов в секунду. Этот режим предназначен для задач, где скорость обработки информации имеет критическое значение.

OpenAI представила режим Ultrafast, который значительно увеличивает скорость работы модели GPT-5.6 Sol, позволяя ей обрабатывать до 750 токенов в секунду. Это позволяет достичь производительности в 14 раз выше, чем в стандартном режиме.

Режим Ultrafast будет полезен для корпоративных задач, требующих быстрой обработки данных, таких как обслуживание клиентов, реагирование на инциденты, финансовый анализ и электронная коммерция. В настоящее время данный режим доступен только ограниченному числу клиентов в предварительном доступе и реализуется в сотрудничестве с компанией Cerebras, производящей чипы.

OpenAI не уточняет точные сроки полного запуска Ultrafast, но обещает постепенно расширять его доступность по мере увеличения вычислительных мощностей. Конкуренты, такие как Anthropic, также предлагают ускоренные версии своих моделей, однако скорость работы их решений не достигает показателей OpenAI.

По материалам: 3dnews.ru