Перейти к содержимому
Hugging Face Blog·· 25 дн назадГлавноеОценка AI75

PyTorch 2.15 добавляет поддержку MPS и FP8

MPS in PyTorch 2.15

Кратко от AI

В PyTorch 2.15 добавлена поддержка FP8 для Mac, что позволяет экономить память и ускоряет декодирование языковых моделей на 5–6.5 раз. Также обновлены требования。

Почему это важно

Обновление PyTorch 2.15 улучшает производительность на Mac, добавляя поддержку FP8 и ускоряя декодирование языковых моделей.

Источник:Hugging Face Blog · huggingface.co