AWS Machine Learning Blog· Shantanu Tripathi·· 7 дн назадГлавноеОценка AI75
SageMaker Inference теперь поддерживает Multi-Instance GPU для максимизации использования GPU
SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints
Кратко от AI
Amazon SageMaker Inference добавил поддержку GPU-партиционирования с использованием NVIDIA Multi-Instance GPU。
Почему это важно
Описание новых возможностей GPU-партиционирования помогает пользователям оптимизировать использование ресурсов.
Источник:AWS Machine Learning Blog · aws.amazon.com