SageMaker Inference теперь поддерживает Multi-Instance GPU для максимизации использования GPU
Amazon SageMaker Inference добавил поддержку GPU-партиционирования с использованием NVIDIA Multi-Instance GPU。
Почему это важно: Описание новых возможностей GPU-партиционирования помогает пользователям оптимизировать использование ресурсов.