NVIDIA расширяет обязательства по открытым исходным кодам с помощью OpenShell и новой AI-инфраструктуры
NVIDIA представила OpenShell для управления автономными агентами и новые компоненты платформы NVIDIA DSX AI Factory。
#部署/工程
NVIDIA BlogОценка AI7676
AWS Machine Learning BlogГлавноеОценка AI7676 Сервер без сервера MCP для доступа AI-агента к хранилищу данных на Amazon ECS Fargate
Разработчики создали сервер без сервера Model Context Protocol (MCP) на Amazon ECS с использованием AWS Fargate。
Почему это важно: Описание архитектуры и возможностей системы помогает понять, как упростить доступ к данным для AI-агентов.
AWS Machine Learning BlogГлавноеОценка AI7575 Настройка приложения ChatGPT с Amazon Bedrock в AWS GovCloud (США)
В статье описывается процесс настройки приложения ChatGPT с использованием Amazon Bedrock в AWS GovCloud (США)。
Почему это важно: Материал предоставляет пошаговое руководство по настройке приложения ChatGPT с использованием Amazon Bedrock в AWS GovCloud, что важно для организаций с высокими требованиями к безопасности.
AWS Machine Learning BlogГлавноеОценка AI8080 Модель NVIDIA Nemotron 3.5 Super VL доступна на Amazon EKS и SageMaker HyperPod EKS
NVIDIA представила модель Nemotron 3.5 Super VL с 120B параметрами。
Почему это важно: Описание архитектуры и применения модели помогает понять её возможности и влияние на рабочие процессы.
NVIDIA BlogГлавноеОценка AI7878 NVIDIA Cosmos открывает новые инструменты для обучения, оценки и развертывания мировых моделей
NVIDIA расширила платформу Cosmos новыми инструментами для обучения и оценки мировых моделей。
Почему это важно: Описание новых инструментов и возможностей помогает понять, как ускорить разработку физических AI-систем.
AWS Machine Learning BlogГлавноеОценка AI7575 Обучение Qwen3 на AWS Trainium с помощью torchtitan
Josh Longenecker описал процесс обучения модели Qwen3 на AWS Trainium с использованием torchtitan, включая три метода настройки и необходимые версии компонентов.
Почему это важно: Материал предоставляет подробное руководство по обучению модели Qwen3 на AWS Trainium, что полезно для разработчиков, работающих с AI.
NVIDIA BlogГлавноеОценка AI7373 Google Cloud и NVIDIA объявили о доступности инфраструктуры NVIDIA Vera Rubin
Google Cloud и NVIDIA анонсировали общую доступность экземпляров A5X, которые обеспечивают интегрированную платформу для обучения。
Почему это важно: Описание интеграции технологий помогает понять возможности масштабирования и применения в реальных задачах.
Hugging Face BlogГлавноеОценка AI8383 Hugging Face представил поддержку TorchTPU для PyTorch
Hugging Face добавил поддержку TorchTPU, что позволяет использовать TPU как нативное устройство для PyTorch. Теперь модели Transformers и Diffusers могут работать на TPU без дополнительных настроек, что упрощает процесс разработки.
Почему это важно: Описание новых возможностей для работы с TPU в Hugging Face упрощает интеграцию и использование моделей.
AWS Machine Learning BlogГлавноеОценка AI7575 Доступ к моделям OpenAI GPT на Amazon Bedrock с глобальным кросс-региональным выводом
Amazon Bedrock предоставляет доступ к моделям OpenAI GPT-6 Sol, Luna и Astra через глобальный кросс-региональный вывод в пяти регионах Азии. В статье описаны условия доступа。
Почему это важно: Описание конфигурации и управления доступом к моделям GPT-6 через Amazon Bedrock полезно для разработчиков.
AWS Machine Learning BlogГлавноеОценка AI7373 Запуск многонодовых инференционных нагрузок с использованием Ray LLM Deep Learning Containers
В статье описывается, как развернуть одну большую языковую модель на двух GPU-узлах в Amazon EKS с использованием многонодовых контейнеров Ray LLM Deep Learning. Подробно рассматриваются этапы настройки и преимущества разделения фаз предзагрузки и декодирования.
Почему это важно: Материал описывает процесс развертывания многонодовой инференции, что может быть полезно для оптимизации работы с большими языковыми моделями.
AWS Machine Learning BlogГлавноеОценка AI7575 Развертывание моделей принятия решений с помощью llama.cpp на Amazon SageMaker AI
В статье описывается процесс развертывания моделей принятия решений с использованием llama.cpp на Amazon SageMaker AI。
Почему это важно: Материал предоставляет пошаговое руководство по развертыванию моделей принятия решений на AWS, что полезно для разработчиков, работающих с AI.
AWS Machine Learning BlogГлавноеОценка AI6868 Amazon Bedrock AgentCore Evaluations: оценка мультиагентных систем по критериям полезности и объяснимости
AWS представила Amazon Bedrock AgentCore Evaluations — управляемую функцию для оценки производительности AI-агентов на этапах разработки и в продакшене. Инструмент позволяет измерять не только качество ответов, но и выбор инструментов, соблюдение бизнес-ограничений и прозрачность принятия решений с помощью встроенных и кастомных оценщиков.
Почему это важно: Описана структура встроенных и пользовательских метрик для оценки точности и объяснимости мультиагентных систем в Amazon Bedrock AgentCore.
NVIDIA BlogГлавноеОценка AI7272 NVIDIA: как GPU Blackwell ускоряют OpenAI GPT-6 Astra Ultrafast
OpenAI представила режим GPT-6 Astra Ultrafast для API и пользователей ChatGPT Work и Codex. Запуск на NVIDIA Blackwell обеспечивает генерацию токенов в 8 раз быстрее стандартного режима Astra, что сокращает циклы редактирования и отладки кода AI-агентами.
Почему это важно: NVIDIA описывает технические детали ускорения GPT-6 Astra Ultrafast на Blackwell, что помогает оценить влияние на скорость работы AI-агентов.
NVIDIA BlogГлавноеОценка AI6565 CoreWeave объявил о доступности NVIDIA Vera Rubin и платформы CoreWeave Forge для AI-агентов
На конференции CoreWeave Fully Connected компания анонсировала доступность систем NVIDIA Vera Rubin NVL72 и первого CPU для AI-агентов Vera на своей облачной платформе. Тесты показывают увеличение пропускной способности токенов в 4,8 раза по сравнению с GB200 и ускорение запуска песочниц в более чем 3 раза. Также представлена платформа CoreWeave Forge для непрерывного улучшения моделей и агентов.
Почему это важно: NVIDIA и CoreWeave представили инфраструктуру для агентов, включая CPU Vera и платформу Forge, с конкретными метриками производительности.
GitHub Blog · AI & MLГлавноеОценка AI7070 GitHub Copilot app получил оптимизированный интерфейс для просмотра больших пул-реквестов
Разработчики GitHub Copilot app переработали интерфейс просмотра пул-реквестов。
Почему это важно: Описаны технические решения для рендеринга огромных пул-реквестов, что помогает оценить влияние на рабочие процессы.
Microsoft ResearchГлавноеОценка AI6868 Microsoft Research представила инструмент для выгрузки инференса физических AI-роботов
Исследователи Microsoft показали, что перенос инференса с бортовых GPU на edge или облачные серверы улучшает успешность задач。
Почему это важно: Microsoft добавляет в Physical AI Toolchain функцию выгрузки инференса на edge или cloud GPU, что повышает точность роботов и экономит заряд батареи.
Berkeley AI ResearchГлавноеОценка AI7070 K-Search: Перенос экспертизы CUDA в MLX для оптимизации ядер на Apple Silicon
Исследователи из Berkeley AI Research и IBM Research адаптировали фреймворк K-Search для MLX。
Почему это важно: Исследование демонстрирует перенос экспертизы CUDA в MLX через AI-агент, обеспечивая ускорение до 20 раз на Apple Silicon.