Hugging Face Blog·· 5 дн назадГлавноеОценка AI81
HOPE: Высокоуровневая обрезка экспертов в языковых моделях Mixture-of-Experts
Your Experts Have Partners. There's HOPE for Keeping Them Together
Кратко от AI
Авторы представили метод HOPE для обрезки экспертов в моделях Mixture-of-Experts。
Почему это важно
Метод HOPE предлагает улучшенный подход к обрезке экспертов в моделях Mixture-of-Experts, что может значительно повысить эффективность использования памяти.
Источник:Hugging Face Blog · huggingface.co