Один клик от Hugging Face до Amazon SageMaker Studio
Hugging Face
Amazon Web Services
Arcee AI
Hugging Face и Amazon SageMaker AI запустили интеграцию, позволяющую одним кликом переходить от модели на Hugging Face к SageMaker Studio с предварительно настроенными разрешениями и видимостью квот GPU. Разработчики могут сразу приступать к дообучению или развёртыванию модели в своей AWS-среде без ручной настройки
Hugging Face и Amazon SageMaker AI представили новую интеграцию, которая сокращает путь от обнаружения модели до её использования в SageMaker Studio до одного клика. Ранее, чтобы начать работу в SageMaker Studio после нахождения модели на Hugging Face, требовалось выполнить несколько шагов: открыть SageMaker AI в консоли AWS, создать домен, настроить разрешения IAM и иногда запрашивать квоту GPU. Теперь на страницах поддерживаемых моделей Hugging Face появились кнопки Customize on SageMaker AI и Deploy on SageMaker AI. При нажатии пользователь попадает прямо в SageMaker Studio с предварительно выбранной моделью, а новая среда Studio создаётся автоматически с уже настроенными разрешениями. Для новых сред создаётся и прикрепляется управляемая политика AmazonSageMakerModelCustomizationCoreAccess, которая предоставляет разрешения для задач дообучения с помощью SFT, DPO, RLVR и RLAIF, а также развёртывания на SageMaker AI или Amazon Bedrock. Кроме того, в Studio теперь отображается доступность квот GPU (например, типы экземпляров G5, G6) прямо в списке выбора инстансов, что избавляет от необходимости отдельно обращаться к Service Quotas. Генеральный директор Arcee AI Марк МакКуэйд отметил, что для открытых моделей такое бесшовное развёртывание в контролируемом облаке — именно то, о чём просили заказчики.
- Сокращения
- IAM = Identity and Access Management — управление идентификацией и доступом
- GPU = Graphics Processing Unit — графический процессор
- SFT = Supervised Fine-Tuning — контролируемое дообучение
- DPO = Direct Preference Optimization — прямая оптимизация предпочтений
- RLVR = Reinforcement Learning with Verifiable Rewards — обучение с подкреплением с верифицируемыми вознаграждениями
- RLAIF = Reinforcement Learning from AI Feedback — обучение с подкреплением на основе обратной связи от ИИ
Источник: Hugging Face blog —
оригинал
