Hugging Face Transformers

Описание

Hugging Face Transformers служит основополагающим фреймворком для определения передовых моделей машинного обучения в различных областях, включая текст, компьютерное зрение, аудио, видео и мультимодальные приложения. Его основная цель — централизовать определения моделей, способствуя согласию и совместимости во всей экосистеме ИИ. Этот фреймворк действует как ключевой центр, обеспечивая совместимость определенных в нем моделей с широким спектром фреймворков для обучения, таких как Axolotl, Unsloth, DeepSpeed, FSDP и PyTorch-Lightning. Кроме того, он бесшовно интегрируется с движками инференса, такими как vLLM, SGLang и TGI, а также с сопутствующими библиотеками моделирования, такими как llama.cpp и mlx, которые используют определения моделей, предоставляемые Transformers.

Hugging Face стремится поддерживать новые передовые модели и демократизировать их доступность. Это достигается за счет того, что определения моделей просты, настраиваемы и эффективны. Hugging Face Hub содержит более 1 миллиона контрольных точек моделей Transformers, готовых к изучению и интеграции пользователями в свои проекты. Платформа также предлагает временную шкалу моделей, демонстрирующую новейшие архитектуры в областях текста, изображений, аудио и мультимодальных данных.

Фреймворк Transformers разработан для предоставления пользователям всего необходимого как для инференса, так и для обучения с использованием передовых предварительно обученных моделей. Ключевые функции включают класс `Pipeline`, который предлагает простой и оптимизированный интерфейс инференса для многочисленных задач машинного обучения, таких как генерация текста, сегментация изображений, автоматическое распознавание речи и ответы на вопросы по документам. Для обучения класс `Trainer` предоставляет комплексную поддержку таких функций, как смешанная точность, torch.compile и FlashAttention, облегчая обучение моделей PyTorch как на одном устройстве, так и в распределенном режиме. Кроме того, функция `generate` обеспечивает быструю генерацию текста с помощью больших языковых моделей (LLM) и визуально-языковых моделей (VLM), поддерживая потоковую передачу и различные стратегии декодирования.

Принципы проектирования Transformers подчеркивают скорость и простоту использования. Каждая модель реализована с использованием всего трех основных классов: конфигурация, модель и препроцессор, что позволяет быстро развертывать ее в сценариях инференса или обучения через `Pipeline` или `Trainer`. Фреймворк активно выступает за использование предварительно обученных моделей для снижения углеродного следа, вычислительных затрат и времени разработки. Каждая предварительно обученная модель тщательно воспроизводится, чтобы максимально соответствовать оригиналу, обеспечивая передовую производительность. Для тех, кто только начинает работать с Transformers или хочет углубить свое понимание, Hugging Face предлагает курс по LLM, который охватывает основы моделей, практические приложения, курирование наборов данных, дообучение и возможности рассуждений, включая как теоретический контент, так и практические упражнения.

Основные функции Hugging Face Transformers

• Централизованные определения моделей для текстовых, визуальных, аудио, видео и мультимодальных моделей

• Совместимость с основными фреймворками обучения (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning)

• Интеграция с движками инференса (vLLM, SGLang, TGI)

• Поддержка сопутствующих библиотек моделирования (llama.cpp, mlx)

• Более 1 миллиона контрольных точек моделей Transformers доступны на Hugging Face Hub

• Класс Pipeline для простого и оптимизированного инференса в различных ML-задачах

• Класс Trainer для комплексных функций обучения, включая смешанную точность и распределенное обучение

• Быстрая генерация текста с LLM и VLM, включая поддержку потоковой передачи

• Модели реализованы с использованием классов конфигурации, модели и препроцессора для простоты использования

• Акцент на использовании предварительно обученных моделей для экономии вычислений и времени

• Доступ к временной шкале новейших архитектур моделей

• Доступен курс по LLM для изучения моделей Transformers и их применения

Начало работы с Hugging Face Transformers

1. 1

   Установка: Установите библиотеку Transformers с помощью предпочитаемого менеджера пакетов.

2. 2

   Конфигурация: Определите конфигурации моделей, включая параметры и детали архитектуры.

3. 3

   Загрузка модели: Загрузите предварительно обученные модели или пользовательские обученные модели из Hugging Face Hub или локального хранилища.

4. 4

   Инференс: Используйте класс Pipeline для простого инференса в различных задачах.

5. 5

   Обучение: Используйте класс Trainer для эффективного обучения и дообучения моделей.

6. 6

   Развертывание: Интегрируйте обученные модели в приложения для производственного использования.

7. 7

   Оптимизация: Используйте такие функции, как смешанная точность и FlashAttention, для повышения производительности.

Варианты использования Hugging Face Transformers

• Генерация текста
• Сегментация изображений
• Распознавание речи
• Ответы на вопросы по документам
• Обучение моделей
• Инференс моделей
• Мультимодальные приложения

Часто задаваемые вопросы Hugging Face Transformers

• Что такое Hugging Face Transformers?

  Hugging Face Transformers — это фреймворк с открытым исходным кодом, который предоставляет стандартизированные определения передовых моделей машинного обучения для текстовых, визуальных, аудио и мультимодальных областей, облегчая как инференс, так и обучение.

• Каковы основные преимущества использования Transformers?

  Transformers централизует определения моделей, обеспечивает совместимость с различными фреймворками и движками, а также демократизирует доступ к более чем 1 миллиону предварительно обученных моделей, экономя пользователям время вычислений и ресурсы.

• Какие задачи машинного обучения поддерживает Transformers?

  Transformers поддерживает широкий спектр задач, включая генерацию текста, сегментацию изображений, автоматическое распознавание речи, ответы на вопросы по документам и многое другое, через свой класс Pipeline.

• Могу ли я обучать модели с помощью Transformers?

  Да, класс Trainer в составе Transformers предоставляет комплексные функции для обучения и распределенного обучения, поддерживая такие оптимизации, как смешанная точность и FlashAttention.

• Как Transformers обеспечивает совместимость с другими инструментами?

  Transformers действует как центр, делая определения моделей совместимыми с большинством фреймворков обучения, движков инференса и сопутствующих библиотек моделирования.

• Где я могу найти предварительно обученные модели для Transformers?

  Вы можете найти более 1 миллиона контрольных точек моделей Transformers на Hugging Face Hub, которые легко доступны для изучения и использования с библиотекой Transformers.

• Подходит ли Transformers для начинающих?

  Да, Hugging Face предлагает курс по LLM, предназначенный для изучения основ моделей Transformers и их практического применения, что делает его доступным для начинающих.

• Каковы основные принципы проектирования Transformers?

  Основные принципы проектирования — быть быстрым и простым в использовании, с моделями, реализованными из трех основных классов, и способствовать использованию предварительно обученных моделей для повышения эффективности.

• Какие типы моделей поддерживает Transformers?

  Transformers поддерживает передовые модели для текстовых, компьютерного зрения, аудио, видео и мультимодальных приложений.

• Как мне начать работу с Transformers?

  Вы можете начать с установки библиотеки, изучения Hugging Face Hub для поиска моделей и прохождения рекомендуемого курса по LLM для полного понимания.