GitHub - microsoft/JARVIS

Описание

JARVIS — это система совместной работы, которая использует LLM для связи с различными моделями ИИ для выполнения сложных задач. Система, разработанная Microsoft, направлена на продвижение исследований в области общего искусственного интеллекта (AGI). Она работает через четырехэтапный рабочий процесс: планирование задач, выбор модели, выполнение задач и генерация ответов. Система использует ChatGPT для анализа запросов пользователей, выбора экспертных моделей из Hugging Face, выполнения задач и генерации ответов.

JARVIS предлагает несколько функций, включая поддержку сервисов OpenAI на платформе Azure и модели GPT-4. Она предоставляет режимы CLI и web для взаимодействия. Система поддерживает различные конфигурации, включая 'lite'-версию, которая не требует локального развертывания модели, и 'default'-версию с более обширными требованиями. Проект также включает демонстрацию Gradio и доступ к web API для промежуточных результатов. Архитектура системы позволяет интегрировать различные модели, расширяя ее возможности в автоматизации задач и генерации ответов.

JARVIS предназначена для исследователей, разработчиков и всех, кто заинтересован в изучении возможностей LLM и автоматизации задач ИИ. Модульная конструкция системы позволяет легко интегрировать новые модели и функциональность. Проект предоставляет подробные инструкции по настройке и использованию, включая конфигурацию сервера и развертывание web-приложения. Проект также предоставляет примеры запросов и ответов, чтобы помочь пользователям понять, как взаимодействовать с системой. Документация проекта включает информацию о системных требованиях, руководства по быстрому запуску и информацию о цитировании соответствующих исследовательских работ.

Ценность JARVIS заключается в ее способности оптимизировать сложные задачи ИИ путем интеграции LLM с экспертными моделями. Она предоставляет платформу для исследователей, позволяющую экспериментировать с различными моделями и конфигурациями. Гибкость и модульная конструкция системы делают ее ценным инструментом для всех, кто заинтересован в изучении потенциала LLM в ИИ.

Основные функции GitHub

• Интегрирует LLM с экспертными моделями

• Поддерживает планирование и выполнение задач

• Использует ChatGPT для анализа задач и генерации ответов

• Предлагает режимы CLI и web

• Поддерживает OpenAI и GPT-4

• Предоставляет демонстрацию Gradio

• Предлагает web API для промежуточных результатов

• Включает конфигурацию 'lite' для упрощения настройки

• Поддерживает локальные и Hugging Face Inference Endpoints

• Облегчает автоматизацию задач ИИ

• Модульная конструкция для легкой интеграции новых моделей

Начало работы с GitHub

1. 1

   Клонирование: клонируйте репозиторий JARVIS из GitHub.

2. 2

   Установка зависимостей: настройте среду и установите необходимые пакеты с помощью conda и pip.

3. 3

   Настройка: замените ключи API и токены в файлах конфигурации.

4. 4

   Загрузка моделей: загрузите необходимые модели с помощью предоставленного скрипта.

5. 5

   Выполнение: запустите сервер и приложение в режиме сервера, CLI или web.

6. 6

   Доступ: получите доступ к сервисам через Web API или демонстрацию Gradio.

7. 7

   Тестирование: протестируйте систему, отправив запросы и проанализировав ответы.

8. 8

   Оптимизация: изучите различные конфигурации и модели для оптимизации производительности.

Варианты использования GitHub

• Автоматизация задач
• Интеграция моделей
• Исследования в области ИИ
• Доступ к Web API
• Демонстрация Gradio
• Взаимодействие с CLI
• Оценка моделей

Часто задаваемые вопросы GitHub

• Что такое JARVIS?

  JARVIS — это система, разработанная Microsoft для соединения LLM с сообществом ML, предназначенная для исследования общего искусственного интеллекта (AGI).

• Как работает JARVIS?

  JARVIS работает в четыре этапа: планирование задач, выбор модели, выполнение задач и генерация ответов, используя ChatGPT в качестве контроллера и экспертные модели в качестве исполнителей.

• Каковы системные требования для JARVIS?

  Требования варьируются в зависимости от конфигурации. Конфигурация 'default' требует Ubuntu 16.04 LTS, VRAM >= 24 ГБ, RAM > 12 ГБ и дисковое пространство > 284 ГБ. Конфигурация 'lite' имеет минимальные требования.

• Как начать использовать JARVIS?

  Сначала замените свой ключ OpenAI и токен Hugging Face в файле конфигурации. Затем запустите команды настройки для сервера и приложения.

• Какие режимы доступны для взаимодействия с JARVIS?

  JARVIS предлагает режим CLI, режим сервера с Web API и демонстрацию Gradio для взаимодействия.

• Где я могу найти демонстрацию Gradio?

  Демонстрация Gradio размещена на Hugging Face Space.

• Какова цель файлов конфигурации?

  Файлы конфигурации, такие как config.default.yaml и config.lite.yaml, указывают настройки для сервера, включая выбор модели и конечные точки вывода.

• В чем разница между конфигурациями 'default' и 'lite'?

  Конфигурация 'lite' не требует загрузки и локального развертывания каких-либо экспертных моделей, в то время как конфигурация 'default' требует больше ресурсов и позволяет локальное развертывание модели.

• Как я могу процитировать JARVIS?

  Вы можете процитировать статью, как указано в файле README, включая авторов и сведения о публикации.

• Какие режимы вывода поддерживаются?

  Поддерживаются следующие режимы вывода: local, huggingface и hybrid.