Tenstorrent

Описание

Tenstorrent — это дальновидная вычислительная компания, специализирующаяся на создании передовых компьютеров, предназначенных специально для рабочих нагрузок искусственного интеллекта. Штаб-квартира компании находится в США, но она имеет глобальное присутствие и объединяет разнообразную команду экспертов в области компьютерной архитектуры, проектирования ASIC, технологии RISC-V, передовых систем и компиляторов нейронных сетей.

Их продуктовые предложения охватывают различные масштабы развертывания ИИ. Для индивидуальных пользователей и небольших команд Tenstorrent предлагает рабочие станции Blackhole®, бесшумные машины с жидкостным охлаждением, способные запускать модели с количеством параметров до 120 миллиардов непосредственно с рабочего стола, начиная с 999 долларов США. Для крупномасштабных производственных сред серверы TT-QuietBox® предлагают суверенные масштабируемые решения, начиная с 70 000 долларов США.

Помимо аппаратного обеспечения, Tenstorrent делает акцент на гибкости и открытости с помощью своего IP-решения Tenstorrent Galaxy™. Это предложение предоставляет высокопроизводительную и гибкую интеллектуальную собственность для конкретных рабочих нагрузок, направленную на ускорение бизнеса без привязки к поставщику. Пользователи могут лицензировать этот IP для интеграции в свои собственные разработки.

Центральное место в программной экосистеме Tenstorrent занимает TT-Forge™, компилятор с открытым исходным кодом на базе MLIR. В настоящее время TT-Forge находится в публичной бета-версии и разработан для бесперебойной работы с популярными фреймворками, такими как PyTorch, JAX и ONNX, компилируя модели для аппаратного обеспечения Tenstorrent. Такой подход с открытым исходным кодом, наряду с прозрачными архитектурами, позволяет разработчикам настраивать и владеть своим кремниевым будущим.

Tenstorrent активно развивает сообщество разработчиков, поощряя вклад через свои репозитории с открытым исходным кодом и программы вознаграждений. Эта совместная среда направлена на создание открытого будущего для вычислений с использованием ИИ, позволяя пользователям редактировать, выбирать, форкать и владеть своими кремниевыми разработками. Компания также предоставляет ресурсы, такие как документация и каналы Discord, для взаимодействия и поддержки.

Основные функции Tenstorrent

• Вычислительное оборудование, ориентированное на ИИ

• Рабочие станции Blackhole® для выполнения моделей ИИ на рабочем месте

• Серверы TT-QuietBox® для производственного ИИ

• Гибкий IP Tenstorrent Galaxy™ для пользовательских рабочих нагрузок

• Компилятор с открытым исходным кодом TT-Forge™ на базе MLIR

• Поддержка PyTorch, JAX и ONNX

• Программное обеспечение с открытым исходным кодом и прозрачные архитектуры

• Взаимодействие с сообществом разработчиков через Discord и GitHub

• Программа вознаграждений за исправление ошибок и разработку функций

• Варианты пассивного, активного и жидкостного охлаждения для оборудования

• Интеграция технологии RISC-V

Как использовать Tenstorrent?

1. 1

   Изучите оборудование: ознакомьтесь с рабочими станциями Blackhole® и серверами TT-QuietBox®.

2. 2

   Лицензируйте IP: изучите Tenstorrent Galaxy™ для ускорения пользовательских рабочих нагрузок.

3. 3

   Установите TT-Forge: загрузите и установите бета-версию компилятора с открытым исходным кодом.

4. 4

   Компилируйте модели: используйте TT-Forge для компиляции моделей ИИ для оборудования Tenstorrent.

5. 5

   Интегрируйте решения: разверните оборудование и IP Tenstorrent для ваших нужд в области ИИ.

6. 6

   Взаимодействуйте с сообществом: присоединяйтесь к Discord и GitHub, чтобы внести свой вклад и получить поддержку.

Варианты использования Tenstorrent

• Обучение моделей ИИ
• Инференс ИИ
• Разработка пользовательских кремниевых решений
• Исследования и разработки
• Производственное развертывание ИИ
• MLOps

Часто задаваемые вопросы Tenstorrent

• Какие типы оборудования для ИИ предлагает Tenstorrent?

  Tenstorrent предлагает рабочие станции Blackhole® для индивидуального использования и серверы TT-QuietBox® для развертывания ИИ в производственном масштабе.

• Что такое TT-Forge™?

  TT-Forge™ — это компилятор с открытым исходным кодом Tenstorrent на базе MLIR, предназначенный для компиляции моделей ИИ для аппаратного обеспечения Tenstorrent, с поддержкой таких фреймворков, как PyTorch, JAX и ONNX.

• Могу ли я настраивать оборудование или программное обеспечение Tenstorrent?

  Да, Tenstorrent делает акцент на открытых архитектурах и программном обеспечении с открытым исходным кодом, позволяя пользователям редактировать, выбирать, форкать и владеть своим кремниевым будущим.

• Каковы начальные цены на оборудование Tenstorrent?

  Рабочие станции Blackhole® начинаются от 999 долларов США, а серверы TT-QuietBox® — от 70 000 долларов США.

• Что такое Tenstorrent Galaxy™?

  Tenstorrent Galaxy™ — это гибкое предложение IP, которое позволяет компаниям ускорять свои рабочие нагрузки без привязки к поставщику.

• Как я могу принять участие в сообществе разработчиков Tenstorrent?

  Вы можете присоединиться к сообществу разработчиков, посетив их сервер Discord и ознакомившись с их репозиториями с открытым исходным кодом на GitHub.

• Какие размеры моделей ИИ могут обрабатывать рабочие станции Blackhole®?

  Рабочие станции Blackhole® способны запускать модели с количеством параметров до 120 миллиардов.

• Предлагает ли Tenstorrent поддержку популярных фреймворков ИИ?

  Да, компилятор TT-Forge™ поддерживает основные фреймворки, включая PyTorch, JAX и ONNX.

• Какие варианты охлаждения доступны для оборудования Tenstorrent?

  Оборудование Tenstorrent поддерживает пассивное, активное и жидкостное охлаждение.

• Каково преимущество подхода Tenstorrent к открытой архитектуре?

  Открытая архитектура и программное обеспечение с открытым исходным кодом предоставляют пользователям больший контроль, возможности настройки и владение своим кремниевым будущим.