Graphormer - Microsoft Research

Description

Graphormer est un package sophistiqué d'apprentissage profond conçu pour permettre aux chercheurs et aux développeurs de former des modèles personnalisés spécifiquement pour les tâches de modélisation de molécules. Son objectif principal est d'accélérer considérablement les avancées et les applications dans le domaine de l'IA pour la science des molécules, couvrant des domaines critiques tels que la découverte de matériaux et la découverte de médicaments.

Actuellement, Graphormer offre un support robuste pour une variété de tâches de simulation de molécules, y compris la dynamique moléculaire et la prédiction de propriétés. La feuille de route de développement indique des expansions futures pour inclure des applications cruciales telles que la prédiction de réactions, la rétrosynthèse, la génération de molécules et la modélisation de molécules à grande échelle telles que les polymères et les protéines. De plus, il est destiné à améliorer les capacités de prédiction de l'interaction médicament-protéine (DPI) et d'autres domaines vitaux.

La base de Graphormer est détaillée dans l'article NeurIPS 2021, "Do Transformers Really Perform Badly for Graph Representation Learning?". La recherche a présenté Graphormer comme le premier modèle d'apprentissage profond basé sur une architecture Transformer standard qui surpasse de manière démontrable les réseaux neuronaux graphiques conventionnels dans les tâches de prédiction au niveau du graphe. Cette approche innovante a conduit à des réalisations significatives.

Graphormer a obtenu la première place dans la KDD Cup – OGB-LSC quantum chemistry track, une compétition axée sur l'utilisation de l'IA pour prédire les propriétés quantiques de plus de 3,8 millions de molécules. Cet événement a vu la participation de plus de 500 équipes, y compris des acteurs majeurs de l'industrie. Plus récemment, Graphormer a remporté l'Open Catalyst Challenge, une compétition axée sur la modélisation par IA des systèmes de réaction catalyseur-adsorbat. Ce défi impliquait la simulation de plus de 0,66 million de systèmes, soulignant le potentiel de Graphormer à faire progresser l'IA pour la découverte de matériaux et les domaines connexes.

Des versions avancées et pré-entraînées de Graphormer sont accessibles via Azure Quantum Elements, offrant un chemin simplifié aux chercheurs pour exploiter ses capacités. Le projet est également soutenu par une documentation complète et un dépôt GitHub pour l'engagement communautaire et le développement.

Points forts de Graphormer

• Package d'apprentissage profond pour la modélisation de molécules

• Accélère l'IA pour la découverte de matériaux et de médicaments

• Prend en charge les simulations de dynamique moléculaire

• Permet la prédiction des propriétés des molécules

• Architecture basée sur Transformer pour l'apprentissage de représentations graphiques

• Surpasse les réseaux neuronaux graphiques conventionnels

• A remporté la KDD Cup – OGB-LSC quantum chemistry track

• A remporté l'Open Catalyst Challenge

• Support futur pour la prédiction de réactions

• Support futur pour la rétrosynthèse

• Support futur pour la génération de molécules

• Support futur pour la modélisation de molécules à grande échelle (polymères, protéines)

• Support futur pour la prédiction de l'interaction médicament-protéine (DPI)

Premiers pas avec Graphormer

1. 1

   Accéder au modèle : Obtenez l'accès à Graphormer via Azure Quantum Elements ou son dépôt open-source.

2. 2

   Configurer l'environnement : Configurez votre environnement de développement avec les frameworks et bibliothèques d'apprentissage profond nécessaires.

3. 3

   Intégrer via API : Utilisez les API fournies pour intégrer Graphormer dans vos flux de travail de modélisation de molécules.

4. 4

   Entraîner des modèles personnalisés : Développez et entraînez des modèles sur mesure pour des tâches spécifiques de simulation de molécules.

5. 5

   Optimiser les performances : Affinez les paramètres et les configurations du modèle pour améliorer la précision et l'efficacité.

6. 6

   Appliquer à la recherche : Déployez les modèles entraînés pour la découverte de matériaux, la découverte de médicaments et d'autres applications scientifiques.

Cas d'utilisation de Graphormer

• Découverte de matériaux
• Découverte de médicaments
• Dynamique moléculaire
• Prédiction de propriétés
• Chimie quantique
• Modélisation de catalyseurs

FAQ de Graphormer

• Qu'est-ce que Graphormer et quel est son objectif principal ?

  Graphormer est un package d'apprentissage profond conçu pour les tâches de modélisation de molécules, visant à accélérer la recherche et les applications dans le domaine de l'IA pour la science des molécules, telles que la découverte de matériaux et de médicaments.

• Quels types de tâches de simulation de molécules Graphormer prend-il actuellement en charge ?

  Graphormer prend actuellement en charge diverses tâches de simulation de molécules, y compris la dynamique moléculaire et la prédiction de propriétés.

• Quelles futures applications Graphormer prendra-t-il en charge ?

  Dans un avenir proche, Graphormer prendra en charge des applications importantes telles que la prédiction de réactions, la rétrosynthèse, la génération de molécules, la modélisation de molécules à grande échelle (polymères, protéines) et la prédiction de l'interaction médicament-protéine (DPI).

• Quelle est l'architecture sous-jacente de Graphormer ?

  Graphormer est basé sur une architecture Transformer standard, ce qui en fait le premier modèle d'apprentissage profond de ce type à surpasser de manière significative les réseaux neuronaux graphiques conventionnels dans les tâches de prédiction au niveau du graphe.

• Quelles compétitions notables Graphormer a-t-il remportées ?

  Graphormer a remporté la première place dans la KDD Cup – OGB-LSC quantum chemistry track et l'Open Catalyst Challenge.

• Quel était l'objectif de la KDD Cup – OGB-LSC quantum chemistry track ?

  Cette compétition visait à utiliser l'IA pour prédire les propriétés quantiques de plus de 3,8 millions de molécules.

• Quel était l'objectif de l'Open Catalyst Challenge ?

  L'Open Catalyst Challenge s'est concentré sur la modélisation des systèmes de réaction catalyseur-adsorbat à l'aide de l'IA, simulant des millions de systèmes.

• Où puis-je accéder aux versions pré-entraînées avancées de Graphormer ?

  Les versions pré-entraînées avancées de Graphormer sont disponibles exclusivement sur Azure Quantum Elements.

• Graphormer est-il open-source ?

  Bien que les versions avancées soient sur Azure Quantum Elements, le projet est associé à un dépôt GitHub, suggérant des composants open-source ou leur disponibilité.

• À qui s'adresse Graphormer ?

  Graphormer s'adresse aux chercheurs et aux développeurs travaillant sur des tâches de modélisation de molécules dans des domaines tels que la découverte de matériaux et de médicaments.

• Comment Graphormer bénéficie-t-il à l'IA pour la science des molécules ?

  Il accélère la recherche et l'application en fournissant un cadre d'apprentissage profond puissant qui atteint des performances de pointe sur des tâches complexes d'apprentissage de représentations graphiques pertinentes pour la science moléculaire.