Pular para o conteúdo principal
ToolPotion

Attentional Factorization Machine

Este repositório GitHub fornece uma implementação em TensorFlow do modelo Attentional Factorization Machine (AFM). Ele permite que os usuários treinem e avaliem o AFM para tarefas como sistemas de recomendação, aprendendo o peso das interações de recursos através de redes de atenção. O projeto inclui código, exemplos de dados e instruções para configuração rápida e comparação de desempenho.

Visitar URL

Descrição

O Attentional Factorization Machine (AFM) é um modelo sofisticado projetado para aprimorar o desempenho das máquinas de fatoração, aprendendo a importância das interações de recursos através de redes de atenção. Este repositório oferece uma implementação direta em TensorFlow do modelo AFM, baseando-se nos conceitos fundamentais das Máquinas de Fatoração (FM).

O projeto é baseado no artigo de pesquisa "Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks" de Jun Xiao, Hao Ye, Xiangnan He, Hanwang Zhang, Fei Wu e Tat-Seng Chua, apresentado no IJCAI 2017. A implementação suporta tarefas de regressão e classificação, otimizando para RMSE.

Os usuários podem aproveitar este código para replicar os achados da pesquisa ou aplicar o AFM aos seus próprios conjuntos de dados. O repositório fornece instruções claras para configurar o ambiente, que requer TensorFlow (versão 1.0.1), NumPy e Scikit-learn. Os conjuntos de dados devem seguir o formato de entrada do toolkit LibFM, com um exemplo usando o conjunto de dados MovieLens para recomendação de tags personalizada.

O exemplo rápido incluído demonstra como treinar um modelo FM primeiro para pré-treinamento e, em seguida, usar esses pesos para treinar o modelo AFM. Essa abordagem permite uma comparação direta de desempenho entre o FM padrão e o AFM aprimorado. O código também inclui funcionalidades para avaliar os modelos treinados em conjuntos de dados de teste.

Esta implementação é particularmente valiosa para pesquisadores e profissionais nas áreas de sistemas de recomendação, aprendizado de máquina e aprendizado profundo que buscam melhorar a precisão e a interpretabilidade de seus modelos, capturando efetivamente as nuances das interações de recursos. O mecanismo de atenção permite que o modelo pondere dinamicamente a importância de diferentes pares de recursos, levando a previsões mais precisas.

Destaques de Attentional Factorization Machine

  • Implementação em TensorFlow da Attentional Factorization Machine (AFM)

  • Suporta tarefas de regressão e classificação

  • Otimiza para RMSE

  • Aprende o peso das interações de recursos via redes de atenção

  • Inclui implementação de Factorization Machines (FM) para pré-treinamento

  • Usa codificação one-hot para conversão de vetor de recursos

  • Compatível com o formato de dados LibFM

  • Fornece exemplo de uso com o conjunto de dados MovieLens

  • Inclui scripts para treinamento e avaliação

  • A base de código inclui AFM.py, FM.py e LoadData.py

  • Suporta pré-treinamento de modelo

Primeiros passos com Attentional Factorization Machine

  1. Configurar ambiente: Instalar TensorFlow (v1.0.1), NumPy e Scikit-learn.

  2. Preparar conjunto de dados: Formatar dados de acordo com as especificações do toolkit LibFM.

  3. Treinar modelo FM: Executar `python FM.py` com o conjunto de dados e parâmetros especificados para pré-treinamento.

  4. Treinar modelo AFM: Executar `python AFM.py` usando os pesos FM pré-treinados.

  5. Avaliar modelo: Executar `python FM.py` ou `python AFM.py` com o flag `--process evaluate`.

Casos de uso de Attentional Factorization Machine

  • Sistemas de Recomendação
  • Recomendação de Tags
  • Previsão de Taxa de Cliques
  • Aprendizado de Interação de Recursos
  • Desenvolvimento de Modelos de Machine Learning

Perguntas frequentes de Attentional Factorization Machine

Avaliações de Attentional Factorization Machine

Carregando...

Ferramentas de IA populares como Attentional Factorization Machine

Modelos de IA

xDeepFM é um toolkit de deep learning open-source para modelos de fatoração, lançando especificamente o código fonte do modelo eXtreme Deep Factorization Machine (xDeepFM). Ele…

Modelos de IA e LLMs

Modelos de IA

FNet é uma arquitetura de codificador eficiente semelhante a um Transformer que substitui a autoatenção por Transformadas de Fourier. Desenvolvido pelo Google Research, oferece…

Modelos de IA e LLMs

Modelos de IA

Modelos TensorFlow é um repositório no GitHub que oferece uma coleção de modelos e exemplos construídos com TensorFlow. Ele serve como um hub central para desenvolvedores…

Plataformas de machine learning

Modelos de IA

UniLM é um framework de pré-treinamento autossupervisionado em larga escala desenvolvido pela Microsoft. Ele permite que modelos aprendam em diversas tarefas, idiomas e…

Modelos de IA e LLMs

Neural Graph Collaborative Filtering (NGCF) é um framework de recomendação que utiliza redes neurais de grafos. Ele codifica explicitamente sinais colaborativos através de…

Modelos de IA e LLMs

Modelos de IA

Funnel-Transformer é um modelo de IA que comprime estados ocultos para reduzir o custo computacional. Ele permite modelos mais profundos ou mais largos com os mesmos FLOPs e pode…

Modelos de IA e LLMs

Modelos de IA

MPNet é um método de pré-treinamento inovador para tarefas de compreensão de linguagem, aprimorando BERT e XLNet. Oferece uma implementação unificada para vários modelos de…

Modelos de IA e LLMs

Este repositório fornece a implementação oficial do código para o artigo de pesquisa "How Attentive are Graph Attention Networks?" publicado na ICLR'2022. Ele oferece experimentos…

Plataformas de machine learning