Graph Neural Networks (GNNs)
Les images sont des grilles, le texte est une séquence, les molécules sont des graphes. Ni les CNN ni les RNN ne peuvent traiter naturellement des données dont la topologie est arbitraire — c’est le domaine des GNNs.
L’idée centrale est le message passing : chaque nœud d’un graphe agrège l’information de ses voisins, la transforme, et met à jour sa propre représentation. Après couches, un nœud a “vu” tous les nœuds à distance . Cette opération est parfaitement parallélisable sur GPU et indépendante de la taille du graphe.
Kipf & Welling (2016) popularisent le GCN — une convolution sur graphe basée sur le spectre du Laplacien. Veličković (2017) y ajoute l’attention avec le GAT, permettant à chaque nœud de pondérer différemment ses voisins. En 2023, les Graph Transformers combinent attention globale et structure de graphe pour les meilleures performances.
| Année | Contribution | Acteurs |
|---|---|---|
| 2005 | GNN — première formulation d’un réseau de neurones pour graphes | Gori, Scarselli et al. |
| 2013 | Graph Embeddings (DeepWalk) — apprentissage de représentations de nœuds | Perozzi et al. |
| 2014 | Node2Vec — généralisation de DeepWalk avec paramètres de marche aléatoire | Grover & Leskovec |
| 2016 | GCN (Graph Convolutional Network) — convolution sur graphes via spectre de Laplacien | Kipf & Welling |
| 2017 | GAT (Graph Attention Networks) — attention sur voisins du graphe | Veličković et al. |
| 2017 | MPNN (Message Passing Neural Network) — framework unifié pour les GNNs | Gilmer et al. |
| 2018 | GIN (Graph Isomorphism Network) — aussi puissant que le test WL | Xu et al. |
| 2020 | RGCN / HGT — GNNs pour graphes hétérogènes / knowledge graphs | |
| 2023 | Graph Transformers — attention globale sur graphes (GPS, Graphormer) |
Frameworks GNN : PyTorch Geometric (PyG), Deep Graph Library (DGL)
← Écosystème Actuel • 07 • Hardware : La Révolution du Calcul →