Approches probabilistes et bayésiennes non paramétriques pour les systemes de recommandation et les réseaux

Abstract

Nous proposons deux nouvelles approches pour les systèmes de recommandation etles réseaux. Dans la première partie, nous donnons d’abord un aperçu sur les systèmes de recommandationavant de nous concentrer sur les approches de rang faible pour la complétionde matrice. En nous appuyant sur une approche probabiliste, nous proposons de nouvellesfonctions de pénalité sur les valeurs singulières de la matrice de rang faible. En exploitantune représentation de modèle de mélange de cette pénalité, nous montrons qu’un ensemblede variables latentes convenablement choisi permet de développer un algorithme espérance-maximisationafin d’obtenir un maximum a posteriori de la matrice de rang faible complétée.L’algorithme résultant est un algorithme à seuillage doux itératif qui adapte de manière itérativeles coefficients de réduction associés aux valeurs singulières. L’algorithme est simple àmettre en œuvre et peut s’adapter à de grandes matrices. Nous fournissons des comparaisonsnumériques entre notre approche et de récentes alternatives montrant l’intérêt de l’approcheproposée pour la complétion de matrice à rang faible. Dans la deuxième partie, nous présentonsd’abord quelques prérequis sur l’approche bayésienne non paramétrique et en particuliersur les mesures complètement aléatoires et leur extension multivariée, les mesures complètementaléatoires composées. Nous proposons ensuite un nouveau modèle statistique pour lesréseaux parcimonieux qui se structurent en communautés avec chevauchement. Le modèle estbasé sur la représentation du graphe comme un processus ponctuel échangeable, et généralisenaturellement des modèles probabilistes existants à structure en blocs avec chevauchement aurégime parcimonieux. Notre construction s’appuie sur des vecteurs de mesures complètementaléatoires, et possède des paramètres interprétables, chaque nœud étant associé un vecteur représentantson niveau d’affiliation à certaines communautés latentes. Nous développons desméthodes pour simuler cette classe de graphes aléatoires, ainsi que pour effectuer l’inférence aposteriori. Nous montrons que l’approche proposée peut récupérer une structure interprétableà partir de deux réseaux du monde réel et peut gérer des graphes avec des milliers de nœudset des dizaines de milliers de connections.