Seminar by Khadidja Meguelati “Clustering Massivement Distribué via Mélange de Processus de Dirichlet” 9 March 2020

Séminaire Zenith  : 9 mars 2020, 14h
Campus St Priest, BAT5, 03.124
Clustering Massivement Distribué via Mélange de Processus de Dirichlet
Khadidja Meguelati
Zenith, Inria & LIRMM
La classification non supervisée (ou clustering) a pour objectif d’identifier des classes pertinentes dans les données. elle est largement utilisée dans de nombreuses applications telles que le marketing, la reconnaissance de patterns, l’analyse de données et le traitement d’images. Déterminer le nombre optimal de clusters dans un ensemble de données est un défi fondamental qui a ouvert de nombreuses directions de recherche. De multiples méthodes sont alors proposées pour résoudre ce problème.
Le Mélange de Processus de Dirichlet (DPM) est utilisé pour le clustering car il permet de définir automatiquement le nombre de classes, mais les temps de calculs qu’il implique sont généralement trop importants, nuisant à son adoption et rendant inefficaces ses versions centralisées.
Nous visons le problème de la parallélisation du mélange de processus de Dirichlet pour améliorer ces performances en exploitant des environnements massivement distribués. En effet, d’après la littérature, l’algorithme de DPM distribué fait appel à de nombreux problèmes tels que : l’équilibre de charge entre les nœuds de calcul, les coûts de communication, et le plein bénéfice de propriétés du DPM.
Nous proposons deux nouvelles approches pour le clustering parallèle via DPM. Tout d’abord, nous proposons DC-DPM (Clustering Distribué via mélange de processus de Dirichlet), une version parallélisée, qui permet le clustering de millions de points de données, ce qui représente un vrai défi. Nos expérimentations, tant sur des données synthétiques que réelles, illustrent la performance de notre approche. Comparativement, l’algorithme centralisé ne passe pas à l’échelle. Son temps de réponse est de plus de 7 heures sur des données de 100K points, quand notre approche prend moins de 30 secondes.
Dans un deuxième temps, nous nous intéressons au problème de dimensionalité de données qui devient un défi important avec les obstacles numériques et théoriques dans ce cas. Nous proposons HD4C (Clustering de Dirichlet Distribué pour des Données de Haute Dimension), une solution de clustering Parallèle qui s’adresse à la dimensionnalité par deux moyens. Premièrement, elle s’adapte à des données massives en exploitant les architectures distribuées. Deuxièmement, elle effectue le clustering de données de haute dimension telles que les séries temporelles (en fonction du temps), les données hyperspectrales (en fonction de la longueur d’onde), etc. Nous avons réalisé des expériences exhaustives  sur des jeux de données synthétiques et réels pour confirmer l’efficacité de notre solution.

Permanent link to this article: https://team.inria.fr/zenith/seminar-by-khadidja-meguelati-clustering-massivement-distribue-via-melange-de-processus-de-dirichlet-9-march-2020/