Le Calcul Intensif

Objectifs de l’enseignement :

Cette matière enseigne la pratique d'agrégation de la puissance de calcul d'une manière qui offre des performances beaucoup plus élevées que celles que l'on pourrait obtenir d'un ordinateur de bureau ou d'une station de travail typique, et ce, afin de résoudre des problèmes contenant des sonnées massifs.

Connaissances préalables recommandées :

Algorithmique et programmation de niveau de Licence, Connaissances de C++.

Contenu de la matière :

Chapitre 1 : Concepts de traitement parallèle (aperçu rapide)

• Niveaux de parallélisme (instruction, transaction, tâche, thread, mémoire, fonction)
• Modèles (SIMD, MIMD, SIMT, SPMD, modèles de flux de données, calcul basé sur la demande, etc.)
• Architectures : architectures superscalaires à l'échelle N, multicœurs, multithread

Chapitre 2 : Programmation parallèle avec CUDA

• Architecture de processeur, interconnexion, communication, organisation de la mémoire et modèles de programmation dans les architectures de calcul haute performance.
• Hiérarchie de la mémoire et conception de la mémoire spécifique à la transaction

Chapitre 3 : Problèmes fondamentaux de conception dans le calcul parallèle

• Synchronisation et Planification et partitionnement des tâches
• Analyse des dépendances
• Mappage d'algorithmes parallèles sur des architectures parallèles
• Analyse des performances des algorithmes parallèles

Chapitre 4 : Limitations fondamentales du calcul parallèle

• Limitations de bande passante et limitations de latence
• Techniques de masquage / tolérance de latence et leurs limites

Chapitre 5 : Informatique et communication axée sur la puissance

• Techniques de traitement sensibles à la puissance
• Conception de mémoire sensible à l'alimentation
• Gestion de l'alimentation logicielle

Chapitre 6 : Sujets avancés

• Petascale Computing
• Optique dans le calcul parallèle
• Ordinateurs quantiques
• Développements récents en nanotechnologie et son impact sur le HPC

Mode d’évaluation : Examen (60%), contrôle continu (40%).

Références

• Bell, C.G. and Newell, A. Computer Structures. McGraw-Hill, New York 1971
• Bailey, D.H. and Buzbee, W. Private communication
• Bell, C.G. Multis: A new class of multiprocessor computers. Science 228. (Apr. 25, 1985), 452- 457