Les GPU s’améliorent-ils plus vite que les CPU ?
La réponse dépend de ce que vous considérez comme “plus rapide”.
D’une manière générale, les GPU sont beaucoup plus facilement capables de tirer parti des progrès réalisés dans la fabrication des processeurs.
Les GPU, bien qu’ils soient de plus en plus programmables de nos jours, restent des matériels à fonction fixe par rapport à un CPU par exemple.
Les charges de travail graphiques et GPGPU sont généralement très parallèles, ce qui signifie qu’elles peuvent être mises à l’échelle pour un nombre pratiquement infini de threads. Lorsqu’une charge de travail peut consommer tous les cœurs que vous pouvez lui lancer, il est facile d’améliorer les performances en ajoutant des cœurs. Cela signifie également que, théoriquement parlant, si vous doublez le nombre de cœurs d’un GPU, vous doublez également les performances sans avoir à modifier quoi que ce soit d’autre dans l’architecture, en supposant que vous ayez suffisamment de bande passante.
Les GPU ont généralement de grands réseaux d’unités vectorielles qui accèdent à de grandes quantités de données à traiter en même temps. C’est excellent pour les performances, et c’est ce qui est fait dans les CPU également, Si la charge de travail a un parallélisme suffisant au niveau des données, ce qui est le cas des charges de travail des GPU. Cela signifie que vous pouvez partitionner la mémoire du GPU en plusieurs banques pour augmenter la bande passante de la mémoire effective, ce qui améliore également les performances.
Passons maintenant aux CPU :
Si votre charge de travail peut évoluer vers plus de cœurs, vous pouvez bénéficier de plus de transistors de la même manière que les GPU, en ajoutant simplement des cœurs.
Les choses deviennent toutefois un peu plus intéressantes lorsqu’on examine les performances d’un seul cœur.
Rendre un processeur plus rapide à cet égard est en fait plus compliqué que de simplement ajouter des transistors au problème. Bien sûr, cela aide, mais ce n’est pas tout.
En général, pour rendre un cœur de processeur plus rapide, il faut exploiter davantage le parallélisme au niveau des instructions (ILP) en récupérant et en exécutant plus d’instructions à la fois. Les architectures modernes à haute performance peuvent généralement exécuter 6 à 10 opérations par horloge. Il y a cependant un hic : cela n’est utile que si vous pouvez remplir ces créneaux d’exécution, ce qui nécessite de trouver des instructions libres et indépendantes.
Les processeurs modernes essaient de trouver ces instructions en recherchant des instructions qui ne dépendent pas de résultats antérieurs et sont donc indépendantes. Un moyen facile d’en trouver davantage consiste simplement à élargir les fenêtres dont dispose le processeur pour les rechercher. Malheureusement, on se heurte à un deuxième problème : le flux de contrôle.
Les instructions telles que les branches sont une manifestation de ce problème. Elles sont courantes et se produisent environ une fois toutes les 6 instructions.
Les branches sont un type d’instruction particulier. Elles sautent à une autre partie du programme si une condition est remplie (c’est-à-dire si la dernière opération a donné lieu à une retenue, par exemple), ou tombent simplement sinon. Ces branches peuvent être prédites avec un certain degré de précision dans les machines modernes, mais il y a toujours une chance inhérente qu’elles prennent un chemin qui n’a pas été prédit.
Lorsque vous commencez à exécuter des instructions dans le désordre, vous commencez aussi rapidement à exécuter des instructions après des branches. La possibilité d’exécuter du code dont l’utilité n’est pas certaine est appelée exécution spéculative .
Si le processeur commence à regarder en avant et à exécuter du code de manière spéculative, et qu’une branche est mal prévue, tout ce travail doit être rejeté, ce qui signifie que vous avez gaspillé de l’énergie et du temps d’exécution pour rien. C’est en fait le principal facteur limitant aujourd’hui l’amélioration des performances par cœur : ce n’est pas le nombre d’unités fonctionnelles que l’on peut mettre dans une puce, mais la façon dont on peut prédire le comportement du logiciel pour s’assurer que ces unités fonctionnelles sont alimentées et font un travail utile.
Et malheureusement, ce n’est pas aussi simple que de jeter des transistors sur le problème. Ils aident certainement à construire des mécanismes pour y parvenir, mais il s’agit fondamentalement d’un problème d’informatique (recherche), et non de matériel. Des mécanismes tels que les prédicteurs de branche basés sur les percepts en sont un bon exemple récent.
Donc oui, pour répondre à votre question, les GPU et autres machines à large parallélisme s’améliorent plus rapidement car leur conception leur permet d’absorber les améliorations de processus beaucoup plus facilement que les CPU traditionnels.
