L’IA provoque des changements : enjeux et conseils pour la conception des datacenters

Des grands clusters jusqu’aux petits serveurs d'inférence, l'IA représente une part de plus en plus importante de la charge de travail dans les datacenters. Cette évolution se traduit par des densités de puissance plus élevées. Les start-ups dans le domaine de l’IA, les entreprises, les services de colocation et les géants de l'internet doivent prendre en compte ces niveaux de densités, lors de la conception et de la gestion de l'infrastructure physique des datacenters. Ce livre blanc caractérise les tendances liées aux importantes charges de travail d’IA et énumère les problématiques qui se posent aux datacenters. Des conseils sont donnés pour les résoudre, qu’il s’agisse de l’infrastructure physique, de l’alimentation, du refroidissement, des racks ou encore de la partie logicielle.