Le membre du Conseil d'Etat, le magistrat de la Cour des comptes ainsi que les quatre directeurs d'administration centrale représentants de l'Etat et leurs suppléants sont nommés par le Premier ministre.
Les représentants titulaires et suppléants des collectivités territoriales sont désignés au sein du Conseil supérieur de la fonction publique territoriale par les représentants de chacune des catégories d'élus correspondantes. A défaut de désignation, il est procédé par tirage au sort.
Les sièges attribués aux organisations syndicales sont répartis par arrêté du Premier ministre compte tenu du nombre de sièges dont elles disposent au sein de chacun des deux conseils supérieurs. L'arrêté fixe un délai pour la désignation par les organisations syndicales de leurs représentants titulaires et suppléants.