Guillaume Balay naît le 30 avril 1871 à Crozon, dans le Finistère, au sein d'une famille nombreuse. Son père, instituteur, l'initie à la musique. Très tôt attiré par les cuivres, il s'oriente vers une carrière de musicien militaire, voie qui structurera l'ensemble de son parcours.
En 1889, il s'engage dans la musique du 19e régiment d'infanterie à Brest, puis rejoint en 1892 le 5e régiment d'infanterie à Caen. Parallèlement, il poursuit une formation musicale exigeante au Conservatoire de Paris : en 1894, il y obtient à l'unanimité un premier prix de cornet à pistons dans la classe de Jean-Joseph Mellet. Il complète cette formation par l'étude de l'harmonie auprès de Paul Vidal et de la composition auprès de Vincent d'Indy, deux figures majeures de la vie musicale française de l'époque.
Sa carrière de chef de musique militaire connaît une progression régulière. Nommé sous-chef de musique en 1894, il est affecté au 119e régiment d'infanterie à Courbevoie, puis devient chef de musique en 1898. Il dirige successivement la musique du 154e régiment d'infanterie à Bar-le-Duc à partir de 1900, puis celle du 72e régiment d'infanterie à Amiens à partir de 1904, formation avec laquelle il remporte un premier prix lors d'un concours de musiques militaires à Caen en 1908.
L'apogée de sa carrière survient en 1911, lorsqu'il remporte le concours pour la direction de la Musique de la Garde républicaine, succédant à Gabriel Parès. Il porte cet ensemble prestigieux à un haut niveau de réputation internationale et le dirige jusqu'à sa retraite, en 1927. Après avoir quitté la Garde républicaine, il dirige durant une dizaine d'années une formation amateur, la Fanfare champenoise, dans la région de la Marne, avant de se retirer en Bretagne.
L'œuvre de compositeur de Balay est étroitement liée au monde des cuivres et des musiques d'harmonie. Il écrit des marches militaires, des ouvertures et des pièces originales pour orchestre d'harmonie, ainsi que de la musique de chambre pour cuivres. Plusieurs de ses pièces brèves pour cornet ou trompette et piano — souvent destinées à l'enseignement et aux concours — sont restées au répertoire des instrumentistes, parmi lesquelles la Pièce de concours. Il signe par ailleurs de nombreuses transcriptions et orchestrations pour harmonie, notamment d'œuvres de Florent Schmitt, Claude Debussy et Maurice Ravel, contribuant ainsi à diffuser le répertoire symphonique français auprès des formations d'harmonie.
Pédagogue reconnu, Guillaume Balay est surtout l'auteur d'une Méthode complète de cornet à pistons, de trompette ou de saxhorn, publiée en deux volumes, qui compte parmi les méthodes les plus complètes pour ces instruments et qui demeure utilisée par les cornettistes et trompettistes. Il meurt le 13 décembre 1943 à Ploujean, aujourd'hui rattaché à Morlaix, dans le Finistère, à l'âge de 72 ans.