Armand Charles Gouzien naît le 4 février 1839 à Brest, dans le Finistère. Issu d'un milieu modeste, il entre d'abord dans l'administration des Postes avant de gagner Paris et de se tourner vers la vie artistique et journalistique, où son talent de mélodiste et sa plume acérée lui assurent une notoriété durable sous le Second Empire et au début de la Troisième République.
Dans les années 1860, Gouzien se fait connaître comme compositeur de nombreuses chansons et mélodies, qu'il publie fréquemment sous le pseudonyme d'Alain de Pontcroix. Il met en musique aussi bien ses propres vers que des textes de poètes contemporains, parmi lesquels Victor Hugo, Catulle Mendès, François Coppée et Alphonse Daudet. Il pratique également l'arrangement de chansons traditionnelles et régionales : sa Légende de saint Nicolas, sur un texte recueilli par Gérard de Nerval, connaît une grande diffusion et sera reprise dans de nombreuses revues théâtrales. Son catalogue, recensé notamment par l'IMSLP, comprend des mélodies et chansons telles que Bonjour, Suzon !, Chanson d'Égypte, Chanson de la Marion, Chanson de Margaït, Chanson de pâtre, Chanson tsigane, Fermez les yeux, bonsoir !, La jonque des amants, Légendes campagnardes, Ma p'tit' Zizi, Le petit mendiant ou encore Zoïo. Il compose aussi des pièces instrumentales, comme la polka pour piano Le printemps (1874), arrangée d'un air d'orchestre tzigane.
Parallèlement à la composition, Gouzien mène une carrière de critique musical et de journaliste de premier plan. Il est critique artistique et musical pour Le Gaulois et L'Universel, dirige la Revue des lettres et des arts (1867-1868), puis collabore à La Gazette de Paris, à L'Événement et, à partir de 1871, au Rappel, le journal fondé dans la mouvance hugolienne. De 1876 à 1882, il est le principal rédacteur de l'hebdomadaire Le Journal de musique, tribune depuis laquelle il se fait l'un des ardents promoteurs de l'œuvre de Richard Wagner en France. Il signe certaines de ses chroniques sous le pseudonyme d'« Un Monsieur de l'orchestre ».
Sa carrière connaît un tournant institutionnel à la fin de la décennie 1870 : vers 1879, il intègre l'administration des beaux-arts, où il est nommé directeur des Beaux-Arts et commissaire du gouvernement auprès des théâtres subventionnés, fonctions qui le placent au cœur de la vie lyrique et théâtrale officielle de la République.
Gouzien entretient des liens étroits avec Victor Hugo et sa famille, rencontrés à Bruxelles en 1869 durant l'exil. Cette proximité se prolonge jusqu'à la fin de sa vie : il meurt le 14 août 1892, à l'âge de cinquante-trois ans, à Saint-Pierre-Port, sur l'île de Guernesey, à Hauteville House, la maison qui avait abrité l'exil du poète. Sa réputation musicale lui valut aussi des marques d'estime de la part de grands compositeurs, Franz Liszt et Henry Charles Litolff lui ayant dédié certaines de leurs pages.
