Paul Le Flem naît le 18 mars 1881 à Radon, dans l'Orne. Orphelin de mère très jeune, il est élevé par sa famille paternelle à Lézardrieux, dans le Trégor, région bretonne à laquelle il restera viscéralement attaché toute sa vie. De culture bretonnante, il se destine d'abord à une carrière d'officier de marine, mais des problèmes de vue l'en détournent et l'orientent vers la musique.
Il étudie au Conservatoire de Paris à partir de 1899, puis obtient une licence de philosophie à la Faculté des lettres de Paris, où il suit notamment l'enseignement d'Henri Bergson. C'est surtout à la Schola Cantorum qu'il forge son langage musical, auprès de Vincent d'Indy et d'Albert Roussel. Cette double filiation, marquée par la rigueur du contrepoint et par une sensibilité harmonique proche de l'impressionnisme, irriguera toute son œuvre.
Sa carrière est multiple. Critique musical au journal Comœdia de 1921 à 1937, il œuvre aussi à la radio et dirige des chœurs : il prend notamment la direction des Chanteurs de Saint-Gervais jusqu'en 1939. En 1923, il succède à Albert Roussel comme professeur de contrepoint à la Schola Cantorum, poste qu'il occupe jusqu'en 1939 et où il forme entre autres André Jolivet. Mobilisé pendant la Première Guerre mondiale, il sert auprès du Régiment spécial russe et reçoit la Médaille militaire pour l'attaque du fort de Brimont en avril 1917.
Le catalogue de Paul Le Flem est dominé par quatre symphonies, échelonnées sur une très longue carrière : la Symphonie n° 1 (1906-1908), puis trois symphonies tardives écrites alors que le compositeur avait largement dépassé soixante-dix ans — la Symphonie n° 2 (1956-1958), la Symphonie n° 3 (1967-1970) et la Symphonie n° 4 (1974-1975). À ces fresques orchestrales s'ajoutent des partitions comme Pour les Morts (1912-1913, orchestré en 1920) et une Fantaisie pour piano et orchestre.
Le théâtre lyrique occupe une place de choix dans sa production. Aucassin et Nicolette (1909), conçu à l'origine pour accompagner un théâtre d'ombres, demeure l'une de ses œuvres les plus jouées. Suivent notamment Le Rossignol de Saint-Malo (créé à l'Opéra-Comique en 1942), ainsi que des œuvres tardives inspirées par les légendes bretonnes, parmi lesquelles La Magicienne de la mer, autour de la figure de Dahut et de la ville engloutie d'Ys.
La musique de chambre et le piano tiennent également une grande place dans son œuvre, depuis le Quintette en mi mineur de jeunesse jusqu'aux pièces pianistiques regroupant des miniatures comme Avril, Par Landes, Par Grèves ou Vieux Calvaire, ainsi que les Sept Pièces enfantines et Le Chant des genêts. Ses mélodies sur des poèmes de Paul Verlaine — Mandoline, Soleils couchants — témoignent de son raffinement vocal.
Figure majeure de l'identité musicale bretonne, Paul Le Flem participe à la vie artistique régionale, harmonise de nombreux chants populaires bretons et s'inscrit dans la mouvance du renouveau culturel breton. Il cesse de composer vers le milieu des années 1970, la cécité l'y contraignant. Il meurt le 31 juillet 1984 à Tréguier, à l'âge de 103 ans, et repose au Vieux-Marché. Sa longévité exceptionnelle fait de lui un témoin unique, reliant le monde de la Schola Cantorum du début du XXe siècle à la fin de ce même siècle.