Jean François-Hyacinthe Langlais naît le 15 février 1907 à La Fontenelle, petit village d'Ille-et-Vilaine proche du Mont Saint-Michel, dans une famille modeste de Haute-Bretagne. Atteint de glaucome, il devient totalement aveugle vers l'âge de deux ans. Il est envoyé à l'Institut national des jeunes aveugles (INJA) à Paris, où il découvre la musique et l'orgue, étudiant notamment auprès d'André Marchal.
Admis au Conservatoire de Paris, il y obtient un premier prix d'orgue en 1930 dans la classe de Marcel Dupré, et poursuit l'étude de la composition auprès de Paul Dukas. Il se perfectionne en improvisation avec Charles Tournemire. Au Conservatoire, il côtoie une génération exceptionnelle d'organistes et compositeurs : Maurice Duruflé, Olivier Messiaen et Jehan Alain comptent parmi ses condisciples.
C'est comme organiste que Langlais s'impose d'abord. En 1945, il succède à César Franck et à Charles Tournemire au poste d'organiste titulaire du grand orgue de la basilique Sainte-Clotilde à Paris, tribune qu'il occupera jusqu'en 1988, soit plus de quarante ans. Improvisateur de renommée internationale, il mène une intense carrière de concertiste qui le conduit à travers l'Europe et, à de nombreuses reprises, aux États-Unis. Parallèlement, il enseigne : d'abord à l'Institut national des jeunes aveugles dont il est issu, puis à la Schola Cantorum de Paris de 1961 à 1976.
Compositeur prolifique, Langlais laisse 254 œuvres dotées d'un numéro d'opus, depuis un Prélude et fugue pour orgue (1927) jusqu'à un Trio (1990), également pour orgue. En raison de sa cécité, sa méthode de composition était singulière : il élaborait mentalement chaque détail de l'œuvre sur une longue période, la notait en abrégé en braille, puis dictait note à note, avec leur valeur rythmique, à un copiste — souvent sa première épouse Jeannette — pour établir la partition définitive.
Son langage musical, profondément ancré dans le chant grégorien et la tradition liturgique, s'illustre dans de nombreuses pages pour orgue devenues des classiques du répertoire : la Suite médiévale (op. 56), dont les Acclamations carolingiennes et la Méditation sont régulièrement jouées, l'Incantation pour un jour saint (op. 64), le Chant de paix des Neuf Pièces, l'Hommage à Frescobaldi (op. 70) ou encore les Esquisses gothiques. Il compose aussi pour le clavier plusieurs symphonies pour orgue, dont la Première Symphonie (1941).
Son œuvre vocale et chorale, tout aussi importante, comprend des messes et des motets entrés au répertoire : la Messe solennelle (op. 67) pour chœur et orgue, la Missa in simplicitate (1952), la Missa Salve Regina (qui lui valut le prix Madame René Coty), ou encore les Trois Prières (op. 65), comprenant un Ave verum, un Ave maris stella et un Tantum ergo. Attaché à ses racines, il met également en musique des chants bretons, notamment dans les Huit Chants de Bretagne (op. 161).
Jean Langlais meurt le 8 mai 1991 à Paris, à l'âge de 84 ans. Il laisse derrière lui sa seconde épouse, la musicologue Marie-Louise Jaquet-Langlais, et trois enfants, Janine, Claude et Caroline. Son œuvre, abondamment enregistrée et interprétée, continue d'être jouée dans le monde entier.