Marcel Mule naît le 24 juin 1901 à Aube, en Normandie. Son père est comptable, et musicien amateur. Il dirige une fanfare municipale, joue du saxophone et donne des leçons de musique. Il enseigne le saxophone à son fils dès l'age de 7 ans, et quelque mois plus tard, celui-ci joue dans la fanfare municipale. Très doué, son père le met très vite en garde : il ne dois pas devenir musicien professionnel. Il voit pour son fils une carrière d'instituteur doté de solides connaissances musicales pour pouvoir donner des leçons après l'école. C'est ainsi que poursuivant son idée, Mule père fait apprendre le violon à son fils dès l'age de 9 ans. Marcel apprendra également "par erreur" le piano. En effet, malgré la désapprobation de ses parents, il travaille les exercice de piano de son père, et se révèle également très doué pour cet instrument. Son enfance se partage donc entre l'école, et la musique qui n'est alors qu'un loisir.

En 1917 il intègre l'école normale d'Evreux, et devient trois années plus tard professeur des écoles. Mais après six mois d'enseignement, il est appelé pour servir dans le cinquième régiment d'infanterie à Paris. A l'armée, il devient saxophoniste de la fanfare, et s'honore rapidement d'une solide réputation dans les fanfares militaires de la région parisienne. A peu près à la même époque, il travaille le violon avec Gabriel Wuillaume, qui aura une importance considérable dans son apprentissage musical. Mule fréquente bientôt les boîtes de nuit parisienne où se produisent des orchestres de jazz américains, avec lesquels il joue régulièrement. C'est à cette période qu'il développe son vibrato qui va devenir une des caractéristique de son jeu classique.

1923 est une année décisive dans la carrière de Marcel Mule. Encouragé par François Combelle, saxophoniste soliste de l'orchestre de la Garde Républicaine, il tente le concours pour entrer dans cette formation prestigieuse. Il gagne le concours, et 6 mois plus tard il remplace Combelle au poste de soliste. Malgré des concerts dans toute la France avec la Garde, il continu à jouer dans des orchestres de jazz et de danse pour nourrir sa famille. Il épouse en 1925 Paulette Bourdon, avec qui il aura 2 enfants, Pol (1926) et Jacques (1929). Après avoir joué longtemps sans vibrato Werther de Massenet à l'Opéra, il est engagé par Edouard l'Enfant au cours de la saison 1928-1929 pour jouer dans son ballet Evolution. L'Enfant insiste pour que Mule utilise le vibrato pour le solo, et lui recommande d'en faire de même à la Garde, ce que Mule fera. 

Dans ce cadre de la Garde Républicaine, Marcel Mule créera d'abord à titre expérimental sans but de concerts, le premier quatuor de saxophone. Puis s'étant constitué un solide répertoire de transcription, le premier concert à lieu à La Rochelle le 2 décembre 1928. Pendant plusieurs année le quatuor de la Garde Républicaine jouera sans vibrato et obtiendra de nombreux succès. Le vibrato  s'intègrera dans cette formation en 1932. Rebaptisé Quatuor de Saxophones de Paris en 1936 après que Mule ait quitté la Garde, le quatuor prend un essor considérable, et donne de nombreux concerts dans toute l'Europe. Il inspire dès lors des création originales pour quatuor de saxophone de compositeurs tels que Glazounov ou Pierné. Le quatuor prendra ensuite le nom de quatuor Marcel Mule, puis se séparera en 1967. 

Si Marcel Mule a quitté la Garde, c'est que sa carrière soliste de développe rapidement, et en 1935 il joue le premier concerto pour saxophone et orchestre avec l'orchstre Pasdeloup. Ce concerto vient d'être terminé par Pierre Vellones, médecin compositeur. Mule participera dès lors à de nombreuses tournées invité par des chefs prestigieux, tel Charles Münch. en 1942, Claude Delvincourt devient directeur du Conservatoire National Supérieur de Musique de Paris, et décide d'ouvrir une classe de saxophone. Il nomme tout naturellement Marcel Mule comme professeur. Il développera considérablement le répertoire du saxophone en effectuant de très nombreuses transcriptions, et en commandant des oeuvres à tous les grands compositeurs de l'époque. 

Marcel Mule prend sa retraite en 1968, et s'installe avec Paulette dans le sud de la France où il décèdera en décembre 2001.