Fats Waller växte upp i en mycket religiös miljö. Pappan var präst i Camden N.Y.. Redan som tioåring hade Fats börjat spela orgel och som fjortonåring var han trots sin låga ålder ordinarie organist vid Lincoln Theatre. Här grundlade han sin enorma vänsterhandsteknik vilket senare kom att bli ett av hans kännetecken.
Han var en mycket uppskattad ackompanjatör i början av sin karriär och den legendariska jazzsångerskan Bessie Smith hörde till dem som anlitade Fats. Orgelspelet släppte aldrig taget om den storvuxne musikern även när han blivit etablerad pianist och kompositör. Regelbundet tog han lektioner i orgelspel och han gjorde mängder av grammofoninspelningar från kyrkan i Camden.
Det var som pianist, sångare, entertainer och kompositör som Fats Waller gått till historien. Bland hans kompositioner kan nämnas Ain´t misbehavin, Honeysuckle rose och Jitterbugg waltz. Även andras kompositioner har lyfts fram i rampljuset av Fats. Lulu´s back in town, The sheik of Araby och Until the real thing comes along har blivit stora hits i hans tappning.
Som pianist har han inspirerat många kollegor. Count Basie tog lektioner i orgel-spel av Fats. Andra pianogiganter som prisat honom pianisternas pianist, är Art Tatum, Thelonius Monk, Bud Powell, Teddy Wilson samt Errol Gardner har alla hyllat hans schvungfulla spel. Även en av popjazzens främsta företrädare pianisten och keyboardspelaren Joe Zawinul återfinns i hyllningskören.
En renässans fick Wallers musik genom musicalen Ain´t misbehavin som sattes upp på Broadway 1978. Succén var enorm. Wallers roll spelades av Hank Jones. Som kuriosa kan nämnas att Fats Waller i samband med sin Europaturné framträdde i Stockholms konserthus 1938.