Urodzona 10 lutego 1937 roku w Black Mountain w Karolinie Północnej Flack dorastała w domu wypełnionym muzyką – jej matka była organistką, a ojciec samoukiem jazzowym. Od najmłodszych lat przejawiała niezwykły talent pianistyczny, co zaowocowało stypendium na prestiżowym Howard University. Rozpoczęła tam studia muzyczne w wieku zaledwie 15 lat. Początkowo marzyła o karierze pianistki koncertowej. Uwielbiała muzykę klasyczną, szczególnie twórczość Schumanna, Bacha i Chopina.
Po ukończeniu studiów Flack pracowała jako nauczycielka muzyki, a jednocześnie występowała w klubach jazzowych w Waszyngtonie. Występy te przyciągnęły uwagę pianisty Lesa McCanna, który pomógł jej podpisać kontrakt z Atlantic Records. Ddebiutancki album „First Take” początkowo nie odniósł spektakularnego sukcesu, ale wszystko zmieniło się, gdy w 1971 roku Clint Eastwood użył jej utworu „The First Time Ever I Saw Your Face” w filmie „Zagraj dla mnie Misty”. Piosenka stała się hitem i przyniosła jej pierwszą nagrodę Grammy.