Les deux sœurs interprétèrent la chanson pour la première fois sur scène au Festival Folk de Philadelphie durant l’été 1970 et commencèrent à l’interpréter en fin de spectacles. Jerry Jeff Walker, auteur de la chanson Mr. Bojangles, entendit un soir Kate et Roma interpréter la chanson et leur en demanda immédiatement une copie, qu’il fit ensuite entendre à son amie Linda Ronstadt.

Le groupe folk-rock McKendree Spring fut le premier à enregistrer Heart Like a Wheel en 1972, sur leur album McKendree Spring 3. Quant à Linda Ronstadt, elle en fit la chanson titre de son album de 1974, qui atteint la première position du palmarès et qui resta 51 semaines dans le Top 200 des albums du magazine Billboard. Bien que la chanson elle-même n’a pas figuré de manière importante au palmarès, les fans et la critique la considérèrent comme une des meilleures pièces de l’album de la chanteuse.

Après le succès remporté par Linda Ronstadt avec Heart Like a Wheel, Anna et Kate l’enregistrèrent sur leur premier album, Kate & Anna McGarrigle.

Anna et Kate McGarrigle virent le jour à Montréal et grandirent à Saint-Sauveur et à Montréal. Anna étudia à l’École des beaux-arts alors que Kate étudia en sciences à l’Université McGill. Pendant leurs études, elles se produisirent au sein du groupe folk Mountain City Four, avec Peter Weldon et Jack Nissenson. Anna et Kate furent recrutées par Warner Bros. en 1975.