To jeden z ostatnich utworów, jakie nagrali razem Per Gessle i Marie Fredriksson. Było to 4 lata temu w czasie pracy nad ostatnim albumem Roxette ,,Good Karma''. Per i Marie nagrali dużo więcej piosenek niż zmieściło się na albumie, m.in. właśnie ,,Let Your Heart Dance With Me. Per Gessle powiedział o tym utworze: ,,Chciałem stworzyć klasyczną, prostą piosenkę, taką do klaskania i tupania nogą. Od początku bardzo mi się wtedy podobała, ale mieliśmy mnóstwo dobrych utworów, więc musiała poczekać na swoją szansę, która nadeszła właśnie teraz, po czterech latach od nagrania".