Franz Liszt a écrit son Élégie no. 2 en 1877, et le publia pour la première fois l'année suivante, par l'intermédiaire de CF Kahnt Nachfolger, à Leipzig. L'ouvrage était dédié à Lina Raman. La première version de l'ouvrage, inédite, était répertoriée sous le numéro S. 196a et portait le titre Entwurf der Ramann-Elegie. Le travail a été révisé peu de temps après avoir été terminé, et cette version est devenue S. 197, alias LW.A277. S'ensuivent des arrangements pour piano et violoncelle, et pour piano et violon, respectivement appelés S. 131 et 131bis. Ils sont souvent publiés ensemble.