Die in der ersten Songzeile erwähnte Virginia ist Virginia Callahan, ein Mädchen, auf das Billy Joel als Jugendlicher ein Auge geworfen hatte. Sie wusste nicht einmal, dass es ihn gibt, bis sie ihn bei einem Auftritt sah. 13 Jahre später wurde sie die Vorlage in seinem Song über ein katholisches Mädchen, das vorehelichen Sex ablehnt.

Die Kirche fand das Lied verdammungswürdig, was dem Song zu verkaufsfördender Publicity verhalf, erinnert sich Billy Joel: "That song was released as a single back in 1977, I think. It was not really doing very well, just languishing in the charts. Then it was banned by a radio station in New Jersey at a Catholic university. The minute the kids found out it was banned, they ran out in droves and it became a huge hit. If you tell kids they can't have something, that's what they want. I don't understand the problem with the song. It's about a guy trying to seduce a girl but, at the end of the song, she's still chaste and pure and he hasn't got anything. So I never understood what the furor was about. But I did write a letter to the archdiocese who'd banned it, asking them to ban my next record."