Nació el 9 de mayo de 1949 en Bronx, y se crió en el barrio de Hicksville, Nueva York. Fue el segundo hijo de Rosalind Nyman, nacida en Inglaterra de padres judíos, y de Howard Joel, pianista clásico. Su padre en realidad se llamaba Helmut y salió de Alemania por su origen judío. Su abuelo Karl Joel poseía en Núremberg una importante empresa de confección y envío por catálogo de ropa. Sus progenitores se divorciaron en 1957. Howard Joel se trasladó a Viena. Billy tiene una hermana, Judith, y un hermanastro, Alexander, director musical de la Staatstheater Braunschweig. Comenzó sus clases de piano a la edad de cuatro años. Dedicó su tiempo a la música, las bandas juveniles y el boxeo, deporte que le atraía muchísimo, pero tras 22 combates lo abandonó. Su primera banda musical se llamó "The Echoes" y tocaban versiones de los Rolling Stones y Los Beatles entre otros. The Echoes se convirtieron en The Lost Souls en 1965. En el 66 cambiaron a The Esmerald Lords y en el 67 a The Hassles (Las Confusiones). En 1971, graba en New York una canción que llama la atención de Family Productions y un año después graba su primer álbum como solista "Colds Spring Harbour".
| 1 | Keeping The Faith | Billy Joel Greatest Hits: Vol. III |
| 2 | Everybody Loves You Now (Live) | Songs in the Attic |
| 3 | Leave a Tender Moment Alone | An Innocent Man |
| 4 | Careless Talk | An Innocent Man |
| 5 | Allentown | Billy Joel Greatest Hits: Vol. I & II |
| 6 | Say Goodbye To Hollywood | Billy Joel Greatest Hits: Vol. I & II |
| 7 | River Of Dreams (Live) | 2000 Years - The Millennium Concert |
| 8 | This Night | An Innocent Man |
| 9 | We Didn't Start The Fire | Billy Joel Greatest Hits: Vol. III |
| 10 | Beethoven's Ninth Symphony (Live) | 2000 Years - The Millennium Concert |
| 11 | The Downeaster "Alexa" | Storm Front |
| 12 | You're Only Human | Billy Joel Greatest Hits: Vol. I & II |
| 13 | You May Be Right (Live) | 2000 Years - The Millennium Concert |
| 14 | Easy Money | An Innocent Man |
| 15 | Scenes From An Italian Restaurant (Live) | 2000 Years - The Millennium Concert |
| 16 | You May Be Right | Billy Joel Greatest Hits: Vol. I & II |
| 17 | The River Of Dreams | Billy Joel Greatest Hits: Vol. III |
| 18 | Honesty | 52nd Street |
| 19 | Movin' Out (Anthony's Song) (Live) | 2000 Years - The Millennium Concert |
| 20 | Only The Good Die Young (Live) | Kohuept |