Nació el 9 de mayo de 1949 en Bronx, y se crió en el barrio de Hicksville, Nueva York. Fue el segundo hijo de Rosalind Nyman, nacida en Inglaterra de padres judíos, y de Howard Joel, pianista clásico. Su padre en realidad se llamaba Helmut y salió de Alemania por su origen judío. Su abuelo Karl Joel poseía en Núremberg una importante empresa de confección y envío por catálogo de ropa. Sus progenitores se divorciaron en 1957. Howard Joel se trasladó a Viena. Billy tiene una hermana, Judith, y un hermanastro, Alexander, director musical de la Staatstheater Braunschweig. Comenzó sus clases de piano a la edad de cuatro años. Dedicó su tiempo a la música, las bandas juveniles y el boxeo, deporte que le atraía muchísimo, pero tras 22 combates lo abandonó. Su primera banda musical se llamó "The Echoes" y tocaban versiones de los Rolling Stones y Los Beatles entre otros. The Echoes se convirtieron en The Lost Souls en 1965. En el 66 cambiaron a The Esmerald Lords y en el 67 a The Hassles (Las Confusiones). En 1971, graba en New York una canción que llama la atención de Family Productions y un año después graba su primer álbum como solista "Colds Spring Harbour".
| 1 | 2000 Years (Live) | 2000 Years - The Millennium Concert |
| 2 | My Life | Billy Joel Greatest Hits: Vol. I & II |
| 3 | Two Thousand Years | River Of Dreams |
| 4 | Rosalinda's Eyes | 52nd Street |
| 5 | New York State Of Mind (Live in New York) | The Concert for New York City |
| 6 | And So It Goes | Billy Joel Greatest Hits: Vol. III |
| 7 | Allentown (Live) | 2000 Years - The Millennium Concert |
| 8 | Only The Good Die Young | Billy Joel Greatest Hits: Vol. I & II |
| 9 | 52nd Street | 52nd Street |
| 10 | Auld Lang Syne (Live) | 2000 Years - The Millennium Concert |
| 11 | River Of Dreams (Live) | 2000 Years - The Millennium Concert |
| 12 | My Life (Live) | 2000 Years - The Millennium Concert |
| 13 | Stiletto (Live) | Kohuept |
| 14 | Back In The U.S.S.R. (Live) | Kohuept |
| 15 | The Entertainer | Billy Joel Greatest Hits: Vol. I & II |
| 16 | It's Still Rock And Roll To Me | Billy Joel Greatest Hits: Vol. I & II |
| 17 | Big Shot | Billy Joel Greatest Hits: Vol. I & II |
| 18 | All About Soul | Billy Joel Greatest Hits: Vol. III |
| 19 | The River Of Dreams | River Of Dreams |
| 20 | A Matter Of Trust | Billy Joel Greatest Hits: Vol. III |