Möglicherweise liegt seine enge Beziehung zu der Musik als Ausrucksform, in seine von Isolation und Einsamkeit geprägten Kindheit begründet. Dank des Großmeisters Beethoven entdeckte er die Liebe zur klassischen Musik. Später entwickelte sich noch eine große Leidenschaft für die Jazz- und Bluesrichtung. Besonders das Klavier hat es ihm angetan. Mit großer Disziplin übt er, der an Asthma leidet, von nun an dem Instrument.
Mit 16 Jahren fing er an in Kneipen zu spielen, wo er schnell eine größere Fangemeinde gewinnen konnte.
Ein Stipendium ermöglichte es ihm, an der Royal Academy of Music in London ein Musikstudium mit dem Schwerpunk Komposition zu beginnen.
Sein Debütalbum „Arms and Legs“ scheiterte trotz Singleauskopplungen kläglich. Der Nachfolger „Look Sharp!“ wurde hingegen, gerade wegen der Single “Is She Really Going Out With Him?” zu einem kommerziellen Erfolg.
Im laufe der Jahre interessiert er sich zunehmen für zeitgenössische Popmusik, bis er Anfang der 90er wieder zurück zu seinen klassischen Wurzeln, und unterschrieb einen Vertrag bei „Sony Classical“. Dort veröffentlichte er 1997 das Album „Symphony No. 1“, für das er einen Grammy-Award erhielt.
Derzeit lebt Joe Jackson parallel in Portsmouth, New York City und Berlin.