Jonathan s’initie à la guitare à 15 ans, et fait plus tard la rencontre de Sipho Mchunu, un grand guitariste zoulou.
Ils enregistrent leur premier album en 1976, sous le nom de Juluka, et c’est avec le quatrième disque que le duo fait une percée sur la scène mondiale. Les 5 albums de Juluka seront disques d’or et 2 seront disques de platine. Le duo se sépare en 1985, et Clegg forme son second groupe, Savuka. Le succès des 2 premiers albums permet à Johnny Clegg d’entreprendre une énorme tournée mondiale. En 1993 l’album Heat, Dust and Dreams gagne le Bilboard Mucic Award.
La star internationale continue d’enregistrer régulièrement et parcourt le monde avec ses chansons, sa musique et ses messages d’humanité.