Habib Koite stammt aus Mali und ist der Enkel eines N'goni-Virtuosen (Ngoni oder Doussou N'goni ist eine afrikanische Bogenharfe). Nach der Schule schrieb er sich im Institut National des Arts in Bamako ein und studierte dort vier Jahre Musik. Auch nach seinem Abschluss blieb er am Institut und unterrichtete Gitarre. Dort lernte er viele anerkannte Musiker aus Mali kennen und arbeitete auch mit ihnen, unter anderem Keletegui Diabate und Toumani Diabete, auf dessen Album „Shake the World“ er auch sang und Gitarre spielte.
1988 gründete er seine eigene Band unter dem namen Bamada, mit der er oft auftrat und die das Interesse internationaler Agenturen weckte.
1991 nahm er am Festival Voxpole in Perpignan teil und belegte den ersten Platz, durfte daraufhin zwei Stücke aufnehmen. Eins der beiden Stücke war „Cigarette A Bana“, das zum Hit in ganz Westafrika wurde. Der Song erschien auch auf seinem ersten Album, „Muso Ko“ von 1995. Es dauerte nicht lange, bis das Album in den Top 10 der World Music Charts Europe zu finden war. Drei Jahre später veröffentlichte er sein zweites Album „Ma Ya“, das von Anfang an den ersten Platz der World Music Charts Europe für sich beanspruchte.