Situé sur la place Soweto, le bâtiment a été construit en 1931 dans le style soudanais en vogue alors et a d'abord abrité le siège de l'Administration Générale de l'AOF, puis le musée après la création en 1936 par Théodore Monod de l'Institut français d'Afrique noire (IFAN), qui changera de nom sans changer de sigle dans les années 1960. C'est seulement à ce moment-là que les collections sont véritablement mises à la disposition du public. Toutefois le premier enregistrement d'objet date de 1941.

Le musée a été rénové en 1995. De janvier 2005 à février 2008, le conservateur a été Abdoulaye Camara.

Longtemps dénommé Musée d'Art africain, il change de nom en 2007, par le décret présidentiel n° 2007-1528 du 13 décembre 2007 et prend celui de Musée Théodore Monod d'Art africain.