Das Stück hat eine sehr sparsame Instrumentierung: Abgesehen vom Chor, der die Zeile God Must Be a Boogie Man aufgreift, begleitet Mitchell sich auf der Gitarre, Jaco Pastorius akzentuiert weiter und steuert zudem eine Einleitung und ein weiteres Solo auf dem bundlosen Bass bei.
Mitchell sagte in einem Rolling-Stone-Interview, dass der Text über Mingus geht und von dessen Autobiografie Beneath The Underdog[4] inspiriert war. Mingus starb, bevor er den Song hören konnte:
„Er hat alles gehört, außer "God Must Be a Boogie Man", das ihm gefallen hätte, da es seine Sichtweise über sich selbst darstellt. Es basiert auf den ersten vier Seiten seines Buches [Beneath the Underdog].“
„Dieser Song benennt Mingus im selben Atemzug wie Gott, wobei beide Figuren voller Widersprüche sind. Es geht in diesem Song nicht so sehr um Gott, sondern um Menschen und wie schwierig es ist, jemanden in seiner Komplexität wirklich zu kennen.“
