Bien que l'esclavage ait été aboli au Canada en 1834, plusieurs décennies avant la fin de la guerre civile américaine en 1865, les conditions de vie des communautés noires au Canada demeurent néanmoins médiocres. Les Noirs se voyaient refuser l'accès à l'éducation et à plusieurs corps d’emploi. Les femmes noires étaient cantonnées aux travaux domestiques alors même qu’elles construisaient les églises et les centres communautaires, nourrissant et éduquant la communauté. En raison de sa proximité avec les sièges sociaux de deux grandes compagnies de chemin de fer, ainsi qu'avec le port et le canal de Lachine – une importante voie de navigation – la Petite-Bourgogne attirait non seulement la majeure partie de la communauté noire de Montréal, mais aussi des gens des communautés noires de la Nouvelle-Écosse, de l'Ontario, des États-Unis et des îles des Caraïbes. Beaucoup d’hommes noirs travaillaient comme porteurs de chemin de fer, sous les ordres de patrons blancs. Malgré les aspects négatifs de cette profession difficile, les voyages en train étaient alors considérés comme avant-gardistes et luxueux pour l'époque et le métier assurait un revenu stable. Les porteurs étaient donc respectés au sein de leur communauté. Grâce à ce métier de voyages, ils étaient les rares Montréalais afro-descendants à pouvoir entrer en contact avec le vaste réseau de communautés noires à travers l'Amérique du Nord. Ainsi, le métier de porteur contribua à l'émergence d'une puissante conscience diasporique au Canada et aux États-Unis. C'est en partie grâce à eux que la « ville sous la colline » a connu sa propre renaissance, tout comme Harlem dans la ville de New York et qu’elle a d’ailleurs été surnommée la « Harlem du Nord ». Lorsque la prohibition et le jazz ont déferlé sur l'Amérique du Nord au début du XXe siècle, Montréal est devenue la « ville du péché » et la région est devenue un foyer effervescent de talents locaux du jazz, comme Oscar Peterson et les Sealey Brothers. La mode du jazz a amené des grands noms à Montréal, comme Dizzy Gillespie, Ella Fitzgerald, Louis Armstrong et Miles Davis, où ils se sont sentis chez eux et bien accueillis. Dans la région du Sud-Ouest de Montréal, une communauté noire prospère s'est développée. Le quartier avait sa propre église, ses centres communautaires et ses clubs. Marcus Garvey a créé une association locale, la Universal Negro Improvement Association, dans la Petite-Bourgogne. Les parents de Malcom X se sont rencontrés dans la Petite-Bourgogne. La Black Consciousness a permis à une communauté de se développer dans la Petite-Bourgogne. Cependant, le nom « Petite-Bourgogne ne s'est imposé que dans les années 1960. Au début du XXe siècle, les étrangers désignaient le quartier par des termes tels que « N...r Town » ou « The Black City Below the Hill ». Dans les années 60, la Petite-Bourgogne était un quartier ouvrier à faible revenu. La ville l'avait négligé : de nombreuses maisons étaient mal entretenues et ne possédaient même pas les fonctions les plus élémentaires comme l'eau courante. En 1965, le maire Jean Drapeau décide que l'état du quartier fait ombrage à la ville de Montréal en vue de l'Expo 67 et des Jeux olympiques. Un plan décennal de « rénovation urbaine » est donc lancé. De nombreux bâtiments de la Petite-Bourgogne sont condamnés, démolis et reconstruits. Les rues sont élargies et une autoroute à six voies est construite. De nombreux résidents sont chassés, se retrouvant dans des municipalités de banlieue avoisinantes où les logements sont plus abordables. Malgré les intentions de Drapeau, la Petite-Bourgogne stagne et, au début des années 1980, la Ville de Montréal rebaptise brièvement le secteur, Quartier Georges-Vanier, dans le but d'en éliminer tout stigmate. Toutefois, lors de consultations menées dans les années 1990, les résidents demandent que le nom de la Petite-Bourgogne soit rétabli. Ces dernières années, le quartier a commencé à s'embourgeoiser grâce à un afflux de restaurants, de bars et de salles de concert branchés.