En 1756, Vaudreuil, alors gouverneur de la Nouvelle-France, fait construire le fort Carillon à l'extrémité sud du lac Champlain. À l'été de 1758, le général anglais Abercromby, à la tête de 16 000 hommes, remonte la vallée de l'Hudson en direction du lac Champlain et du Saint-Laurent. Montcalm se rend au-devant de lui et installe ses 4 000 hommes dans de solides retranchements, en avant du fort Carillon. Montcalm infligera des pertes très sévères à Abercromby mais cette brillante victoire française n'aura cependant aucune incidence sur l'issue de la guerre de Sept Ans opposant la France et l'Angleterre.

Anciens toponymes
Le tracé de la rue de Carillon apparaît sur une carte de 1875. La portion comprise entre la rue Saint-Vallier Ouest et la rivière Saint-Charles, portait en 1875 le nom de rue Saint-Michel (voir Arago). Elle prend le nom de rue de Carillon en 1890. L'autre portion de l'actuelle rue de Carillon, soit celle comprise entre les rues des Oblats et Saint-Vallier Ouest s'appelait alors rue Saint-Pierre en l'honneur de Pierre Boisseau, propriétaire du terrain. En 1890, la rue Saint-Pierre devient rue Duquesne et, en 1911, rue Grenier. Elle prend enfin le nom de rue de Carillon en 1917.