Ce toponyme a été adopté dans le cadre de l'harmonisation des noms de rues, rendue nécessaire par le regroupement municipal du 1er janvier 2002. Il rappelle le célèbre roman de Philippe-Joseph Aubert de Gaspé (1786-1871), Les Anciens Canadiens (1863), dont l'action se déroule pendant la période entourant la Conquête. L'expression « Anciens Canadiens » renvoie aux descendants des premiers colons du Canada, ancêtres des Québécois. Si les colons de la première heure sont des Français, leurs descendants cherchent à exprimer leur appartenance au Nouveau Monde. Ainsi dès 1660, ceux qui sont nés de parents français établis au Canada prennent le nom de Canadiens, par opposition aux « Français de France » venus faire carrière comme militaires ou fonctionnaires. À partir de la Conquête anglaise, en 1760, on appelle « Anciens Canadiens » les habitants d'ascendance française afin de les distinguer des colons d'origine anglaise. On désignera ensuite par le nom de Canadiens français les francophones du Canada. Au Québec, ce terme est en usage jusqu'à la Révolution tranquille, dans les années 1960.

Ancien toponyme
La rue des Anciens-Canadiens portait à l'origine le nom de rue des Ancêtres, adopté le 7 novembre 1977, en hommage aux hommes et aux femmes des siècles passés.