Ce parc tient son nom de l'ancien collège Notre-Dame-de-Bellevue ayant été créé à même le terrain de l'institution. Le collège était parmi les nombreuses maisons d'enseignement implantées dans la région de Québec par les sœurs de la congrégation de Notre-Dame de Montréal – fondée par Marguerite Bourgeoys – à partir de la fin du 17e siècle. En 1864, les religieuses feront l'acquisition du domaine « Belle-Vue » au sommet du coteau Sainte-Geneviève, « sur le chemin menant vers Sainte-Foy ». L'appellation de « Belle-Vue », qui remonte au siècle précédent, voulait probablement témoigner de la beauté du site sur les hauteurs surplombant la pittoresque vallée de la Saint-Charles. C'est là qu'en 1874 les sœurs établissent le collège Notre-Dame-de-Bellevue.

Ancien toponyme
Entre son ouverture, en mai 1995, jusqu'en janvier 2000, le parc Notre-Dame-de-Bellevue était connu sous le nom de parc Bellevue.