Aux abords de cette voie, il y avait autrefois à Sillery un foulon, c'est-à-dire un moulin où l'on foulait la laine pour produire d'épaisses étoffes. Construit en 1710 par le Séminaire de Québec, le moulin est alimenté par le ruisseau Saint-Denys qui se jette dans une anse bientôt connue sous le nom d'anse au Foulon. Les ouvriers qui travaillent au moulin, appelés les foulons, ont l'habitude d'emprunter un sentier qui longe la falaise et qui deviendra finalement un chemin : ainsi naît le chemin du Foulon, dit aussi des Foulons. Le moulin aurait fonctionné jusqu'en 1734, après quoi il semble avoir été abandonné. Le toponyme, toutefois, est demeuré.

Au 19e siècle, le chemin du Foulon est bordé d'habitations ouvrières, de petits commerces et d'auberges, tandis que les anses de Sillery accueillent les chantiers des exportateurs de bois et des constructeurs de navires, pour la plupart d'origine britannique. Ce n'est que beaucoup plus tard, en 1924, que la Ville de Sillery adopte le nom de chemin du Foulon, aussi appelé Cove Road. Quant à l'anse au Foulon, une fois sa plage libérée des installations industrielles, elle sera pendant plusieurs décennies le rendez-vous des baigneurs.

La construction du boulevard Champlain, dans les années 1960 et 1970, a nécessité des remblais, ce qui a fait disparaître la plus grande partie du chemin du Foulon. Il n'en reste plus aujourd'hui qu'un tronçon qui part de la côte de Sillery et serpente entre la falaise et le boulevard jusqu'à l'anse Victoria. Le long de ce parcours se dressent encore la Maison des Jésuites et d'anciennes habitations ouvrières qui évoquent, pour la première, l'époque de la Nouvelle-France, pour les secondes, le 19e siècle et l'industrie du bois.

Le parc du Foulon longe le chemin du même nom.

Ancien toponyme
Le chemin du Foulon était aussi connu sous le nom de Cove Road (« chemin des anses ») car il menait aux chantiers établis au bord du fleuve Saint-Laurent.