Ce toponyme a été adopté dans le cadre de l'harmonisation des noms de rues, rendue nécessaire par le regroupement municipal du 1er janvier 2002. Il a été proposé par des citoyens et des citoyennes de l'arrondissement. On désigne par le nom de Carougeois les résidants de Cap-Rouge, un quartier de la ville de Québec depuis 2002. C'est en 1872 qu'est constituée la municipalité de la paroisse de Saint-Félix-du-Cap-Rouge. Elle prend le nom de Cap-Rouge en 1983, lorsqu'elle accède au statut de ville. Le gentilé Carougeois dérive de Carouge, nom ancien par lequel les habitants désignaient la localité. Il apparaît notamment dans un acte de baptême de 1673 et un acte de mariage de 1680. Le Quebec Directory and Stranger's Guide to the City and Environs, publié en 1844 par Alfred Hawkins, utilise aussi cette graphie qui reflète vraisemblablement la prononciation de l'époque, le p du mot Cap étant escamoté.

Ancien toponyme
La rue des Carougeois portait auparavant le nom de rue du Golf, adopté vers 1972. Cette voie de communication se trouve effectivement près des terrains du Club de golf de Cap-Rouge, fondé en 1959 à l'instigation du maire Jean-Charles Cantin. Tout un quartier résidentiel s'est développé aux alentours.