Hårleman kom att utforma och förnya många kungliga och privata trädgårdar, bl.a. Kungsträdgården (som den ser ut i Erik Dahlberghs kopparstick) och Ekolsund vid Mälaren, ofta i samarbete med Nicodemus Tessin d.y. Som kunglig trädgårdsarkitekt kom han att spela en betydande roll vid introduktionen av den franska barockträdgården i Sverige.