Gyllenborg var 1756–62 kavaljer hos kronprins Gustav och avancerade som ämbetsman till kansliråd 1774. Han var en av de ledande i Tankebyggarorden och publicerade merparten av sina dikter i sällskapets skrifter. I satirer och reflexionsdikter, som stilistiskt anknyter till franskklassicistisk tradition, diskuterar han mångsidigt och allvarligt en sekulariserad tids etiska frågor.