Gustafsson gav 1869–1910 ut skämttidningen Kasper. Han blev känd för ett radikalt tänkesätt, som han vältaligt lade i dagen både som stadsfullmäktig i Stockholm och som ledamot av andra kammaren 1885–87 och 1891–92.