Eriksberg debuterade 1927 och spelade i Frank Vernons orkester i Stockholm 1928–33, senare med Seymour Österwall, Thore Ehrling, Svenska hotkvintetten och Gösta Törner. Han var intill mitten av 1950-talet en flitigt anlitad studiomusiker i olika stilar och sammanhang. Eriksberg var en tidig representant för jazzgitarren i Sverige, t.ex. i soloinspelningen ”St.