Borg medarbetade i Aftonbladet 1850–51 och var från 1853 knuten till Öresunds-Posten, från 1855 som dess redaktör. Borg var en stridbar och radikal liberal; som riksdagsman (1879–92) anslöt han sig, i brist på progressivare alternativ, till Lantmannapartiet. Störst intresse ägnade han de skandinaviska frågorna och kampen för kvinnlig rösträtt.