Som motståndare till antisemitism och socialistisk pionjär tvingades han redan 1893 i inre exil, men tog ändå tillsammans med bland andra Vladimir Lenin aktiv del i grundandet av Ryska socialdemokratiska partiet 1898 och tidningen Iskra (’Gnistan’) 1900. Martovs vilja att stödja arbetarklassens reformistiska kamp för bättre levnadsvillkor kom dock i konflikt med Lenins