Berman studerade för bl.a. Svjatoslav Richter vid Moskvakonservatoriet. Han blev internationellt känd för sina inspelningar av Liszts ”Études d’exécution transcendante” och ”Années de pèlerinage”. Med sitt virtuosa spel vann Berman förutom som Liszttolkare särskilt erkännande i rysk pianomusik och som Beethoventolkare.