Zeroual anslöt sig till den algeriska befrielsearmén vid 16 års ålder. Efter militära studier i Sovjetunionen och Frankrike utnämndes han 1988 till biträdande överbefälhavare. I juli 1993 blev han försvarsminister för att ett halvår senare av det då styrande Högsta säkerhetsrådet utses till landets president. Han valdes i allmänna val