Uppvuxen i en ämbetsmannafamilj från Rhenlandet, studerade Stein i Göttingen, där han påverkades av brittiskt upplysningstänkande. År 1780 trädde han i preussisk statstjänst, och han blev 1796 ledare för förvaltningen i Westfalen, där han förvärvade en djup förtrogenhet med näringslivets problem.