Anstalten byggdes ursprungligen som kvinnofängelse men 1940 togs den i bruk av den tyska ockupationsmakten för internering av krigsfångar. Till en början var Grini avsett för politiska fångar, men också andra vistades där; som mest 5 400 personer och totalt 20 000.