Nachdem sie den Wald gerodet und Fundamente gelegt hatten, mussten die Häftlinge genormte Einzelteile – ursprünglich für den Reichsarbeitsdienst (RAD) entwickelt – zu insgesamt 28 hölzernen Gemeinschaftsunterkünften montieren. Diese verfügten zwar über Tages- und Waschräume und über einen Schlafsaal, aber in Buchenwald waren sie immer hoffnungslos überbelegt. Bis zu sechs Häftlinge mussten sich die dreistöckigen Metallbetten teilen.
Unterhalb der Holzbaracken entstanden 1938/39 drei Reihen mit massiven Unterkünften aus Ziegelsteinen, die zumindest besseren Schutz vor der Witterung boten. Darunter wiederum wurde 1942 das Kleine Lager errichtet, deren 17 Baracken weder über sanitäre Anlagen noch über Fenster verfügten. Bei der Ankunft von Massentransporten wurden auch Zelte als Unterkünfte genutzt.
