Als sich Anfang April 1945 amerikanische Truppen von Westen dem Harz näherten, ließ die SS die meisten Lager des KZ Mittelbau räumen. Es wiederholte sich nun, was die Häftlinge aus Auschwitz und Groß-Rosen bereits im Januar und Februar 1945 hatten erleiden müssen. In aller Eile und mit großer Brutalität trieben die Wachmannschaften die Lagerinsassen in herbeigeschaffte Güter- und Viehwaggons. Mehrere mit Tausenden von Häftlingen beladene Züge verließen bis zum 6. April 1945 den Südharz in Richtung Bergen-Belsen, Sachsenhausen und Ravensbrück.
Daneben schleppten sich viele Kolonnen erschöpfter Häftlinge, angetrieben von den Wachmannschaften, auf Todesmärschen zu Fuß durch den Harz in Richtung Nordosten. Wer auf den Gewaltmärschen nicht mithalten konnte, wurde hinterrücks von den Wachmannschaften erschossen. Das schlimmste Massaker begingen SS-Angehörige, Wehrmachtsoldaten und Volkssturmmänner bei Gardelegen in der Altmark. Dort ermordeten sie über 1.000 Häftlinge aus geräumten Außenlagern des KZ Mittelbau und des KZ Neuengamme in einer in Brand gesetzten Feldscheune.
Die Gesamtzahl der Opfer von Räumungstransporten und Todesmärschen des KZ Mittelbau ist nicht überliefert. Schätzungen gehen davon aus, dass es bis zu 8.000 Tote waren.