Unsicher und im einzelnen nicht überprüfbar sind verschiedene Ãœbermittlungen über Wiederaufbautätigkeit im späten 11. und in der ersten Hälfte des 12. Jahrhunderts. Um 1140 wurde versucht, auf dem kleinen Burgberg eine neue Burg zu erbauen. Durch den Bischof Rudolf von Halberstadt wurde das aber verhindert. Noch schwelte der alte Konflikt zwischen Franken und Sachsen. Ein volles Jahrhundert lag die große Harzburg in Trümmern. Dann erkannte ein neues Kaisergeschlecht, die Staufer, die Bedeutung der Burg über dem Radautal zum Schutze Goslars und des umliegenden Reichsgutes. Friedrich I., Barbarossa, ließ um 1180 eine große Burg wiedererstehen. Sie hatte allerdings nicht mehr die Ausmaße wie ihre gewaltige Vorgängerin. Der Schwerpunkt lag jetzt mehr auf dem westlichen Teil. In dieser Zeit entstand wohl auch der Graben, der noch heute beide Burgteile trennt und mit einer 1902 gebauten  Brücke überspannt wird. Die Ãœberlieferungen lassen aber eine gesicherte Erkenntnis nicht zu. Fest steht indes, dass die Burg in den Kämpfen zwischen Welfen und Hohenstaufen eine besondere Bedeutung zukam. In ihr starb der erste Kaiser aus dem Welfengeschlecht, der unglückliche Otto IV., der Sohn Heinrichs des Löwen 1218 auf besonders tragische Weise an einer Durchfallerkrankung. Er hatte sich, nach dem die Krankheit lebendbedrohlichen Ausmaße angenommen hatten,  von der Harliburg aus auf die wohl bequemere und angemessenere Harzburg zurückgezogen. Er hinterließ ein Testament, das Aufschluss über seine Bautätigkeit auf dem Burgberg gibt.

Von nun an wechselten sich als Besitzer der Burg Lehnsleute  und Fürsten ab, sie sah Raubritter und Heerführer als Herren, wurde in Kriegen verteidigt und  mehrfach eingenommen. Letzteres  geschah oft auf spektakuläre Weise. 1370 brachte sie Otto der Quade von Braunschweig-Göttingen in seinen Besitz. Ein sich ungerecht behandelnd fühlender Bediensteter der Burg verriet ihm die Möglichkeit bei Nacht und Neben die Festung im Handstreich zu erobern. 1412/13 wurde die Burg  den Grafen von Schwiechelt zweimal von vereinten Streitkräften der Umgebung abgenommen, weil diese ihr Raubritter-Unwesen zu toll getrieben hatten.  Sie gelangte jetzt in den Besitz der Herzöge von Braunschweig-Wolfenbüttel. Im Jahre 1483 wurde die Burg von Abenteurer und Wegelagerer Herwich von Utze im Handstreich eingenommen.  Es gelang ihm mit seiner Bande die schlecht bewachte Burg zu erobern. Das Spuk dauerte aber nur wenige Tage, dann wurde er von Herzog Heinrich dem Friedfertigen wieder verjagt. 1486 wurde sie dann noch einmal erobert und zwar von Goslarern, später aber an die Braunschweiger Herzöge zurückgegeben.
In den Blick der Öffentlichkeit geriet die Burg  noch einmal 1574, als Herzog Julius von Braunschweig, der für seine sparsame Haushaltsführung gekannt war, untersuchen ließ, ob die alte Verteidigungsanlage  zu einer Renaissance-Festung zu machen sei. Die ermittelten Kosten ließen ihn aber von dem Vorhaben Abstand nehmen. Die Untersuchungen hatten jedoch den Vorteil, dass es aus dieser Zeit einen Plan der Burg und eine den damaligen Tatsachen entsprechende Abbildung  des Bauzustandes gibt.