Da sich Sangerhausen außer Stande sah, dem seit 22 Jahren in der Stadt beheimateten Magdeburgischen Jägerbataillon Nr. 4 ein Kaserne zu erbauen, erhielt Naumburg den Vorzug, wo ein breitgelagerter, neuromanischer Bau mit 15 Fensterachsen, drei Risaliten und drei Geschossen entstand, in den man 1873 einzog. Diesen Neubau entwarf laut dem Dehio-Handbuch Johann Gottfried Werner, dem mehrere malerische Gebäude in Naumburg und Umgebung zu verdanken sind. Zum Areal gehört auch das nordwestlich an der Jägerstraße erbaute Gebäude. Dreißig Jahre später entstand in der Nähe die Neue Jägerkaserne.