In Großjena bestand bereits im Mittelalter einer Kirche St. Rupert. Diese wurde in den Jahren von 1893 bis 1895 durch einen Neubau abgelöst, den Johann Gottfried Werner (Naumburg) entwarf. Ähnlich wie 20 Jahre zuvor bei der Kirche von Bündorf entschied er sich für den neuromanischen Baustil, wobei die Ausmaße in beiden Fällen für das dörfliche Ambiente fast etwas zu groß wirken. Da im Unstruttal zwischen Naumburg und Freyburg aber verschiedene dieser dominanten Kirchen stehen, und die Proportionen gut ausgewählt wurden, wirkt das Bauwerk dennoch nicht fehlplatziert. Da der Vorgängerbau in Teilen auf dem Friedhof erhalten ist, wie man im Dehio oder auch dem Denkmalverzeichnis nachlesen kann, unterscheidet man seitdem zwischen neuer und alter St.-Rupert-Kirche.