Die bemerkenswerteste aller Bauarbeiten, die Herodes ausführen ließ, war — vor allem biblisch gesehen — der Wiederaufbau des Tempels des Serubbabel in Jerusalem. Die Bauarbeiten verschlangen riesige Summen. Das Ergebnis beschreibt Josephus als überaus prachtvoll (Jüdische Altertümer, 15. Buch, Kap. 11, Abs. 3). Da die Juden Herodes hassten und ihm misstrauten, erlaubten sie ihm nicht, den bestehenden Tempel abzureißen, ehe er die Baumaterialien zusammengetragen und auf dem Gelände bereitgestellt hatte. Das Tempelheiligtum wurde laut Josephus in 18 Monaten wieder aufgebaut (Jüdische Altertümer, 15. Buch, Kap. 11, Abs. 6). Andere Hauptgebäude wurden in 8 Jahren errichtet. Doch 30 n. Chr. erwähnten die Juden, der Tempel sei in 46 Jahren gebaut worden. Diese Worte fielen im Laufe eines Gesprächs mit Jesus Christus kurz vor dem ersten Passah nach seiner Taufe (Johannes 2,13-20). Josephus schreibt (Jüdische Altertümer, 15. Buch, Kap. 11, Abs. 1), dass Herodes im 18. Jahr seiner Regierung mit diesem Werk begann. Wenn man die Jahre so zählt, wie die Juden die Regierungsjahre ihrer Könige betrachtet haben, könnte das 18/17 v. Chr. bedeuten. Tatsächlich hörten die Arbeiten am Tempel, wie zum Beispiel der Anbau von Nebengebäuden, erst 6 Jahre vor seiner Zerstörung (im Jahre 70 n. Chr. ) auf.