1897年日人將臺灣縣縣學與萬壽宮合併,加以增建,是為第一代臺南地方法院廳舍。後因空間不敷使用,擇定在馬兵營一帶興建法院新廳舍,由建築師森山松之助設計,於1912年(明治45年)動工,1914年(大正3年)竣工,為第二代臺南地方法院,即現今的司法博物館。1991年經內政部公告為二級古蹟,1997年變更為國定古蹟,為臺灣現存唯一日治時代大型地方法院建築。
司法博物館原自日治時期起一直做為法院使用,至1999年開始籌設為「司法文物陳列館」、2001年考量「文物陳列館」一詞,予人靜態陳列文物之印象,較難吸引民眾參觀,遂改為籌設「司法博物館」作為推動目標,2016年起開放參觀,以落實全民共享及推廣法治教育的功能與目標。2024年由司法院接管。