Tòa án nhân dân Thành phố Hồ Chí Minh được xây dựng năm 1881, hoàn thành năm 1886 trên bản thiết kế của kiến trúc sư người Pháp Jules Bourad (tác giả thiết kế nhà thờ Đức Bà Sài Gòn) và dưới sự trông coi của kiến trúc sư Foulhoux.

Công trình được xây dựng theo hình chữ H gồm một tầng hầm, một tầng trệt, một tầng lầu với vật liệu xây dựng hiện đại: gạch, xi măng, sắt… Mỗi tầng với chiều cao 5,2m, tạo không gian thoáng mát, đầy đủ ánh sáng cho cả tòa nhà.

Ban đầu tòa nhà có tên gọi là Pháp đình Sài Gòn là trụ sở của các cơ quan xét xử.

Năm 1961, do nhu cầu sử dụng, chính quyền Sài Gòn đã cho xây dựng thêm một dãy nhà ở phía sau do kiến trúc sư Đỗ Bá Vĩnh thiết kế, nằm về đường Nguyễn Trung Trực. Khối nhà mới xây này có kết cấu khung sàn bê tông cốt thép và có kiểu dáng tương tự, hài hòa với kiến trúc công trình cũ. Năm 1970, xây dựng thêm một nhà xét xử. Năm 1977, xây dựng nhà xét xử 2.

Tòa án nhân dân Thành phố có diện tích khuôn viên là 18.320m2. Kiến trúc Tòa án nhân dân Thành phố được thiết kế theo phong cách Baroque, đồng thời có sự kết hợp văn hóa phướng Tây với văn hóa phương Đông. Nổi bật nhất tại trung tâm mặt tiền là phù điêu tượng thần Công lý tay phải cầm kiếm, tay trái để lên cuốn sách ghi chữ CODE (bộ luật). Hai bên là hai người mang hình tượng người Việt: bên phải là người phụ nữ tóc búi cao, tay cầm nón quai thao; bên trái là người đàn ông đầu quấn khăn, tay cầm nón lá.

Các ô cửa của tòa nhà được xây theo dạng vòm, cửa gỗ lá sách, sơn màu xanh là điểm nhấn trên nền vàng của toàn bộ khối kiến trúc.

Bên trong tòa nhà, khu vực sảnh lớn là không gian chính, trọng tâm của công trình; trên tường, trần nhà, đầu cột…đều có hoa văn trang trí nổi bật như: hoa văn dây lá, cành ô liu, cán cân công lý... Các phòng làm việc đều có trần cao, hàng lang rộng 2,4m được chống đỡ bởi các cửa vòm và các cột tròn tạo sự thoáng mát, vững chắc cho toàn bộ công trình. Tầng hầm có chiều cao 3m, được sử dụng làm kho lưu trữ hồ sơ và các hoạt động chuyên môn khác.

Trải qua 140 năm hình thành và tồn tại, công trình được sử dụng đúng mục đích xây dựng ban đầu là trụ sở của các cơ quan xét xử. Tòa an nhân dân Thành phố Hồ Chí Minh được Bộ Văn hóa Thể thao và Du lịch xếp hạng di tích kiến trúc nghệ thuật quốc gia theo Quyết định số 1208/QĐ-BVHHTTDL ngày 29 tháng 3 năm 2012.