
Từ tháng 12-1981 đến tháng 6-1984, đồng chí đi học tại Trường Quân chính Quân khu 7. Hoàn thành khóa học, đồng chí về nhận nhiệm vụ Phó Đại đội trưởng thuộc Tiểu đoàn 4, Trung đoàn 778, Quân khu 7. Do gia đình quá khó khăn, đồng chí được cấp trên điều về làm Trợ lý Ban Chỉ huy quân sự quận Gò Vấp và tiếp tục đi học tại Trường Quân chính Quân khu 7 (7-1985). Từ tháng 2-1986 đến tháng 8-1989, đồng chí giữ chức vụ Phó Chỉ huy trưởng - Tham mưu trưởng Ban Chỉ huy quân sự quận Gò Vấp.
Tháng 9-1989, đồng chí tiếp tục được cử đi học tại Học viện Lục quân. Tháng 8-1990, hoàn thành khóa học trở về, đồng chí trải qua các chức vụ: Phó Chỉ huy trưởng - Tham mưu trưởng; Chỉ huy trưởng Ban Chỉ huy quân sự quận Gò Vấp. Từ tháng 9-1997 đến tháng 7-1999, đồng chí tiếp tục được cử đi học tại Học viện Quốc phòng.
Từ tháng 8-1999 đến tháng 7-2001, đồng chí đảm nhiệm chức vụ Phó Sư đoàn trưởng - Tham mưu trưởng Sư đoàn bộ binh 5, Quân khu 7. Đến tháng 8-2001, đồng chí giữ trách nhiệm Chánh Thanh tra Quốc phòng Quân khu 7. Đồng chí cùng cơ quan Thanh tra Quốc phòng Quân khu đã tham mưu hiệu quả, chính xác cho Đảng ủy - Bộ Tư lệnh Quân khu về công tác thanh tra, giải quyết khiếu nại, tố cáo, tiếp công dân, phòng, chống tham nhũng, buôn lậu, gian lận thương mại và hàng giả, thực hành tiết kiệm, chống lãng phí; góp phần xây dựng Ngành Thanh tra Quốc phòng cũng như lực lượng vũ trang Quân khu ngày càng vững mạnh toàn diện. Từ tháng 1-2003, đồng chí nhận nhiệm vụ Thư ký Thủ trưởng Bộ Quốc phòng. Từ tháng 5-2005, đồng chí đảm nhiệm chức vụ Phó Chỉ huy trưởng - Tham mưu trưởng Bộ Chỉ huy quân sự Thành phố Hồ Chí Minh.
Tháng 5-2010, đồng chí được bổ nhiệm giữ chức Chỉ huy trưởng Bộ Chỉ huy quân sự Thành phố Hồ Chí Minh. Ngày 14-1-2011, Bộ Quốc phòng quyết định đổi tên Bộ Chỉ huy quân sự Thành phố Hồ Chí Minh thành Bộ Tư lệnh Thành phố Hồ Chí Minh, trực thuộc Quân khu 7; đồng chí được bổ nhiệm Tư lệnh Bộ Tư lệnh Thành phố Hồ Chí Minh và thăng quân hàm Thiếu tướng. Với vai trò là người chỉ huy cao nhất lực lượng vũ trang Thành phố, đồng chí đã cùng với tập thể Đảng ủy - Bộ Tư lệnh Thành phố chú trọng, chăm lo củng cố quốc phòng, công tác quân sự địa phương không ngừng vững mạnh, trong đó lấy xây dựng lực lượng dân quân tự vệ, lực lượng dự bị động viên làm nòng cốt trong xây dựng nền quốc phòng toàn dân, xây dựng thế trận chiến tranh nhân dân bảo vệ Tổ quốc. Đồng thời, chủ động tham mưu cho Thành ủy, Ủy ban nhân dân Thành phố trong việc lãnh đạo, quản lý, điều hành nhiệm vụ quân sự, quốc phòng - công tác quân sự địa phương, xây dựng khu vực phòng thủ vững chắc, xây dựng tiềm lực quốc phòng sẵn sàng ứng phó thắng lợi với mọi tình huống. Tháng 10-2018, đồng chí nghỉ hưu theo chế độ.
Trải qua thực tế chiến đấu trong chiến tranh bảo vệ biên giới Tây Nam, làm nhiệm vụ quốc tế, những ngày tháng công tác tại Văn phòng Bộ Quốc phòng, hay lãnh đạo, chỉ huy việc xây dựng lực lượng vũ trang Thành phố Hồ Chí Minh phục vụ sự nghiệp xây dựng - bảo vệ Tổ quốc Việt Nam xã hội chủ nghĩa, dù ở cương vị công tác nào, đồng chí Trương Văn Hai luôn nỗ lực phấn đấu không ngừng vì mục tiêu lý tưởng, vì sự nghiệp cách mạng của Đảng, của Quân đội, giữ vững lòng trung thành của người Cộng sản liêm chính, người quân nhân cách mạng, hoàn thành xuất sắc các nhiệm vụ được giao. Trong công tác và đời sống, đồng chí luôn thể hiện tinh thần đoàn kết, tận tụy, sâu sát, khiêm tốn, giản dị, được đồng chí, đồng đội, anh em, bạn bè tin cậy, quý mến.
Với những cống hiến cho sự nghiệp cách mạng, đồng chí đã được Đảng và Nhà nước tặng thưởng: Huân chương Chiến công hạng Nhất; Huân chương Bảo vệ Tổ quốc hạng Nhất; Huy chương Quân kỳ quyết thắng; 3 Huân chương Chiến sĩ vẻ vang hạng Nhất, Nhì, Ba và nhiều phần thưởng cao quý khác.