Đồng chí Thiện luôn tâm niệm học tập tấm gương của Bác là học theo những việc làm giản dị, bình thường nhất trong cuộc sống cũng như trong công việc hàng ngày. Sinh thời, Bác dặn dò những người làm công tác hậu cần trong Quân đội “Hướng về chiến sĩ, hướng ra phía trước, phụng sự đại đa số bộ đội…”.
Thấm nhuần lời Bác dạy, Thiếu úy QNCN Cao Văn Thiện với tinh thần trách nhiệm, sự tận tâm, tận tụy với công việc, đồng chí Thiện luôn đặt lợi ích của tập thể, của đơn vị lên trên hết. Trong vai trò của một cán bộ hậu cần, trong quá trình thực hiện nhiệm vụ, để đảm bảo chất lượng của công việc. Hàng tháng, đồng chí Thiện lên kế hoạch cụ thể bảo đảm phụ cấp, tiền ăn và các khoản khác cho bộ đội đúng thời gian quy định. Đồng chí Thiện luôn tìm tòi, học hỏi, không ngừng nâng cao nghiệp vụ chuyên môn, chủ động phát huy vai trò tham mưu, đề xuất cho thủ trưởng kịp thời giải quyết những chế độ, chính sách mới cho cán bộ, chiến sĩ trong cơ quan.
Bên cạnh nhiệm vụ chính, đồng chí Thiện còn thực hiện nhiều nhiệm vụ khác mà thủ trưởng cơ quan phân công, đồng chí luôn hoàn thành tốt nhiệm vụ được giao. Trên cơ sở đó, với những kết quả đã đạt được từ năm 2016 đến nay đồng chí đều được khen tặng danh hiệu chiến sĩ tiên tiến; được cấp trên khen thưởng trong các đợt thi đua đột kích, cao điểm và các phong trào thi đua của ngành.
Thượng tá Trần Giang Nam, Chánh án Tòa án Quân sự Quân khu 7 đánh giá: “Thiếu úy QNCN Cao Văn Thiện là một cán bộ trẻ, ham học hỏi, chủ động trong mọi công việc được phân công, đặc biệt trên cương vị là nhân viên hậu cần đồng chí Thiện luôn nêu cao phẩm chất đạo đức, tận tụy với công việc, có tinh thần trách nhiệm cao, là tấm gương điển hình tiêu biểu về học tập và làm theo tư tưởng, đạo đức, phong cách Hồ Chí Minh cho cán bộ, chiến sĩ trong cơ quan học tập và noi theo”.