Để đáp ứng nhu cầu ngày càng cao về các sách tham khảo tiếng Việt về toán của sinh viên các trường Đại học, nghiên cứu sinh, cán bộ nghiên cứu và ứng dụng toán học từ đầu năm 2000 Viện Toán học quyết định xuất bản các bộ sách Toán cao học và Toán cao cấp. Tuy khác nhau về tên gọi, nhưng các cuốn trong cả hai bộ sách này đều đề cập đến hầu hết các lĩnh vực khác nhau của toán học hiện đại, đặc biệt là các lĩnh vực liên quan đến các hướng thời sự của toán học hiện đại. Cho tới nay Viện Toán học đã xuất bản được 23 cuốn trong hai bộ sách này.