数学作为一门应用性非常强的基础学科，无论天文、水利、建筑，乃至商业、日常生活，都须臾离不开。如果没有相应的数学教育，中国不可能长时间在世界上保持文明的领先地位。
事实上，中国早就存在数学教学，并逐渐形成了比较系统的数学教育制度。西周时期针对贵族子弟开设的教学科目“六艺”中的“数”，便是一种早期的数学教育，而平民所学习的“小艺”中，也包含了“数”。到南北朝时期，中国数学蓬勃发展，《孙子算经》、《夏侯阳算经》、《张丘建算经》等算学著作相继问世。同时，数学教育也有较大发展，北魏在中央官学中专门开设的“算学”，可算是世界上最早开设的数学专科学校。这意味着算学被列为基本的国学之一。
隋唐时期，中国首次建立起正式的数学教育制度。隋文帝时期，中国在国子监设立了算学馆，在算学馆设算学
博士1人，助教2人，学生8人，并制定了专用的数学教材《算经十书》对学生进行讲授。唐贞观年间，算学教育规模进一步扩大，专门设博士2人，助教1人，学生30人，八品以下子弟以及庶人喜欢算学、年龄在14-19岁之间者都可入学，学习期限9年。
从公元11世纪到14世纪的宋元时期，是以筹算为主要工具的中国古代数学的鼎盛时期。在此期间，涌现出一批杰出的数学家和数学著作，中国数学达到最高境界，与当时的阿拉伯数学一道居于世界领先地位。而在数学教育方面，在科举考试及太学、国子监等学校中都有专门的算学考试。14世纪中后叶明王朝建立以后，统治者奉行以八股文为特征的科举制度，在国家科举考试中大幅度削减数学内容。失去国家的政策鼓励之后，数学教育也出现衰退，自此，中国古代数学便开始衰退，落后于世界了。