1861年,京师同文馆兴建,主要教授翻译课程。后来,由于社会发展的需要,同文馆添设了多项课程。李善兰经郭嵩焘推荐,在1868年任天文算学总教习。从此,他十三年如一日,潜心钻研数学教育和数学研究,直至逝世。

李善兰可以说是中国近代史上第一位数学教授,他共教授学生一百多人,学生均学有所成,或在外省工作,或在同文馆教书。^[16]李善兰的这些学生,在传播近代科学,尤其是数学知识方面起到过重大作用,如：贵荣、熊芳伯等。京师同文馆的总教习丁韪良就曾经当面感谢李善兰在同文馆作出的贡献,他的很多学生都是同文馆的骨干,比如贵荣就担任了副教习的职务。李善兰的弟子还聚在一起,把老师教授他们的讲义和自己的研究发现集结起来,编译成了《算学课艺》。这本书在后来成为同文馆算学方面的主要教材。丁韪良还认为,能够使得中国的算学振兴于世界的人,非李善兰莫属。^[17]

李善兰在担任总教习职务之后,选《测圆海镜》这本书作为同文馆算学方面的基础教材,并附有题解以帮助学生能够更好地理解书中的思想。李善兰多次对这本书进行修编,并扩充了“勾股容圆”问题的种类。在1867年出版的《则古昔斋算学》中收录了李善兰二十余年来的各种著作,这是对李善兰数学造诣的最大肯定。该书中所论述内容,虽比西方同等成果研究较晚,但也是我国数学家们独立完成的研究结果。(www.daowen.com)

李善兰在晚年的时候,身体过于肥胖,心力衰竭,时常步履艰难,走路需要搀扶,却不顾自身的疼痛,依然带病教学、做研究、著书。据史料记载,一天,李善兰在高徒熊方伯等三位同学的搀扶下前往京师同文馆授课,在上课途中他想起身写板书,不料重重地跌倒在地爬不起来。事后,李善兰在课前就会准备好几张大纸,上面提前写好画好想要讲述的图和重要文字,上课的时候只需要用一根长棍指引就可以了。

在去世前几个月,李善兰的病越发重了,身体也越来越虚弱,已经无法正常走动和上课了,于是便待在家里写书。1882年夏,贵荣带着几名同学去李善兰家看望恩师。李善兰正忙于编撰《造整数勾股级数解法》。“某自知时日之不余,故书某之已思于短日,否则埋之九泉,不可不谓惜哉!”^[18]由此可见李善兰认真研究的态度。