林文庆早年在爱丁堡大学攻读时，他不会讲中国话，中国留学生看不起他，不承认他是中国人。他的导师请他翻译一件中国卷轴的中文内容，他也因为未能深懂中文而被这位讲师讥笑。这两件事使林文庆受到很大刺激。1893年，他回到新加坡后，便刻苦学习中国的普通话、广府话、闽南话，努力钻研中华文化。后来，他成了儒家学说的热心颂扬者和传播者。1897年3月，林文庆发起创办“中国好学会”，极力鼓励在海外出生的华人学习中华文化，信奉孔孟学说。一个月后，他又联合著名律师宋旺相创办《海峡华人杂志》。这份杂志的宗旨和“好学会”一样，主要是向海峡殖民地的华人灌输中华文化。在创刊号上，林文庆撰示该杂志的宗旨是：“促进海峡华人智力及指导当前混沌的公众言论，使其得以步上正轨。”他在《海峡华人杂志》上发表第一篇文章，指出华人本身在教育、生活习惯以及信仰方面的落后，提出“改革华人社会，去芜存菁”的口号。

1898年，林文庆和邱菽园等人联合创办《天南新报》，鼓吹移风易俗，如剪辫子、除缠足、禁赌博、戒鸦片等，提倡男女平等。林文庆和邱菽园、宋旺相等人在1899年创办新加坡中华女子学校，林文庆捐出一块地皮建校舍，筹集六千元资金作学校经费。林文庆的夫人黄端琼女士（福建同盟会会长黄乃裳的女儿）还到女校义务讲授华文课程。女校开办时只有7名学生，后来在几个月内就增加到30多名。林文庆等人对妇女教育事业的热情和贡献，受到人们的赞扬。

1921年4月，陈嘉庚创办厦门大学。首任校长邓萃英辞职，林文庆应陈嘉庚聘请，于6月从新加坡回到厦门接任校长。林文庆上任后，公开宣布要把厦门大学办成一所“生的非死的，真的非伪的，实的非虚的大学”。他取《大学》一书中“止于至善”四字作为厦大的校训，以培养学生“人人为仁人君子”。他在“校旨”中提出“发扬美满民族精神，造就应用科学人才，使我国得与世界各强国居同等地位”的办学方针。

林文庆在厦门大学，对外语课程非常重视。他亲自对学生进行英语口试，问学生：从什么地方来？叫什么名字？许多学生都不会回答。林文庆就将英语口试情况，通报给全省公私立中学，以促进当时全省各中学外语教学的提高。(www.daowen.com)

1926年8月，厦门大学成立国学研究院，林文庆兼任院长。他自称：“对于国学，提倡不遗余力。”1929年，他用英文翻译屈原的《离骚》，由英国著名汉学家翟理斯（H.A.Giles）和印度著名诗人泰戈尔（R.Tagorc）作序出版，把中国古代名著《离骚》介绍到西方去。

林文庆在厦门大学，一方面尽力招聘留学欧美的知名学者前来教学，另一方面扩充校舍和教学设备。到1926年，厦大已成为一所有一定规模的大学，拥有文、工、医学院、科学实验馆、图书馆、体育馆、运动场及学生宿舍，使厦大赢得了“南方之强”的赞誉。厦门大学于1937年改为国立大学后，首次参加全国国立大学统一会考时取得第一名的好成绩。林文庆倾注心血，乐育人才，备受赞赏。

1934年初，由于受世界经济危机的冲击，陈嘉庚在南洋的企业被迫收盘，厦门大学的经济来源干竭。林文庆为学校分忧，捐出自己的薪金六千银元，并亲自到南洋募捐，对维持厦门大学竭尽了全力。