张舜徽先生没有系统地接受私塾教育，他的启蒙教育来自他的父亲。当时广为流传的《三字经》中有这样的话：“凡训蒙，须讲究，详训诂，名句读。为学者，必有初，小学终，至四书。……经既明，方读子，撮其要，记其事。……经子通，读诸史，考世系，知终始。……读史者，考实录，通古今，若亲目。 口而诵，心而维，朝于斯，夕于斯。”这本儿童启蒙读物，正说明了为学的顺序：从小学开始，然后是经学、诸子，而后才进入史学。尽管张舜徽先生没提到《三字经》对他的影响，但他后来在读到张之洞在《书目答问》末附清代《姓名录》开首语“由小学入经学者，其经学可信；由经学入史学者，其史学可信”②时，遂把它当作自己求学的信条：“我对这段话深信不疑。认为做学问，应循序渐进。不可躐等，不可急躁。如果不是循序渐进，便如无源之水，无本之木，是很不可靠的。过去学者们称文字、声韵、训诂之学为‘小学’，当我对小学稍具基础知识以后，才开始研究经学。”③可见，传统的“小学”正是治学的根基。张舜徽治学取得这么大的成就，按他自己的体会，也正是遵循了从小学到经学，再到诸子和史学的顺序。

而在“小学”的文字、音韵、训诂这三门学科中，文字无疑又是基础中的基础。张舜徽多次谈到文字的重要性。许慎在《说文解字叙》中说：“文字者，经艺之本，王政之始；前人所以垂后，后人所以识古。”他解释道：“这几句话，说得很简要，将文字的功用，全都谈出来了。这是由于读书以识字为先，故为‘经艺之本’；布化有赖文行远，故为‘王政之始’。无文字记载，则往事莫由传后；不诵习遗文，则后世莫由知古。文字的功用，是极其巨大的。古人强调识字的重要，理即在此。”④文字是记录语言音义的符号，而古汉字是记录古汉语的，所以，要想了解古汉语所记载的中国古代文化，就必须重视文字的作用。

正因为文字在记录和传承文化中有着巨大的作用，所以，识字就成为学习之初首先要具备的基本功。张舜徽在《广文字蒙求序》中说：“读书必先识字。特别是阅读古书，必须认识古代文字。古代文字有原来的形体、声音和意义，如果不了解，便无由对于古代浩如烟海的古代书籍进行研究和整理。所以我们今天写文章， 自可用今字今义，读古书，便需懂得古字古义；这是初学入门的基本功，凡有志读书的人都必须从此开始。”⑤(www.daowen.com)

而学习文字，《说文解字》无疑是首选且必读的一本书。作为我国第一部按部首编排的字典，《说文解字》的意义和价值已经远远超过了一般意义上的字典。许慎将他所见到的汉代和汉代之前的文字收录了9353个，以小篆的形体汇集在一起，收录的字数超过了前代司马相如的《凡将篇》和史游所作的《急就篇》等字书，覆盖了古籍中的绝大部分汉字。而对于这些汉字，许慎又创造性地运用了“以部首统率汉字”的编纂方法，将这些汉字纳入到540个部首之下，“分别部居，不相杂厕”。由于汉字中大部分都是形声字，形声字的形符往往又都可用来作部首，所以，按部首编排实际上也是按汉字所从属的意义类别进行编排。这对于汉字的学习和理解往往能起到事半功倍的效果。而《说文解字》最突出的贡献，不仅仅在于收罗了这么多的汉字并按顺序编排，而是对汉字的字义的解释，从汉字的造字结构出发，探讨字形所体现的意义。这种分析汉字结构的“六书”理论抓住了汉字“因形示义”的特点，对字义的解说大多是能够成立的，至今还在文字学和训诂学上发挥着重要作用。正因为如此，张舜徽在《说文解字导论》中说：“要了解中国的古代文化，不认识中国古代文字是不行的。必须对这部书有些素养，对汉以前文字的结构和本义，有个初步了解，掌握一些规律性的基本知识以后，才能对于申辨远古遗文，知道某字的笔画由何而来， 由何而变，以取得比较正确的判断。然后可以认识甲骨和铜器上面的刻辞，以及秦汉时代许多石刻和器物的铭文。没有《说文解字》作依据，即使新近又发现了成堆的骨甲兽骨和成批的青铜器，上面刻满了文字，也无法对那些古体字的结构进行剖析，更谈不上进一步作翔实的考证了。所以《说文解字》这部书，一直到今天，还是一部极其重要的古代字书，是研究中国古代文字必须由此入门的基本读物。”⑥这些话，对理解《说文解字》的重要性是非常有帮助的。