汉代的地方学校，尚属草创阶段，缺乏明确的管理制度。三国两晋时期地方官学更无定制，多由地方长官自动创办，得不到国家制度的保障。这种状况直到北魏时期方有改观。

北魏的州郡学制比较完备，不仅普遍设置州郡学，而且建立了州郡学校教育制度。这是我国正式实行地方学校教育制度的开始。北魏天安初（466年），任相州刺史，上疏请求按先典于州郡各立学官，以使“士望之流，冠冕之冑，就而受业”。进而为王府培养经艺通明的人才。诏从之。于是在这年九月初立乡学，置博士2人，助教2人，学生60人，这是北魏为州郡立学所订的第一个学令。然此令未及实行，献文帝又令高允议定了一个更加完备、意在全国普立学校的学制，同时对学官和生员的资格亦做了规定。北魏统治者为检督州郡学校、选拔才学之士，应封轨请求，遣四门博士明经者，检试诸州学生，三年一校练。虽未能执行，然已有制。此外，孝文帝还曾设立乡党之学。北齐也注重州郡之学，北周地方官学亦曾设置，州县有学生，各县视其大小都设有相当品秩的县学博士。

魏晋南北朝时期，中央官学在类型上突破了单一的太学模式，等级性更加明显的同时，也使中央官学开始多样化。其一，国子学。西晋除继续举办传统的太学外，还创办了一所旨在培养贵族子弟的国子学。这是我国古代在太学之外，另设一所传授同样内容的中央官学的开始。咸宁二年（276年）晋武帝下令立国子学，咸宁四年（278年）确定了国子学的学官制度，惠帝元康三年（293年）又进一步明确了国子学的入学资格，规定官品第五以上的子弟方可入学。东晋太元九年（384年）在尚书令谢石的请求下，先公卿2000名子弟为生，增造庙屋155间，建国子学于太庙之南。至此，太学与国子学两学并存首次出现在官学系统中。其二，皇宗学。北魏太和九年（485年），文明太后下令于闲静之所为皇子皇孙立学馆，设博士以教之，首创皇宗学。其令曰“自非生知，皆由学诲。皇子皇孙，训教不立，温故求新，盖有阙矣。可于闲静之所，别置学馆，选忠信博闻之士为之师傅，以匠成之”。其三，四门小学。太和二十年又诏立四门小学，旨在加强拓跋部贵族的基础教育，使少数民族子弟得以从小接受汉文化的教育，以适应迁都洛阳后的新形势。(www.daowen.com)

魏晋南北朝的绝大部分时间都还没有专门的教育行政机构，国家教育管理事宜主要由主管国家礼仪祭祀的太常兼管。但随着中央官学的多元化、专科教育的出现和地方官学的发展，教育管理工作也越来越复杂和专门化。教育管理专门化和独立化的问题便提上了议事日程。北齐设置的国子寺，是一个专职训教冑子、统理学官和生源的机构，其教育行政实际具有单独设置的基础。虽然这还不是中国教育行政独立的肇始，却为隋唐所因袭。隋唐继承这一做法，将国子学、太学、四门学、书学、算学、律学一并划归其属，将儒学教育与专科教育合为一体，真正完成了教育管理的独立。