胡瑗祖上世居陕西安定堡，所以后人有时称他为“安定先生”，他的祖父胡修已到泰州做官，遂举家迁到江苏。胡瑗的父亲胡讷是一个小官吏，俸禄低微，其为官又比较清廉，因而家境十分贫寒。胡瑗出生后，受家庭的熏陶、教育，加之自身十分聪颖、刻苦，根据《宋元学案》记载，胡瑗七岁就能写文章，十三岁便精通儒家五经，乡邻认为“此子乃伟器，非常儿也”。二十多岁时，为了磨砺自己的学问，胡瑗北上泰山与孙复、石介等人一起发奋苦读。读书有成后，胡瑗也曾想通过科举取得功名，无奈多次名落孙山，遂投身到教育领域。他痛感隋唐以来科举选才崇尚文辞而不重视经术，舍本逐末，士子醉心于功名利禄而不重德业。为重振儒学，接续道统，胡瑗执教于泰州、苏州、湖州等地区，传经授道，培养了大批人才，欧阳修称：“先生为人师，言行而身化之，使诚明者达，昏愚者励，而顽做者革。故其为法严而信，为道久而尊。师道废久矣，自明道、景祐以来，学者有师惟先生暨泰山孙明复、石守道三人，而先生之徒最盛，其在湖州之学，弟子去来常数百人，各以其经转相传授。其教学之法最备，行之数年，东南之士莫不以仁义礼乐为学。”从欧阳修的记述可以看出，胡瑗为宋初的儒学复兴做了很大的贡献，特别是对江南一带的士风转变有着深刻的影响。

景祐元年1034年，范仲淹到苏州担任知州，创建苏州郡学，他十分欣赏胡瑗，邀请胡瑗到郡学执教。任教期间，胡瑗将此地作为自己教育改革的试点，推行了新的教规、学规，达到很好的效果，其他地方的学校也纷纷效仿。后因范仲淹举荐，胡瑗以布衣身份奏对崇政殿，被授予试秘书省校书郎。景祐五年，西北地区的党项首领李元昊脱宋自立，建立“西夏”国，这极大地刺激了北宋的统治者，宋仁宗派范仲淹、韩琦等人经略西北，胡瑗为范仲淹征辟，为丹州军事推官，参与军事谋划。但是，宋军因各种原因先后大败，元气大伤。在此情况下，胡瑗虽提出很多关于军事革新的建议，亦无回天之力，适逢其父去世，胡瑗就此离开西北，回乡为父守丧。宋朝对外战争的惨败以及宋军的积弱无力给胡瑗以深重的刺激，经过一段时间的酝酿、思考，胡瑗向皇帝递呈了《武学规矩》，希望改革北宋的军事以加强国家抵御外辱的能力，但是他的意见遭到许多人的非难而未施行。(www.daowen.com)

庆历三年1043年，宋军在对西夏战争中惨败，统治阶层为挽救危机而开始推行新政，史称“庆历新政”。宋代前期“恩荫”制度泛滥，大批通过“恩荫”出身的官僚碌碌无能，当时的科举制度重文辞而轻治术，选举出来的人难堪大用，鉴于此，时任参知政事的范仲淹提出“精贡举、择官长”等主张选拔人才。在这些主张中，当时士大夫能达成共识的是：先通过修建学校培养人才，再通过州县的考核、保举后，让真正的贤能之士得到任用。因此，朝廷扩大太学的规模，在各地方兴建学校，宋仁宗下诏令这些学校的办学方针、方法皆仿照胡瑗在湖州教学时候所创立、施行之法。在推广湖州教学方法的同时，胡瑗以其博学善教之誉被皇帝任命为诸王宫的教授。胡瑗曾经三度致仕，又两次被起用，他本人对朝廷的贡献集中体现在教育方面。《宋史》记载：“瑗既居太学，其徒益众，太学至不能容，取旁官舍处之。礼部所得士，瑗弟子十常居四五，随材高下，喜自修饬，衣服容止，往往相类，人遇之虽不识，皆知其瑗弟子也。嘉祜初，擢太子中允、天章阁侍讲，仍治太学。既而疾不能朝，以太常博士致仕，归老于家。诸生与朝士祖饯东门外，时以为荣。”胡瑗多年从事教育事业，既得到了士人的广泛认可，也得到了朝廷的重视和嘉誉，由此可见其在宋初儒林中的影响之大。