1939年4月15日，胡均国出生于湖北省应城市城关镇兰家西村。父亲年轻时，不幸患有肺痨，终年哮喘，不能从事繁重农活。因此，父亲只能另谋出路，于是发奋读书，以求得一官半职，自立于世。父亲十八岁那年，祖父病逝，家中突然失去顶梁柱，生活一下子变得艰难起来。父亲不能继续学业，只得返回家中，在村中谋了个教书的差事。

母亲本是应城人氏，为了爱情，放弃了城市生活，随父亲来到乡下。父亲做了乡村教师，家中生活重担就落在母亲一人肩上。全家人的生活，全靠七亩田地和父亲微薄的工资收入。母亲吃苦耐劳，但依旧不能保证一家人衣食无忧。

胡均国在家排行老二，上有一个年长三岁的姐姐，下有弟妹数人。他读了两年私塾，又读了几个月新式学校，但迫于生活压力，很快就辍学了。他回到家里，一来帮父母照顾弟妹，二来也干些农活，放牛、割麦、挑水、做饭，一样都不能落下。

那时候，他父亲的工作并不稳定。战乱连年，人们生活朝不保夕。学校生源时多时少，甚至有时一个学生都没有。没有学生，教师的收入就没有了着落。直到20世纪50年代，父亲的人生才迎来转机，他被应城市一所小学正式聘为教师。于是，一家人跟随父亲进了城，开始了在城里讨生活的艰苦岁月。(www.daowen.com)

得父亲职务之便，胡均国可以自由进出学校。母亲在一条巷子里摆了一个小摊，帮人浆洗衣服，以此换取微薄的收入。胡均国除了帮母亲洗晾衣服之外，还负责去学校，将干净衣服送到客户手里，再把脏衣服带回家中浆洗。每天晚上，他还要赶在学校食堂打烊前，挑回两桶米汤，用以浆洗衣服。忙完这一切，就已经是凌晨两三点钟了，一家人带着疲惫，倒头便进入了梦乡。

1951年，为维持生计，母亲又开了一家弹棉花小店。姐姐逐渐长大成人，成为母亲的得力助手。生意红火时，胡均国和母亲、姐姐在棉絮飞扬的屋子里，穿梭忙碌；生意冷淡时，却又无事可做，只得另找出路。胡均国开始干起了苦力活，替人打砖渣，混上水泥，修房砌墙，以此挣些工钱。但这种工作并不稳固，时有时无，因此大多数时间他都靠收捡破烂补贴家用。

时常出入校园，胡均国内心产生了重返课堂的强烈愿望。去学校收捡破烂时，他常常站在教室窗户下面偷听。经过无数次思想斗争之后，他将这个愿望告诉了父母。父母听后，沉默了许久。那时候，小他四岁的弟弟正读小学。家道艰难，一家人一直挣扎在温饱线上，读书是一个遥不可及的梦想。但父母在经过反复思考之后，还是同意了他的请求。为支持哥哥读书，弟弟主动放弃了学业。