李义府是瀛州饶阳人。他的先祖当过射洪县丞，因此客居于永泰。贞观年间（627—649），李大亮受命巡察剑南，上表称赞李义府的才能，所以，他对策中第，选补门下省典仪。刘洎、马周等人又推荐李义府，唐太宗遂召见了他，让李义府转任监察御史，奉诏侍随晋王。晋王当了皇太子后，李义府当了太子舍人、崇贤馆直学士，与司议郎来济均以文翰显名，时人称他们为“来、李”。李义府曾经献上《承华箴》，文末称：“佞谀有类，邪巧多方。其萌不绝，其害必彰”。李义府正要谄佞媚事皇太子，但他在文章里却竭力表现自己的正直，皇太子把李义府的文章奏表太宗，朝廷优诏赏赐李义府以厚帛。

唐高宗李治即位以后，李义府担任中书舍人，兼修国史，进为弘文馆学士。李义府为长孙无忌所憎恶，他奏请皇帝贬李义府为壁州司马。皇帝的诏令还没下来时，李义府向中书舍人王德俭请教计策。王德俭是许敬宗的外甥，颈部长着疣子，但聪明，善于揣测人事。他因此回答李义府说：“武昭仪如今被唐高宗宠幸，皇上打算改立武氏为皇后，但畏怕宰相们驳议，还没有向外公布这个决定。你如果能向皇帝提出建议，进行表述，那么就会转祸为福。”因此，李义府马上代替王德俭值夜班，叩阁上表，请求废掉王后而改立武昭仪。唐高宗非常高兴，马上召见了李义府，同他交谈，赏赐给李义府一斗珠，下令中止贬降他为壁州司马的诏书，留下服侍。武后被册立后，李义府和许敬宗、王德俭以及御史大夫崔义玄、中丞袁公瑜、大理寺正卿侯善业等人相互勾结，结党营私，肆行奸事，诛杀贬弃刚毅正直的大臣，所以，武后很容易地窃取了朝廷的政柄，皇帝也为之敬佩他。

李义府外貌常常装得柔顺恭敬，和别人说话时脸上总要带着喜悦的微笑，其实他的心里阴狠毒辣，满怀偏见，凡是有违背李义府意愿的大臣，李义府都要千方百计地予以中伤打击，所以人们号称李义府为“笑里刀”。另外，李义府又以柔和害物侵人，人们都叫他为“人猫”。

永徽六年（665），李义府被任命为中书侍郎，同中书门下三品，进封广平县男，又兼任太子右庶子，加爵为侯。洛州有个姑娘叫淳于，因为奸情关押在大理寺，李义府听说淳于长得漂亮美艳，嘱咐大理丞毕正义放她出来，做了李义府的小老婆，大理卿段宝玄把这个情况上奏皇帝。唐高宗命令给事中刘仁轨、侍御史张伦调查处理，李义府窘困至极，只好逼迫毕正义在狱中自杀，企图灭口来掩饰自己曾与毕正义共谋。侍御史王义方在朝廷弹劾李义府，李义府不认错误，再三叱斥他，然后才退出来。王义方竭力陈述李义府的罪恶，但唐高宗暗中感激李义府的德惠，所以庇护而不追究，相反却压抑王义方，将他驱赶出去。不久，李义府进位为中书令，检校御史大夫，加任太子宾客，改封为河间郡公。唐高宗还诏令为李义府营造私第。他的儿子们虽在襁褓之中也都被补任清流官。

当初，杜正伦为黄门侍郎，李义府总管典仪。等到他俩同时辅政，杜正伦认为自己资格老，不甘心在李义府之下，便与中书侍郎李友益密谋除去李义府，结果反被李义府诬陷，讼诉告到唐高宗的面前。唐高宗把他们两人都予以废黜，杜正伦降为横州刺史，李义府降为普州刺史，把李友益流放到峰州。第二年，朝廷召回李义府，任命他为吏部尚书，同中书门下三品。他母亲死后，服丧免职，朝廷夺其丧而任命为司列太常伯，同东西台三品。允许李义府把他的先人改葬在永康陵侧，征发县人出牛车运土起坟，被征发的共有七个县，高陵县令因为过度疲劳致死。朝廷公卿百宫争相赠物于李义府。殡葬那天，皇帝诏令御史节哭丧。送葬车辆及从骑者前后衔接，帷帘奠帐从灞桥一直拖到了三原，长达七十里地，绵延不绝。行为超越常规，不依法度。群臣众官送葬的盛况再也没有和李义府家相比的了。当殷王出阁的时候，李义府又兼任王府长史，稍后再调任为右相。

李义府已经显贵后，于是就声称自己的宗族出自赵郡，与姓李的人论资排辈。那些讨好的人往往被尊为父兄辈。给事中李崇德曾经把李义府和自己列在同一族谱里面，等到李义府被唐高宗贬为普州刺史，李崇德很快就把李义府从族谱里删去，所以李义府很痛恨李崇德。等到后来李义府复职当朝主政，李义府网罗罪名于李崇德，迫使李崇德在狱里自杀身死。(www.daowen.com)

贞观年间，高士廉、韦挺、岑文本、令狐德等人奉诏修纂《氏族志》，凡族姓升降，天下人们都认为他们修订公道，于是各州藏置副本以为长式。这时，许敬宗以《氏族志》没有记载武后的本望为理由，李义府也耻于自己的先世未被记录，二人遂相继奏请改修删正。朝廷委托孔志约、杨仁卿、史玄道、吕才等人修订其书，把仕唐官职任列五品以上的人都晋升为士流。于是，兵卒因军功进位的人，都在收入的限定内，改《氏族志》为《姓氏录》，乡绅共同嗤笑李义府，称他为“勋格”。李义府奏请朝廷把以前修订的《氏族志》收集起来全部烧毁禁绝。自从北魏孝文帝太和年间议定名门望族后，七姓子孙互相结为婚姻，后来这些大姓虽然日趋衰落，却还相互夸耀。李义府替自己的儿子们向大姓望族求婚不成，于是奏请一切禁止。

李义府负责选任之事后，不以品德鉴别人才，只有溪壑之欲，主选惟有接受货贿，谋取私利，不再认真铨判，人们常常讥笑他。此外，他的母亲、妻子、众子们卖官市狱，门庭鼎沸。自从永徽年间以后，御史多由皇帝任命，吏部虽有调注，但到了门下省覆不留。李义府于是自己任命御史、员外和通事舍人，有关官员不敢顶撞。唐高宗曾经从容告诫李义府说：“我常常听外人说你的儿子女婿桡法，犯有许多的过失，朕为你进行掩饰，以后应该少怂恿他们。”李义府在宫廷内部依恃有武后为援助，揣测满朝群臣没有敢告发他罪行的，没有料到唐高宗会知道，乃勃然变色，慢慢地问皇帝：“是谁向皇帝陛下说的？”唐高宗回答说：“为什么要问我是从哪里得来的呢？”李义府警然不谢皇帝，缓缓退出，从此，唐高宗开始不高兴，讨厌李义府。

碰巧有个叫杜元纪的术士候望到李认义家中有狱气。他对李义府说：“只有征发二千万钱，才可以把狱气镇压下去。”李义府听信了杜元纪的话，裒索殊急。在为母亲服丧期间，朔望给告，李义府即赢服同杜元纪出行到野外，登高窥觇眚昔，众人怀疑他们有异谋。李义府又派遣儿子李津召见长孙延，对他说：“我为你要得一个官职。”过了五天，长孙延即被任命为司津监，李义府向他索要了答谢钱七十万。右金吾仓曹参军杨行颖揭发了李义府贪赃的罪行，唐高宗诏命司刑太常伯刘祥道会同三司共同审讯李义府，李仲从中监督执行。审讯结果属实，皇帝颁诏将李义府除名，流放到赣州，他的儿子率府长史李洽、千牛备身李洋以及女婿少府主簿柳元贞一起被流放到廷州，司议郎李津被流放到振州，朝野人士相互庆贺李义府被罢免。

李义府的三个儿子以及女婿尤其凶暴放纵，等到李义府败露下台后，人们都认为是诛逐“四凶”。有的人写了《河间道元帅刘祥道破铜山大贼李义府露布》，张帖在要道上。乾封元年，朝廷大赦天下，惟独流放之人不许返回。李义府愤恚而死，时年五十三岁。自从他被皇帝流放贬斥以后，天下之人还时常担心李义府还会被朝廷起用，等到李义府死后，内外人士才放下心来。