晋悼公去世后，晋平公即位，第二年晋平公就借着晋悼公所建立起来的晋国霸业的余威，在湨梁大会诸侯，鲁襄公、宋平公、郑简公等十国君主都到会，而齐国却只派大夫高厚与会。

在宴会中，各国大夫按照礼制献上乐舞，并各自吟诵诗篇表示对盟会的赞同。然而，齐国大夫高厚的诗中却表现出了对晋国的不满，晋国的大夫荀偃从中看出了端倪，知道齐国对晋国生了异心，还对人提起了此事。高厚听说了，担心晋国会对自己不利，不等到盟会结束便仓皇地逃走了。宴会结束之后，各诸侯国国君在一起共同盟誓，对于那些不遵王命之人必将联合起来进行征讨。在此次会盟之后，晋国并没有达到预想的团结起包括齐国在内的各国诸侯的目的，而齐国更是在此后不断侵扰鲁国，使晋国在诸侯间的影响力大为降低。

就在此次会盟的同一年，晋国出兵伐楚以报复楚国伐宋。晋军与楚军双方在湛阪展开大战，楚公子格所率领的楚军战败，被晋军一直追赶至楚国的方城。晋国再一次显示了其非凡的实力。

因为此前齐国大夫在湨梁会盟中对晋国的出言不逊以及随后的齐国伐鲁行为，鲁襄公十八年（前555），晋国、鲁国、宋国、卫国等十二国军队联合起来进攻齐国，齐灵公则组织齐军在平阴阻击。由于此地无险可守，齐军大败，死伤不少。

晋军乘胜追击，先后攻下了齐国的京兹、邿邑，并围住了卢邑。随后，晋军与鲁军转而又进攻临淄，并把临淄团团包围。齐灵公担心齐都临淄失守，准备逃亡邮棠，但最终被太子光和大夫郭荣拦住。此后，晋军在齐国境内大肆收掠一番之后回国。

第二年的春天，晋国又组织各国诸侯在祝柯结盟，而结盟的誓词就是“大国不要侵略小国”，尤指齐国入侵鲁国之事。在此会上，晋国还惩罚了邾国，把邾国漷水以北的土地划给了鲁国，原因就是邾人在齐国伐鲁时做了帮凶。在晋军归国途中，路过鲁国的时候，鲁襄公特地宴请了晋国的六卿。鲁襄公二十年（前553），晋国、齐国、鲁国等十三个诸侯国在卫国的澶渊举行盟约，至此齐国与晋国才彼此修好，双方的斗争也暂时告一段落。

晋平公执政的前期，晋国还是具有相当强的实力，在各诸侯中仍能称雄称霸。然而，在此次对齐国的胜利之后，晋国称霸的形势渐渐发生了变化，晋国国内的斗争使得晋国再无对外大规模征战的野心，而这一点在晋平公的后期就已显现出来。同时，晋平公所做的一些不得人心的事情，更加速了晋国的衰落。

晋平公的母亲是杞国人，因而晋平公借晋国的霸主之势常常照顾杞国，甚至号召诸侯为杞国修筑城墙。鲁襄公二十九年（前544），晋平公让卿大夫荀盈也就是知悼子召集各国诸侯、大夫商议给杞国修筑城墙之事，但是杞国是小国，各国谁也不想做这种白白付出人力、物力却收不到回报的事。(www.daowen.com)

于是诸侯、大夫们纷纷对晋平公这种假公济私的行为进行了强烈的抨击，郑子叔还给出了一个冠冕堂皇的拒绝理由：现在周王室衰微，晋国是姬姓诸侯，却反而去维护夏朝后裔的杞国，并质问晋国：“其弃诸姬，亦可知也已，诸姬是弃，其谁归之？”此后，晋国在各诸侯国中的威信大大降低，而晋平公让鲁国归还杞国的土地，更激发了鲁国对晋的不满。

几年之后，晋平公娶了齐国的女子少姜为姬妾，齐国大夫陈无宇护送少姜到了晋国。由于陈无宇不是卿，由他来送亲不符合礼制，于是晋平公就对陈无宇进行责难，并把他抓了起来。少姜为陈无宇向晋平公求情，但晋平公并不理会，没有放人。直到叔向劝说道：“君行已颇，何以为盟主？”晋平公才略有收敛，放了陈无宇。少姜去世后，各国诸侯都派来使臣为晋平公的宠姬送葬，晋国大夫都感到这样做太过分了。

在少姜去世的第二年，齐国派晏婴去晋国请求再送一女给晋平公，以补少姜之缺。晏婴来到晋国处理完聘礼之事后，受到晋国大臣叔向的宴请。两人酒宴之间就谈起了两国的国情，晏婴说齐国现在是“公弃其民，而归于陈氏”，叔向说晋国现在则是“政在家门，民无所依，君日不悛，以乐慆忧。公室之卑，其何日之有”。

晏婴说出了齐国田氏的崛起，国家也将要归于田氏；叔向则说出了晋国平公的腐化堕落以及卿大夫势力的强盛，晋国的公室已趋于没落。后来，晋国的卿大夫荀盈去世，而晋平公只顾饮酒作乐，佯装不知。虽然晋平公想借此另立亲信，但迫于卿大夫们的强大势力，只能认命荀盈之子荀跞为卿。

此时的晋国君主已经不能左右国内的大事，而在处理诸侯之间的事务上也开始力不从心。鲁昭公十一年（前531），楚灵王杀了蔡灵侯，并发兵围蔡。晋国在厥慭邀集各国诸侯大夫相会，共谋救蔡之策，但始终不敢出兵与楚交锋。最后，晋国只派了使臣向楚国请求饶恕蔡国，然而楚灵王并不答应，并攻下了蔡国，杀了隐太子。

同一年，晋平公去世，晋昭公即位。晋国已经到了分崩离析的边缘，而其称霸的局面也日趋衰微。