自上古以来，戎狄等少数民族就一直生活在中原的周边地区，与华夏族互有战和，尤其北方的狄族是困扰北方各诸侯国多年的对手。狄人主要分为白狄、赤狄与长狄三支。白狄主要活动在今陕西省北部及山西省介休市一带，是晋国的主要敌人之一。

白狄力量曾一度相当强大，屡次进攻晋国，但随着白狄君长被晋国所抓，白狄便就此衰落。此后，白狄受到秦晋两个大国的夹击，因此时而服从于秦，时而服从于晋。

在鲁宣公三年（前606）至鲁成公三年（前588），晋国还与活动在今天山西省长治市的赤狄发生冲突。此一时期，赤狄的势力也相当强大。鲁宣公六年（前603），赤狄侵晋，围困了晋国的怀与邢丘。随后，晋国对赤狄采取了骄纵和孤立的策略，使其气焰有所收敛。鲁成公三年（前588），晋国终于将赤狄余部廧咎如消灭，随后又陆续消灭赤狄各部，最终解除了赤狄的侵扰。

向戎弭兵之后，中原战火稍有平息。晋国内的六卿为了向晋东北拓地自肥，便向东迁的白狄三部发动了战争。所谓的白狄三部实际上是东迁白狄在此一带建立的三个国家，分别是鲜虞、肥、鼓。

鲁昭公十二年（前530），中山穆子假借去会齐师，向鲜虞借路，趁机攻占了昔阳，灭掉了肥国，俘虏了肥君緜皋。随后，晋军又顺道进攻鲜虞，但鲜虞人固守，晋军无功而返。第二年，晋国在平丘大会诸侯后，荀吴率军回晋国路过著雍时，袭击了鲜虞，追击鲜虞人至中人，晋军全胜而归。(www.daowen.com)

此后又两年，荀吴又领兵攻伐归属于鲜虞的鼓国。晋军分兵三路，将鼓军团团包围，最后鼓人粮尽而被迫投降。鲁昭公二十二年（前520），鼓人发生叛乱，并再次归依于鲜虞，荀吴再次带兵征讨，以伪装籴粮人的办法偷偷潜入昔阳，对鼓人发动了突然袭击并最终将鼓人消灭。

东迁的白狄三部此时已被消灭两部，而剩下的鲜虞一部还有相当强的实力。鲁定公三年（前507），鲜虞趁晋国挥师南下之机，向晋国发动了进攻，在平中击败了晋军，并俘获了晋国大夫观虎，可见鲜虞力量之强盛。同年，鲜虞建立了中山国。晋国为向鲜虞报复，让范鞅率军与卫军一起征讨鲜虞。然而，晋国的这次征讨并没有什么结果。

在晋国对白狄的征伐当中，基本都处于优势地位。但是晋国与白狄之间除了战争，还有不少和解政策。最为典型的就是和亲政策，双方互通婚姻。除了狄族女子嫁入晋国，晋国的宗室女子也有一些嫁给狄族首领。