刘知俊，字希贤，徐州沛县人。他相貌端正，风流倜傥，并且胸怀大志。早年间，他曾经跟随感化节度使时溥作战，勇猛善战，足智多谋。时溥很妒忌他的才华，担心他将来会威胁到自己的地位，便经常在军中排挤他。刘知俊心里也清楚，时溥根本容不下自己，便在唐大顺二年（891）带兵投降了朱温，被任命为军校。在这里，刘知俊找到了用武之地。他英姿勃勃，披甲上马，手持长剑，冲锋陷阵，屡立战功。没过多久，他就被任命为左开道指挥使。很多人都称呼他为“刘开道”。

此后，刘知俊追随朱温东征西讨，立下赫赫战功。天复元年（901），他在平定青州的战争中立了大功，被任命为同州节度使。天祐三年（906），他仅率领五千士兵攻打凤翔节度使李茂贞，最终将李茂贞的六万大军击败，连续攻占了好几个州。朱温很高兴，封他为检校太傅、平章事。开平二年（908），梁军还在围困潞州。潞州行营都统李思安久攻不下，惹恼了朱温。朱温便让刘知俊接替了李思安的职务。刘知俊在前往潞州的途中，夹寨已经失陷了。此时，李存勖带领着晋军正在攻打泽州。他听说刘知俊的大军快要赶到了，就匆匆忙忙地退兵了。不久后，刘知俊又被任命为西路招讨使。

刘知俊英姿勃勃，披甲上马，手持长剑，冲锋陷阵，屡立战功。(www.daowen.com)

开平三年（909），朱温迁都洛阳，让博王朱友文留守东都开封。这年的三月，他又让西路招讨使刘知俊去攻打李茂贞。刘知俊接到命令后，用了仅仅四个月就攻下了李茂贞的四个州，取得了不小的胜利。朱温非常高兴，又给刘知俊升官，并让他乘胜攻打邠州。镇守邠州的正是李茂贞的干儿子杨崇本，他是当时有名的军阀，兵强马壮。刘知俊觉得自己一时胜不了他，便告诉朱温军粮不足，不能贸然进攻，然后就屯兵同州。这个举动引起了朱温的猜忌，给刘知俊带来不小的麻烦。