光绪二十一年十一月十二日(1895年12月27日)，张之洞在南京上奏，陈述旧军痼习，并以“惟有改以洋将带之，则诸弊悉除”，方能“舍旧图新”为理由，奏准在南京创练一支照洋法分为13营(步队8营、马队2营、炮队2营、工程队1营)共2860人的“自强军”(一称“南洋新军”)。张之洞认为：“非认真依照西法，急练劲旅，不足以为御侮之资。”所以，他完全仿德军营制，聘德国教官35人担任协、营、哨正职，“其带兵操练之权，悉以委之洋将洋弁”；而副职则从原来武职中“壮健有志，不染习气者”和天津、广东武备学堂毕业生中挑选。指挥权授予洋员，“约束惩责权，则专归华官”。全部装备是欧洲陆军类型[49]。光绪二十二年(1896年)正月，自强军开始招兵。二月，在南京建立。

自强军的营制饷章是：设步队8营，每营250人，一营分5哨；马队2营，每营180骑，一营分3哨；炮队2营，每营200人，一营分4哨；工程队1营，为100人。共13营，实际共有勇丁2860人。江北人较强健，练为马、步各队；江南人较聪颖，练为炮法、工程各队。正勇饷银，每人月给官铸元5元(合库平银3两6钱)。勇目递加，其官给饭食衣履等费在外。而洋将洋弁薪水，每月需银9000余两[50]。

自强军与湘、淮军有所不同。张之洞不在自己的故乡——河北南皮招募士兵，不具有湘、淮军那种浓厚的乡土气。他在江苏、安徽离南京较近的府、州各招一营，但士兵必须“具族邻团董甘结，声明情愿效力十年，只准开革，不准辞退。凡城市油滑、向充营勇者一概不收”。随即对招来的士兵，“厚给饷糈，编为新军”[51]。这些招募来的士兵据说还有些文化。美国人拉尔夫·尔·鲍威尔在《1895～1912年中国军事力量的兴起》中说：“有一份革命党人方面的文件内说，所有应募者都能读会写。这点可能有些夸大。可是，几年以后，张氏在武昌训练的精锐军队中，许多人都有文化，则是事实。”[52]

光绪二十二年(1896年)初，张之洞由两江总督调任湖广总督，自强军由新任两江总督刘坤一续办。但数年间，刘坤一并没有扩建，营队和兵员数量都不及北洋军。(www.daowen.com)

光绪二十七年(1901年)，清政府调自强军赴山东归袁世凯节制操练。不久，袁世凯继李鸿章之后，署直隶总督兼北洋大臣，即率军入直。后来，袁世凯在编练北洋陆军时将自强军编入北洋陆军第四镇。

所谓“新军”是和八旗、绿营、练勇、湘军、淮军等“旧军”相对而言的。它的特点是完全按照西方国家的营制编成，以洋人为教习，以洋操为训练内容，使用的是洋枪洋炮。它的出现是由于在“日本之役”后，感到“练兵、练勇又不足恃”[53]，而不得不另行换用“新”的镇压工具。它的练兵者的主观意图上和“旧军”并无二致；不过，在辛亥革命前夕，它提供了宣传新思潮的阵地，有些新军成员还在一定程度上对赞助和推动革命起了一些客观作用。