此次李鸿章受命出征，最大的困难还是没有兵，湘军的规矩是兵为将有，于是曾国藩便派他招募淮勇，用以组建援沪之师。

曾国藩最初创建湘军的思路，很多都取法于戚继光。戚继光练兵用兵有“澄定浑水，再汲新水”一说，浑水指的是旧军，新水指的是新军。按照一般经验，士兵从征的时间一久，都会渐渐染上暮气，秉性善良者思乡心切，凶暴狡诈者甚至会为敌方所诱而另有图谋。戚继光的对策是以新代旧，用重新招募的新军来替代暮气沉沉的旧军。

曾国藩对戚继光的这一策略非常服膺。湘军军制，凡一个军营染上暮气，就必须立即全部遣散，另行招募新军。曾国藩引用北京旧鞋铺里的一句谚语，称之为“抽帮换底，整旧如新”，意思是就好像鞋铺把旧鞋的底子换上新底子，便能够使之焕然一新。

由于需要不断地遣撤旧勇，另建新营，对兵员的需求量就相当之大，据曾国荃统计，仅湖南湘乡一县，前后从军的人便有二十余万之多。

除湖南外，从就近原则出发，胡林翼、曾国藩、骆秉章也都曾分别筹划在湖北、四川、江西招募勇丁，并按湘军成法，组建由该省勇丁组成的新营。可惜的是成效都不显著，有的刚刚成立不久就被裁汰了。比如胡林翼抚鄂时，就想招鄂人为兵，选鄂人为将，结果所建的部队根本就不能用，最后他的所谓鄂军其实仍是湘军，从兵到将大部分都是从湖南招募过去的。

为什么湖南人能当兵打仗，几个邻省的人就不行呢？细究起来，这与当地风气大有关联。湖南民风之强悍，在历史上是有名的。当初太平军进入湖南而湘军尚未建立时，境内民众便立刻自发分化为壁垒分明的两派，一派投入太平军，一派成为结堡自守的民团，这两派立场完全不同，但都毫不迟疑地与对方誓死争斗。这种民风，在当时的湖南各地少有例外。

反观同时期的湖北、江西，太平军一来，民