和乡间的土匪混杂在一起，使安徽成为帝国长江以南最混乱的省份。李鸿章之所以能够毫不犹豫地放弃京城悠闲的为官生活而回到老家去组建地方武装，起源于他“一万年来谁著史，三千里外欲封侯”的勃勃野心。

对于一介文人来讲，搞武装可不是闹着玩的。但是，从李鸿章军事生涯的头几年看，他似乎一切顺利。回到家乡不久，他便率领千余兵勇在巢湖一带和太平军接触了一次，虽然结果不分胜败，但这是他从军以来的第一仗，而且是帝国军队没有失败的第一仗，他立即得到朝廷的蓝翎赏赐，级别也从七品升至六品。这时他的父亲也奉命回原籍“办理团练”，同时他的弟弟李鹤章也从家乡出来了——父子三人开始一起为朝廷打仗。做京官没有做出什么名堂的父亲打仗也没打出名堂，不久就病逝了，只留下了“吾父子世受国恩，此贼不灭，何以为家”的遗嘱。而李鸿章却连连得手：参加攻克含山的战斗，战后加赏知府衔，赏换花翎；接着参与攻克庐州的战斗，得到“交军机处记名，以道府用”的奖赏，不久又加赏按察使衔，官职升至四品。因为不算大的军功而在三年内连升三级，这对一个七品编修来讲，提拔的速度可算是惊人的了。正因为升迁的速度太快，他人的嫉妒和猜疑也就随之而来，其罪名之一是说他“名为团练实则勾结土匪”。这是一个足以让他掉脑袋的罪名。怀疑他的是一个名叫胜保的满族钦差大臣，此时正奉命督办安徽军务。他怀疑李鸿章的原因是亲眼看见了李鸿章混杂在土匪中溃逃，而李鸿章当时的模样确实像个地道的土匪头子，更何况说的也是一口土匪黑话：

一日侵晓，土匪攻乡围，合肥领围出战，竟败退，直抵本围。时已逾午，饥甚，入宅不见一人，盖先避去。疾往厨舍，饭正熟。灶低洼，即翘一足踏于灶沿，一手揭盖，一手取碗，直递口狂咽，不暇用箸，亦无一蔬。随咽随呼曰：“同队快干（快食之意），好跑！”饱后仍退，忽报胜保从后路来，合肥颇惶急，虑有不测，不得已迎谒之。（赵凤昌：《惜阴堂笔记·书合肥轶闻》。）

即使已经官至四品官了，与风卷残云般的帝国农民作战也还是件不容易的事。最倒霉的是，不容易的情形正好让朝廷派来的钦差大臣看见了，可以想见钦差大臣看见李官员与义军混杂在一起奔跑于战场时的感想和表情。

遭到怀疑和众忌之后，虽然钦差大臣事后并没有向咸丰皇帝正式奏本要求惩办李鸿章，安徽巡抚福济也极力保护他，但是他还是觉得在安徽壮志难酬，于是他离开家乡到湖南投奔老