李秀成去围攻南京的时候，让他的副将谭绍洸、陈炳文留守苏州。九月的时候，谭绍洸等人率领士兵十多万人，分几路从金山太仓向东行进。淮军的将领们一直防守，在三江口、四江口与他们大战，双方都有胜利的时候，也都有失败的时候。敌军又沿着运河设置军事基地，横亘数十里，在运河和支流之间架设浮桥，通过这种方式互相往来，太平军进攻黄渡，将政府官兵围困在四江口，加紧猛攻。九月二十二日，李鸿章把他的部下们部署下去，进攻敌军的大本营。敌人十分强悍，善于战斗，淮军在进攻的过程中几乎无法抵挡，刘铭传、郭松林、程学启等人首先亲自去战斗，挥舞着刀剑杀敌，士兵们看到这种情形，顿时士气大涨，击败了敌人，抓住和杀死敌人有一万多人，对四江口的围攻这才解除。

常胜军的首领华尔死后，白齐文凭借着副手的资格继承了他的职位。姓白的这小子为人和华尔完全不一样，他是一个奸诈狡黠的人。当时他看见政府官兵十分困窘，于是就偷偷地和李秀成私下串通，十月的时候，白齐文计划在松江城内当李秀成的内应，去上海威胁逼迫道台杨坊，索要巨额的军费，杨坊没有给他，后来白齐文就殴打杨坊，抢了他四万两银子离开了。听到这件事情，李鸿章非常生气，当即和英国的领事交涉，罢免了白齐文的职务，并且要他偿还掠夺的钱财，后来让英国的将领戈登代替他的位置。常胜军这才又开始听从李鸿章的指挥，当时是同治二年的二月。这实际上是李鸿章和外国人交涉的第一件事，他做决策的果断，态度强硬的外交风格，让谈论他的人都不住地夸赞。

罢免了白齐文之后，李鸿章想要杀了他，被美国的领事拦住了，于是李鸿章就放了他。后来白齐文向李秀成投降，当上了李秀成的参谋，多次为其出谋划策，但是都不是什么好主意。他还劝李秀成放弃江苏、浙江，放弃那里的农事，摧毁房屋，集中兵力向北行进，占据秦晋齐豫中原的有利地形作为根据地，以此来控制东南，说那个地方是政府官兵的水师没办法接近的，一定可以成就大事业。李秀成不听。白齐文又为太平军购买武器，劫掠轮船，得到了几门新式大炮，全部献给了李秀成。因此苏州那一仗，政府官兵死在宝带桥几百人。后来白齐文在李秀成那里说不上话，也不被重用，就又前往漳州投靠别的太平军部队，最终被郭松林抓到杀死了。

首先是曾国藩抓获了太平军的一个信使，得到了洪秀全给李秀成的手谕，上面说湖南还有江北地区现在正是兵力空虚的时候，让李秀成调派二十万部队，先攻打常熟，然后一方面攻打扬州，一方面观察皖、楚。于是曾国藩派遣李鸿章先发制人，告诉他迅速攻占太仓州来扰乱常熟，牵制住李秀成的兵力，使他不能赶赴江北。李鸿章的想法也跟曾的一样。同治二年二月，李鸿章命常熟驻守的将领死死守住那里，等待救援，并且派遣刘铭传、潘鼎新、张树珊率领部队开着轮船赶赴福山，和敌人展开了几十次战斗，都取得了胜利。另外派遣程学启、李鹤章攻打太仓、昆山县[5]，来吸引太平军的兵力，又命令戈登率领常胜军和淮军一起攻打福山，最终攻占了那里，常熟的危险解除了。三月，又用武力收复太仓、昆山，擒获敌军七千多人，程学启的功劳最大。自此以后，戈登更加佩服程学启了。