將大部分的繳獲和一幫投靠鄉紳的捐獻都打包，派快船經益陽運回長沙，再由派至長沙任知府的郭崑燾組織人馬，將值錢的白銀等運至廣州。
陳玉成和樑立泰兩人毫不停留，待甲三師和甲四師二萬將士稍事休整，便即開拔出徵，直接進入荊州府的公安縣境。
至於旁邊的安福、石門、慈利等縣，早有甲七師的一部分頭前去佔領。
十二月下旬，雖天氣嚴寒，卻冷卻不了甲三師和甲四師將士熱血激動的進取之心。
正當陳玉成和樑立泰準備率軍直取江陵的荊州城時，一封密報傳來：
太平軍西征軍臨時換將，北王韋昌輝被調回天京，而接任主持西征事務的天官又正丞相曾水源率兵尚未到達安慶。
清妖見西征太平軍主將更換，缺乏統一指揮，有機可趁，便主動向已經攻佔並駐守的黃州的國宗石祥禎發起進攻。
駐守黃州的僅僅是國宗石祥禎所率領五千不到的太平軍將士，湖廣總督吳文鎔親自率領七千清軍進駐黃州北部的堵城，又命新任的糊北水師提督唐樹義率領水師把守長江上游，準備攻佔黃州。
石祥禎聞報，連忙向佔領並駐守九江的曾天養、唐正才及國宗韋俊等求援。
曾天養留二千兵士駐守九江，親自率兵一萬，與韋俊領兵五千，一道沿着長江兩岸邊，朝黃州進發前去支援。而唐正才，則率領上萬水師，沿長江逆流而上直指武昌。
這時，天降大雪，駐紮在堵城的清軍受風雪影響，無法行軍，士氣低迷。而距離黃州很近，已經抵達的韋俊率五千太平軍偷偷繞至清軍大營之後，隱蔽埋伏，清軍毫無察覺。
次日，黃州城內的四千餘太平軍在國宗石祥禎的帶領下，全部出擊，主動從正面猛攻清軍。同時，韋俊率埋伏的五千太平軍也一齊發起攻擊，縱火從後面焚燒清軍營寨。
清軍主力前後受敵，紛紛潰逃，湖廣總督吳文鎔、總兵德亮二人被殺，黃州知府蔡潤深被俘虜。糊北水師提督唐樹義見陸師被滅，急忙率領水師往長江上游逃去。
太平軍取得黃州大捷後，乘勢沿長江發動進攻，十二月底便抵達漢口、漢陽，並很快攻佔兩地，兵圍攻武昌。同時，還積極分別，準備向鄂北進軍。
而這時，遠在京師的咸豐大驚，湖廣總督吳文熔的戰死，讓他意識到，滿清真的氣數到了。但不管怎麼樣，祖宗留下的江山，無論如何不可能就此捨棄。他連忙命荊州將軍臺涌暫接任湖廣總督，就以荊州爲湖廣總督的治所之地，又命青麟爲糊北巡撫，率領一千五百守衛武昌。同時，從四川調兵四千東下援鄂，並一再催促陝西提督調兵二千緊急援助糊北。
收到這些消息的陳玉成和樑立泰，立刻意識到，這荊州成了硬骨頭。
原本早就派探子探知到，荊州將軍府下轄滿蒙清軍官兵近7000人，其中馬兵有四千，一千五鳥槍手，一千五弓箭手，還有一千預備馬兵；還有步甲的長矛手牌刀手等近二千人，加上步兵養育兵和炮手等八九百人。不但如此，還有也有一戰之力的滿蒙家眷二萬餘衆。
不過，荊州早有近二千馬兵和千餘步甲在上次的攻打武昌城中，被太平軍擊潰，一直沒有得到補充。
這樣一來，荊州城中實際只有駐防的二千馬兵，二千步甲，皆爲旗蒙滿兵。城外還有二三千的綠營城汛兵，不過，戰力低下。
陳玉成率一萬一千甲三師直接圍住荊州城，除了水寨這邊的城牆，其餘的東西北三面全部圍困起來。
荊州城西，駐紮着一百多年的滿城。滿城內的四千滿蒙旗兵，都是一片驚慌，但嚴格的軍紀，並且身後便是二万旗兵家眷，想到廣州、江寧城內的滿城裡，全城的旗兵和旗兵家眷盡皆被屠殺一空，四千滿蒙旗兵便是咬緊牙關，誓死護衛親人和自己的滿城。
新任湖廣總督的臺涌，此刻還兼任着荊州將軍，地方和軍權一起抓，本是得意之事，但如今，他絲毫感覺不到歡喜，有的只是擔心和恐懼。
荊州旗兵雖然經歷過三藩吳三桂和白蓮教等作戰，但此時已經腐朽不堪，沒什麼戰力。身爲荊州將軍的臺涌自然明白。也因此，他纔會嘴巴發苦。
手下兵將無能，卻只是朝他伸手要兵餉。但荊州將軍府，卻無財稅來源，只是靠朝廷撥付軍姿。但自從長毛賊起兵造反後，荊州將軍府便越來越差，軍費開支越來越少，到如今，已經快到了難以爲繼的地步。
很快，將荊州城圍住的陳玉成，命人射入勸降信，向城內的清軍招降。
臺涌大怒，滿洲正白旗的高貴出身，讓他根本無法去想投降之事。他立即下令，全城從家屬中招民壯五千，協助守城。
又過了二日，陳玉成等樑立泰的甲四師抵達宜昌後，見荊州城內清軍沒有反應，立即命甲三師向荊州城發起進攻。
甲三師裝備了充足的洋槍，冒着荊州城頭上的清軍炮火，朝城上放槍。城頭的八旗兵和蒙旗兵，剛開始被洋槍一陣齊射，死傷上百，當即不敢再冒頭。
甲三師將士加上爬梯，冒着炮火往城頭衝鋒，清兵戰力雖然不行，武器也是落後，但悍不畏死，在荊州將軍臺涌和副都統貴升的指揮下，奮起砍殺，將荊州城牆守得密不透風。
甲三師連攻兩次，都無功而返，只得以十幾門火炮轟擊城門，卻無甚效果。
甲三師這麼攻不下荊州，但甲四師卻勢如破竹。
清軍在鄂西一帶的兵力薄弱，且都是些糜爛不堪的綠營兵，一見討虜軍，便畏之入虎，逃竄不已！
從十二月的最後一天開始，至次年一月，樑立泰率甲四師，一路沿長江而上，依次攻克鬆滋、枝江、宜都、長陽、宜昌府城、歸州、巴東和巫山，兵勢進入四汌之地。
而率領內河水師的彭玉麟，也在偵查萬洞庭湖、安排好洞庭湖防守哨所和水寨後，也出現在長江水面，佔據了洞庭湖與長江交匯的城陵磯處，控制長江水道。
整個糊北的長江水路，除了武昌至黃州段，其餘幾乎全部被討虜軍佔領，滿清整個朝廷和太平天國爲之震動。