咸豐三年，欽差大臣向榮領兵一萬人，在南京城東孝陵衛駐紮，號稱江南大營。琦善則領兵一萬人在揚州城外駐紮，號稱江北大營。咸豐帝對江南大營是寄予了相當大的期望，甚至把它當做最後的救命稻草。然而，清廷寄以厚望的江南大營和江北大營，多次被太平軍圍殲，以至於難以成軍。倒是咸豐皇帝並不看好的湘軍，於1864年攻陷了天京，平定了太平天國。江南大營和江北大營爲何比不過湘軍?
1856年4月，翼王石達開從江西前線率3萬翼殿精銳東征，與燕王秦日綱、陳玉成、李秀成、陳仕章、周勝坤等夾擊“江南大營”，欽差大臣向榮、總兵張國樑等敗逃鎮江，長達三年之久的天京之圍解除。同年9月，太平天國內部各大實力派相互火拼，“天京事變”爆發，2萬餘骨幹力量死於內鬥，太平天國元氣大傷。
1857年5月，翼王石達開一言不合就外出單幹，帶着10萬精銳說走就走，這對剛歷經大亂的太平天國而言，無異於雪上加霜。不久，和春、張國樑等捲土重來，再次組建“江南大營”，繼續圍困天京。和春是滿人，水平一般，可以忽略不計;天地會出身的張國樑則不一樣，號稱“江南大營”第一悍將，咸豐皇帝將其比喻爲“江南長城”，是剿滅太平天國的一把利刃。如此，太平天國首都天京面臨之軍事壓力是可想而知。
1858年11月，陳玉成、李秀成等團結合作，摧毀德興阿“江北大營”，擊斃清軍15000餘人，佔領浦口、江浦，打通了江北糧道。11月底，陳玉成、李秀成再次密切配合，並聯合淮北張樂行、龔德樹、任化邦“捻軍”，集中10餘萬兵馬大戰湘軍第一悍將李續賓，全殲湘軍老兵6000餘人，李續賓也陣亡。兩次大戰獲勝，太平天國局勢有所好轉，人心也較爲團結。
但是，李昭壽、薛之元等隨之叛變革命，包括浦口、江浦在內之江北地重新落入清軍之手。與此同時，胡林翼繼續推行“東征計劃”，兵分四路進攻安徽，威脅上游安全;張國樑則不斷出兵攻打天京郊外各營壘，再次合圍天京。按照戰區劃分，天京戰場歸李秀成，由他來想辦法解除京圍困，確保大本營安全。
1860年1月，李秀成“強奏”天王洪秀全，希望自己能離開京城，帶兵去摧毀“江南大營”。起初，洪秀全不同意，認爲李秀成想拋棄自己，後經族弟洪仁玕極力勸說，才勉強同意外出。1月底，李秀成來到蕪湖，與陳玉成、李世賢、楊輔清、黃文金等將領會面，宣佈自己與洪仁玕之作戰方案，即是玩“圍魏救趙”之計;主力奔襲杭州，迫使清軍分兵，而後火速回師，數路大軍一起摧毀“江南大營”，從而解除京師之圍。
李秀成爲何要玩“圍魏救趙”之計，千里奔襲浙江省會杭州?主要是因江蘇、浙江、上海等地既是“江南大營”防區，又是其餉銀之主要來源。此外，天下財稅半數來自蘇杭，只要此地被攻擊，咸豐皇帝肯定會下令“江南大營”分兵救援，確保財稅重地之安全。可知，攻打杭州乃是“攻敵必救”，抓住了“江南大營”之命門。
蕪湖會議上，大夥都統一意見，決定執行“圍魏救趙”之計。2月，李秀成率麾下悍將陳坤書、譚紹光、陸順德等率5000精銳長途奔襲杭州，中途留下陳坤書鎮守廣德，自率3000兵馬直奔杭州而去。與此同時，李世賢率3000兵馬奔襲湖州，攻打城池;陳玉成則率軍攻打上游安徽，擾亂清軍視線。3月初，李秀成3000精銳突然降臨杭州城下，浙江巡撫羅遵殿頓時六神無主，陣腳大亂，城池隨之被攻破，羅遵殿被殺，清兵陣亡千餘人。
杭州、湖州同時告急，咸豐皇帝認爲太平軍準備大舉東征，奪取東南財稅重地，於是下令和春趕緊出兵增援。起初，和春不樂意，可經不住皇帝一再催促，只好讓總兵張玉良率5000兵馬東征，收復杭州城;鄭魁士率5000兵馬去湖州，打李世賢。如此，李秀成“圍魏救趙”之計初步實現，“江南大營”已經分兵。
張玉良抵達杭州郊外，不知城內虛實如何，不敢貿然進攻，而是就地紮營，先了解敵情再說。當晚，李秀成在杭州城內遍插旗幟以爲疑兵，連夜撤出杭州，抄襲小路趕回天京。順帶說下，李秀成攻下的只是杭州外城，裏面滿城依然是滿洲八旗鎮守，可八旗子弟已經是“弱雞”一枚，既不敢找李秀成麻煩，也不敢拼力殺出去給張玉良送信。如此，李秀成3000兵馬毫髮無損地離開，途徑建平時再次與衆將領開會，決定兵分東西兩路進攻“江南大營”，一舉摧毀之。張玉良、鄭士魁等已經率10000餘兵馬外出;張國樑則在鎮江，且一向與和春不和睦，看不起這水平一般的滿人。多位大將不在身邊，欽差大臣和春自然無法抵禦陳玉成、李秀成、楊輔清、李世賢、黃文金、劉官芳等猛人進攻，“江南大營”危在旦夕。
正當陳玉成、李秀成等集中全力進攻“江南大營”時，提督張國樑、馮子材率所部3000兵馬從鎮江火速趕回增援，可一切都來不及了。沒辦法，張國樑只能一路撤退，希望能守住鎮江、丹陽、金壇一線，阻止太平軍東征。此時，李秀成乘勝追擊，在丹陽與張國樑大戰一場;張國樑不敵，落水而亡，所部潰散。
天地會出身的張國樑驍勇善戰，且擅長使用水師，如今卻落水而亡，實乃可惜。不過，李秀成也很夠意思，他厚葬了張國樑，“兩國交兵，各忠其事。生雖爲敵，死尚可爲仇乎?以禮葬之下寶塔。”悍將張國良一死，東南八旗、綠營兵便紛紛潰散逃難，李秀成繼續追擊，欽差大臣和春只好自縊而死。至此，“江南大營”第二次被摧毀，南方八旗、綠營不再成氣候，天京之圍再次解除。
太平軍第二次摧毀“江南大營”，前後擊斃清軍5000餘人，號稱“江南長城”的提督張國樑陣亡，南方八旗、綠營不再具備戰鬥力。如此，天京之圍得以再次解除，也算是一場大勝利。不過，此次只擊殺5000餘人，打了一場擊潰戰，而是殲滅戰，有點可惜。再則，“江南大營”被摧毀，八旗、綠營潰散，意味着清朝在南方再無可用之正規軍，剿滅太平天國之重任轉到以曾國藩“湘軍”爲首的私人武裝集團;“湘軍”從炮灰變成主力;曾國藩從“替補”變成主攻。如此，漢族地主勢力崛起，清朝中央集權體制削弱。
江南大營和江北大營爲何比不過曾國藩湘軍?
一是江南大營和江北大營兵源上不及湘軍。
如前所述，江南大營和江北大營的兵源來自於綠營。綠營如八旗軍一樣，早已沾染上吃喝嫖賭的惡習，幾乎個個都是兵油子，戰鬥力不堪一擊。就如曾國藩所言，這些士兵是一羣“烏合之衆，漫無紀律，無事則虛糜糧餉，有事則臨陣潰逃”。與此相反，曾國藩在招募湘軍時，以“樸實而有農夫土氣”爲標準，將那些“油頭滑面，有市井氣者，有衙門氣者”的人統統拒之門外，概不收用。這樣招募的士兵，老實肯幹，戰鬥力遠遠超過江南大營和江北大營裏的那些兵油子。
二是江南大營和江北大營組織上不及湘軍。
江南大營和江北大營來源於全國各地，有的是四川兵，有的是廣東兵，有的是湖南兵，有的是浙江兵，有的是山東兵，不一而足。他們的將領之間，士兵之間，都存在這樣那樣的矛盾，勾心鬥角。比如，江南大營中的欽差大臣向榮與部將和春素來不和;和春擔任欽差大臣後，又與部將張國樑矛盾重重。江北大營也存在類似的情況。
湘軍就不同了。湘軍的士兵由營官自招，並只服從營官，上下層層隸屬，全軍只服從曾國藩一人。曾國藩與湘軍重要將領既是同鄉，又有同學、師生、親友的關係。因此，部隊非常團結，猶如鐵板一塊。
三是江南大營和江北大營軍紀上不及湘軍。
江南大營和江北大營軍紀的敗壞，無人不知。將領隨意剋扣糧餉，中飽私囊;士兵則欺壓百姓，吃拿卡要。有一次，四川的士兵和湖北的士兵強搶民女，爲爭奪一個民女大打出手，引得旁觀者譏笑：“從來攻城時，末見今日武。”一名美國傳教士這樣描述江南大營：“不像軍隊，形同市集，吃喝玩樂，大煙娼賭俱全。”
搞笑的是，1860年，李秀成率部擊潰江南大營後，江南大營“兵趨蘇州，騎千餘先至，女兵居半，謂是張玉良兵妻女”。這是說，在逃跑的部隊裏，竟然有一半是女人。由此可見他們平時的生活，是多麼腐化墮落。胡林翼如此評價江南大營：“將驕兵惰，終日酣嬉，不以賊匪爲意。其樂桑中之喜，或戀家室之私，或羣與縱歌酣酒，或日在賭場煙館，淫心蕩志，極樂忘疲，以致兵氣不揚。”
曾國藩對湘軍紀律抓得很嚴，絕不允許將領剋扣糧餉。他一再強調：“弁勇之於本管將領，他事尚不深求，惟銀錢之潔否，保舉之當否，則衆目眈眈，以此相伺，衆口嘖嘖，以此相譏。惟自處於廉，公私出入款項，使闔營共見共聞，清潔之行，已早有以服弁勇之心。”如果有湘軍將領敢剋扣糧餉，那麼他面臨的懲罰是很嚴厲的。有一年，湘軍副將楊覆成、彭得勝就是因爲剋扣糧餉，被曾國藩上奏朝廷，以軍法論處，丟了腦袋。
