向榮、琦善接旨，更不敢怠，東攻南進，晝夜疾弛，不日，兩軍會師安慶。
向榮不屑琦善，上奏道：欽差大臣琦善所帶各兵，雖係生力，然素未經大敵，不敢驟令當先。臣之兵先行，琦善之兵權且在後作為接應，看前隊兵勇數仗，使之眼明膽壯，知賊伎倆，然後再令獨擋一麵，方為萬全之策。
1853年3月30，向榮追至金陵，探看地勢，疏曰：該逆先於城外多掘陷坑，密布竹簽裡許，並於長壽橋左右築有土城，連紮營數座，防備甚嚴，以阻我兵進路。此外俱係小河，無可繞越之處。大兵須從橋上攻進。該逆堅壁固守，我兵進攻，勢難施展。非避實擊虛，不能得手。因查東路孝陵、淳化鎮一帶，地勢寬敞，進攻較易，兼可扼賊竄蘇常之陸路。當即統兵繞從秣陵關一帶，馳往東路，度地紮營，相機進剿。
31日，向榮率軍至金陵城東沙子岡、鐘山南麓孝陵衛一帶，建江南大營。琦善率兵至揚州外圍，建江北大營。
江寧將軍蘇步通阿謂向榮道：“琦靜庵已駐紮揚州城外，南北二營既成，向帥可有製敵良策？”
向榮道：“江北江南兩大營遙相呼應，伺機攻金陵、奪揚州、取鎮江。此乃遙思。賊眾十幾萬，而吾兵單，勢難多拔。逆首現在江寧，唯有攻其必救，悉力趕緊進兵，若日內能奪占鐘山，即可進攻省城。諒分股之賊必然縮回，為圍魏救趙之計。吾意，天津鎮總兵李瑞、副將瑞格率兵兩千，馳赴常州，彙江陰楊文定部，扼賊竄犯東南，相機攻擊鎮城。”
蘇步通阿歎曰：“先奪鐘山，以據形勝；滌蕩外壘，再圖攻城。此唯一之途、然亦遙遙無期矣！”
是夜，蘇步通阿密召江南提督和春、廣西提督福興、河州鎮總兵吉順、鶴麗鎮總兵音德布，道：“吾皇密詔，且觀向榮動向，勿使漢人專柄。”
和春道：“吾皇若授吾等專攻金陵，吾等可有過人之策？向軍門一路戰來，有勇善謀，實乃統軍之將。”
4月10日，向榮發令攻擊，鐘山太平軍總不接仗，僅於牆內開槍放炮。清兵靠近，徒然受傷，無益於事。向榮無奈，隻得暫緩攻擊。
13日，蘇步通阿率部佯攻鐘山、中和橋，和春、秦定三、鄧紹良等率主力攻擊通濟門外營壘，張國梁捷勇繞後迂回，連破三壘。楊秀清調集重兵出城接戰，和春不敵，敗退回營。
18日夜半，霧氣彌漫，向榮兵分四隊，偃旗息鼓，偷襲七橋甕營壘；守軍不備，旋即四散。向榮傾兵再攻鐘山。七橋甕失，鐘山失去犄角，守軍遂不再守，燒營而退。
城東險要儘得，向榮大喜，再擊雨花台。楊秀清驚，遣重兵守護。向榮連擊五日，不克。就地紮營，浚濠困圍。
天津鎮總兵李瑞進至常州，以城垣太舊，難以守禦，遲不進擊；已革撫臣楊文定亦以海上各船未至，不能貿然攻鎮。
向榮怒罷李瑞，飭令鄧紹良進擊鎮江，隨即再疏：金陵賊逆屢戰失利，其勢日孤，萬一自知難守，竟從江上他竄，追剿更難為力。不如緩攻金陵，先從水上去其船隻，使江寧、鎮江、揚州三城之賊，首尾不能兼顧，然後可以製其死命。