有了王鑫的帮助，李瀚章顺利将罗宗南的三千人马收编，部分还并配备了洋枪洋炮。
李瀚章从这些湘军里，选出了五百人组建洋枪队，选出了二百人组建炮队，并日夜抓紧训练。训练时，李瀚章大声对他们说：“我们要拿下武昌，替罗大帅报仇！”
“替罗大帅报仇！”下面的湘军群情激奋。
在李瀚章的指导下，湘军的洋枪队进步很快，年轻的炮兵也很快就学会了怎么装炮弹，使用加农炮。
在加强手下洋枪洋炮训练的同时，李瀚章还派人和湘军杨载福所统水师取得联系，要了一艘大船带人沿长江考察了太平军的布防。
日落时分，李瀚章乘坐湘军水师一座大船沿长江而下，夕阳照耀下的蛇山和龟山清晰可见，低空中漂浮着金色云彩。船再往前走了一会，便看见了高墙矗立的武昌城。
当时，坚固的石墙围住了巨大的城区，太平军的布防很严密。
当天晚上，李瀚章去找胡林翼，详细说了自己的攻城计划。
胡林翼听了李瀚章的战略布局和分析，说：“贤侄真有你的，本官马上写信给湖广总督官文，请他协调各处战事。”
李瀚章点点头，说：“胡大人，这次作战部署，不用说是我的想法，清廷现在对恩师多有顾忌，我现在还不想引起朝廷的关注。”
胡林翼想了想，清廷确实对功高震主的人有所顾忌，比如坐镇南昌的曾国藩，虽有钦差大臣关防，却只能管军，不能管民，后勤和地方配合、保障都不顺畅，所以屡次三番打了败仗，曾国藩屡屡向朝廷请求兼任督抚，然而清廷怕曾国藩势力尾大不掉，以“祖宗成法”搪塞。
按照李瀚章的建议，胡林翼指挥了大反攻。
杨载福所统的湘军水师，在一个风高月黑的夜晚，首先向太平军在长江附近的水师发起了猛攻！
当时，湘军的水师船比较大，购买了先进的洋炮，相比较而言，太平天国的战船太小，在湘军的巨舰前就像木质玩具。
湘军战船中，最大的长十五丈，宽两丈，从船的前面看不到船尾，士兵们站在自己的战船上可以炮击敌军。而太平天国的战船，多是渔船，只有几艘主力战舰。
杨载福所统的湘军水师利用坚船利炮，集中二十艘巨舰发动集群攻击，沿江而下杀敌，当时天气有利，是顺风，太平天国急忙将舰队后撤。
“开炮！追击长毛。”杨载福下令湘军水师顺势发动攻击，集中大量火炮，向进入射程的敌军猛烈轰击！
于是，一片火海中，太平天国在长江和汉阳附近的舰队几乎全军覆没，四十余条战船被焚毁。
杨载福的湘军水师还烧毁太平军粮食军火船百余艘，接着又顺江而下，攻击驻黄州、樊口、黄石港等地太平军水师，太平军水师船多被毁，辎重粮食及援军均无法西运。
李瀚章自己则带炮兵和洋枪队猛攻武昌的韦俊守军，在曾国荃、曾国华的协助指挥下，淮勇和湘勇，夺回了城东南的钵盂山、洪山、小龟山、紫荆山，包围了文昌、望山、保安、中和、等城门，完成对武昌城的包围。
文昌门外地面髙旷，且有红石矶控扼江流，形成天然的通津口岸。
“开炮！”李瀚章指挥湘军水陆夹攻，用洋炮轰开了文昌门，杀入武昌城中。
“开火点射！”这一次，面对早有准备的淮勇和湘勇，躲在突城里的太平军没有占到任何便宜，李瀚章指挥炮兵轰掉了大部分突城，剩下的一些太平军也被湘军点射。
“给罗帅报仇雪恨！！”一时间武昌城内血流成河，罗泽南手下的湘军奋勇杀敌，为他报仇，附近的太平军纷纷败走撤离。
“八百湘军连夜施工，以铁索系船，缚木为浮桥，更多系三四千斤重的大铁锚，抛入江中！”为便于调遣部队、输送弹药物资，李瀚章下令，在长江之上架起了两座坚固的浮桥，一座由汉阳鹦鹉洲至武昌白沙洲，一座由汉阳南岸嘴至武昌大堤口，这使得汉阳、武昌水陆相联，天堑变通途。
一旦武昌守军均出城突击，李瀚章就下令用排炮轰击，经过训练的炮手，纷纷点燃了火绳，只听数声巨响，一片片烟雾腾起，炮弹如狂风般向太平军扫去，长毛一片人仰马翻！
接着，后面的洋枪队也跟上，在李瀚章的指挥下，“翰”字营有条不紊轮番射击，一排排疾风暴雨式的弹幕席卷太平军，他们伤亡惨重，这黑火药的子弹，威力巨大，穿透了太平军的胸膛，还有的直接穿透了他们的脑袋。
不少太平守军不堪炮击，向“翰”字营杀过来！不过，他们遭遇了洋枪队有条不紊的攻击。
“啪啪啪”，一阵枪响，洋枪管中的弹药同时射出，烧红了枪管，太平军血流成河，把倒在地上的战旗都染红了。
自此，“翰”字营在武昌一战成名，太平军看到“翰”字营的旗帜就闻风丧胆。
就这样，武昌和汉阳的太平军成了瓮中之鳖，国宗韦俊急得像热锅里的蚂蚁，四处求援，却无济于事，地盘日益萎缩。
此时，胡林翼在当地也添募陆勇五千人，水师十营扼守青山和石嘴，两处各配地方团练四千人处处设防，层层设卡，并在武昌外围要隘青山、石嘴、洪山、鲁家巷等处挖壕筑墙，致使太平军粮道全断。
清军因为李瀚章的到来，很快占据了绝对优势，收复武汉指日可待。这时，李瀚章便要求带人离开武昌。
曾国荃表示很不理解，私下对李瀚章说：“贤侄，眼看我们就要拿下武昌城，这可是天大的功劳，你却不要这是何故”
李瀚章说：“我这么做，正是不愿和胡林翼抢功，他帮助我们收编罗泽南的湘勇，还资助我们诸多洋枪洋炮和弹药，我们正好借此还他人情。”
曾国荃叹了一口气，道：“那也不能就这样把到嘴的肥肉就这样不要呀。”
“拿下武昌算不了什么功劳，将来我们拿下金陵！”李瀚章说：“长毛的翼王石达开不是那么好对付，我们打乱了他的部署，还不知道他如何调兵遣将，现在我担心恩师在江西的安危。”
曾国荃和曾国华也担心曾国藩的安危，便不再说什么。
“你们真是高风亮节，本官全力保障你们杀往江西！”胡林翼对李瀚章的不邀功也很欣赏，资助了他们很多粮草。