1949年4月20日时，即南京国民党政府拒绝在《和平协定》上签字的当天，中国民人解放军第2、第三野战军百万雄师发起了渡江作战。顿时，长江北岸，万炮齐发；长江江面上，千帆竞渡。与此同时，第四野战军之第12兵团，在肖劲光率领下，向白崇禧部在江北的汉川、孝感、黄陂、新洲地区展开了一系列的攻击作战。
20日8点整，渡江中集团总指挥谭震林憋足一口气，对着无线电话筒，雷霆万钧地下达命令：向江南进军！
伟大的渡江作战开始！
进军命令下达后，人民解放军百万大军分3路在西起九江东至江阴的1500里的战线上，以雷霆万钧之势，向长江南岸广大区域举行了规模空前的大进军。此次渡江作战，分几十个点，实行宽正面渡江，敌防不胜防，敌空隙甚大，兵力强弱不等，一处成功，其他各处可继续奏效。
以谭震林指挥的中集团（7、9兵团）7个军30万人，其第一梯队4个军（7兵团之第21、第24军，9兵团之第25、第27军）于4月20日晚8时，由石矶头至鲁港段首先发起进攻。渡江时刻，江面风浪平静，数千只木帆船在强大炮火的掩护下，冒着敌舰和江防炮火的拦截，在数百里江面上扬帆疾进，迅速突破了敌防线。《人民日报》当时作了如下报道：“一时红旗挥动，冲锋号齐响，炮火映红了的江面，突然扬起几千张白帆，迳向对岸的火光飞去。……对岸敌人开炮了，炸弹在中游掀起水柱，巨浪撞击着船身，而突击队依然破浪前进。”（《人民日报》1949年4月28日）解放军此次渡江，仅遇到很微弱的抵抗，经过10个小时的战斗，至21日晨6时，占领了荻港、鲁港地区，并向繁昌、铜陵地区扩张。中集团突破江防后，敌阵呈现溃乱的局面，解放军顷刻全线向南岸纵深猛烈发展。汤恩伯于21日仓皇坐飞机赶到芜湖组织防堵，但已无济于事。
在中路：中集团突破安庆、芜湖防线后，24小时之内已渡过30万人。21日下午，连克繁昌、顺安、铜陵等县城。22日中午，突入国民党军防御纵深50公里广大地区，攻克贵池县城，并向青阳猛进。23日，中集团第二梯队的各军也全部渡到南岸。这一地段的敌战斗力十分薄弱，按李宗仁的话说：“中共大军如入无人之境。”（《李宗仁回忆录》（下册），第965页）
在西路：以刘伯承、邓小平指挥的二野西集团（3、4、5兵团）9个军35万人，在强大的炮火支援下，21日下午5时起开始由棕阳至望江段强渡。渡江后，刘伯承给二野下达命令，担负“截断浙赣线、杭徽线，歼击该两线之敌，准备而后进击杭州之目的”（《截断浙赣线、杭州徽线》，《刘伯承元帅大军指挥手记》，海军出版社1989年版，第405页）的任务，其中3兵团进击徽州地区敌人；5兵团进击衢州截敌；4兵团进击上饶地区敌人。自贵池至彭泽间渡江的部队，22日占领南岸沿江200里阵地，并解放彭泽、至德两县城及贵池、东流、至德、彭泽之线的广大地区。自马当以东渡江的部队，攻占黄山、香口等要点，并向纵深发展。西集团所遇之敌亦毫无斗志，纷纷溃退。22日已渡过30万人，主力直趋浙赣线，迅速切断汤恩伯、白崇禧两集团的联系。
在东路：以三野代司令员、代政治委员粟裕和参谋长张震指挥的东集团（8、10兵团）8个军35万人，与西集团同时发起渡江作战。在仪征至南通段，21日晚至22日拂晓，一夜间渡过30万人，22日占领扬中、江阴县城，及扬中、镇江、江阴一线的广大地区。在常州以北，22日晨占领利港至桃花港一线，并向南猛进，切断了京沪铁路线。在镇江至江阴段，解放军于20日至21日渡江时，先后两次遭企图阻止解放军渡江的英帝国主义4艘军舰和国民党军舰的炮击，造成252人伤亡。解放军当即奋勇还击，将英舰“紫石英号”击伤于镇江附近江面，其余3艘英舰逃往上海。在粉碎帝国主义的武装挑衅后，中国人民解放军总部发言人发表声明，指出：“中国的领土主权，中国人民必须保卫，绝对不允许外国政府来侵犯。”（《人民日报》1949年5月1日）同时警告英、美、法等帝国主义国家的武装力量必须迅速撤离中国。21日晨，东集团部队通过江阴要塞地下党组织将国民党军江阴要塞司令戴戎光捉住，并于22日上午又争取了江阴要塞守敌7000余人起义，完全占领江阴要塞，并且封锁长江，不让敌舰东逃西犯。江阴要塞起义为解放军顺利渡江成功，创造了有利条件。
截至4月22日13时，三野之7、9兵团大部过江；二野之3、4、5兵团亦已过江；东集团之第29、第28、第23军3个军已过江。此时，总前委致电向中央军委报告说，至此渡江任务业已完成。我军今后力争迅速完成东西打通联系，割裂敌人，截断浙赣路。为策应东集团作战，从22日起，“谭震林率7、9两兵团直归粟（裕）指挥。”（《渡江战役》，第111页）
与三野、二野横渡长江的同时，四野先遣兵团和中原军区部队，先后解放黄梅、浠水、汉川等地，有力地钳制了白崇禧集团，策应了二野渡江作战。
至此，国民党准备仓促，布置未周且不打算死守的长江防线顷刻土崩瓦解。国民党宣传很久之“长江天堑、无法飞渡”的神话归于破灭。人民解放军在渡江作战时遭敌炮击、轰炸共伤亡8000人。解放军如此神速突破“长江天险”，一方面，由于渡江前作了充分的准备，部队情绪高涨，英勇善战，所向披靡，锐不可当。另一方面，由于敌阵混乱，无全盘布置，抵抗甚微，使解放军完全按预定作战计划，迅速向纵深发展，达成分割包围之目的。