要打大仗，要攻坚，必须要有远距离摧毁敌军工事和集群的强大火力，必须要有自己的炮兵。
我军从关内进入东北时，不说没有炮兵，连轻武器都没有多少。因为听说日伪军留下了大量武器可以接收，所以我们不少队伍为了赶快进入东北，都是轻装前进。可是，才过了一年多时间，在“三下江南”的时候，我们就有以团为建制的炮兵参战了。
我军进入东北后，曾经接收过少部分轻武器，在作战中也缴获了大量的轻武器，但重型武器缴获不多。曾经有一种误解，认为苏军在撤出东北时把若干武器留给了我们。对于这种说法，曾经担任过第四野战军参谋长的刘亚楼上将在1962年12月13日就编写第四野战军战史问题的一次讲话中，说过一段很重要的话：
一般人总认为苏军留给了四野不少武器，这是误解。这个战史既然是存档用的，可以把这个问题讲清楚。当时不仅不给我们武器，还吃掉了我们不少部队。也可以写一下当时斯大林是为了照顾与国民党的关系。还有个重要问题：当时我们曾向中央建议，以中央的名义向苏军要些武器。毛主席当即电示，中国革命主要靠中国自己的力量，禁止用中央的名义向他们要东西。这个电报我亲自看过，要查一下。后来以四野的名义用粮食和他们换了一些武器，用红军票子到大连买黄金，购买了一些武器。朝鲜同志不错，卖给我们一些武器。当时我曾两次去朝鲜谈判，朱瑞同志曾同我去过一次。
我东北民主联军的炮兵队伍是靠自己白手起家、艰苦奋斗创立起来的。为了准备大反攻，刚建立起来的炮兵部队担负了更为艰巨而繁重的任务。
谈到东北的炮兵，就不能不让我们深切缅怀我军炮兵事业的奠基人和领导者朱瑞。
朱瑞和他的同志们白手起家创建炮兵是非常不易的。当他们进入沈阳，当他用熟练的俄语与苏军统帅马林诺夫斯基谈判接收日军留下的火炮时，竟然遭到拒绝。在这种情况下，朱瑞带领炮校全体同志分散到山林雪野中各处去找，进行零星收集，无论是完整的、不完整的，破烂的、装配不上的，凡是可能有用的东西都要。在各部队的支持下，终于找到不少东西，全部集中到南满的通化，炮校也在通化正式开学，以后又迁移到北满的牡丹江，开始了东北炮兵的艰苦创业。当时炮校的办校方针就是“分散干部，搜集物资，建立家业”，其主要任务仍然是千方百计寻找火炮。只要有点线索，哪怕是零下四十摄氏度的林海雪原，也要去碰碰运气。例如，在镜泊湖的冰层下边，就曾刨出了三门大炮。
为了加快东北的炮兵建设，林彪让朱瑞起草了《炮字第一号命令》，在1946年7月9日以林彪、高岗、彭真、朱瑞、邱创成（炮兵学校政委）五人的名义下达到东北的所有部队。命令传达了毛泽东所说的“没有炮兵便没有胜利”和朱德所说的“炮兵为建军骨干”的重要论述，然后着重指出：
我党的建军与作战指导，现正处于走向正规化与正规战的过渡。标志这一转变之基本的与最重要的设施之一，便是炮兵。编成一定数量的炮兵，并使之与步兵及其他兵种正确协同作战，不但将改变我军的组织机构，也将改变我军的作战和战术形式，因而也会根本改变我军作战的指导方针（从游击战、运动战到正规战、阵地战）。坚定明确地把握住这一转变，是我军在建军途径上获得成功的关键。
1946年10月9日，东北民主联军总部又下发了《炮字第二号命令》，任命朱瑞为炮兵司令员，邱创成为政治委员，贾陶为副司令员，匡裕民为副司令员兼参谋长，从此东北有了统一的炮兵领导机关和指挥系统。
通过种种努力，到1947年2月，我东北民主联军终于有了各种火炮700多门，坦克及牵引车65辆，训练出了一批专业人才，从1945年只有5个炮兵连，发展到有了100个炮兵连和60个步兵迫击炮连，还有1个修炮厂。1947年3月，在双城召开了东北我军第一次炮兵会议，对我炮兵第一次拉出去参加“三下江南”战役中的得失进行了认真总结。到这时候，我东北民主联军第一支现代化的炮兵部队（也是我党所领导的整个革命军队中的第一支成规模的炮兵部队）终于初步建成。
第一次炮兵会议之后，东北炮兵本着“广泛普遍地发展与适当地集中整编使用”的原则，有了更快发展。这一方面原因是各部队的普遍重视，炮兵学校培养的骨干和各部队自己培养的骨干日益增多（根据炮兵会议的精神，各部队还有意收集和改造了不少俘虏中的炮兵人才为我所用）；另一方面原因是由于我军兵工厂的增多，修制出的火炮和制造出的弹药大量增加，陆续装备了各炮兵部队。所以，当大决战开始时，我东北野战军不仅是每个团有自己的炮兵连，每个纵队有自己的炮兵团，野战军还有了炮兵纵队。在这支炮兵队伍中，不仅有山炮、榴弹炮、野炮、加农炮、高射炮、迫击炮，还有坦克、战车。这样，就为我军的大兵团攻坚作战提供了有力的火力支持。