根据中共中央的部署，日本侵略军一投降，我军就开始向东北进军。
最早进入东北的，是原来东北抗日联军的周保中、李兆麟等率领的部队。
周保中年轻时在云南讲武堂毕业，曾任国民革命军的副师长。1927年加入中国共产党，次年到中央军委工作。1929年去苏联学习，两年后回国，任中共满洲（按：满洲是当时对整个东北的一种代称）省委军委书记、吉林省委书记。“九一八”事变之后，组织东北抗日联军，任第五军军长、第二路军总指挥。
李兆麟1930年加入中国共产主义青年团，次年转党。“九一八”事变后，参加领导抗日武装斗争，曾任东北抗日联军第三路军总指挥。
东北抗日联军在发展最好的时期共有11个军，分为三路。即第一、第二、第三路军。但是在日本关东军强大兵力的“讨伐”、“清剿”
下，东北抗日联军逐步退入深山老林中坚持斗争，十分艰苦，损失很大。第一路军总指挥杨靖宇于1940年2月23日在与敌人激战后，自杀殉国。其他领导人如李延禄、赵尚志、魏拯民、赵一曼等先后牺牲。东北抗日联军在中国共产党满洲省委的领导下，将余部中的一部分缩编为一个教导旅，由周保中任旅长，李兆麟任副旅长，转移进了苏联境内，进行整训，被编入苏联红军系列，称为国际八十八旅。其他的部队则进行分散活动，由野营训练总部负责领导，在内线坚持斗争。
当苏联红军决定向东北出兵时，周保中、李兆麟收到了以斯大林的名义发来的电报：
东北是你们中国人民的东北，苏联红军的任务是解放东北，建设东北的任务是你们的。待命。
随着苏联红军向东北境内的快速进军，周保中、李兆麟率领的国际八十八旅也和苏军一道行动进入东北，以后又分成很多小队担任各部队的向导，并很快就和原来抗联的各方力量恢复了联系，发展了部队。由于他们在东北有深厚的群众基础，又极为熟悉情况，所以很快就同苏军一道先后攻占了57个城市，在每个城市中，一般都是由苏联军官任卫戍司令，我方担任副司令。如周保中担任了长春的卫戍副司令，李兆麟担任了哈尔滨的卫戍副司令。
从关内最早进入东北的是冀热辽军分区的李运昌部。
李运昌是黄埔军校四期学生，与林彪、刘志丹是同届。他1925年入党，参加过秋收起义，以后在满洲省委做地下工作，对东北情况相当熟悉。抗日战争期间，他长期在晋察冀解放区的冀东地区领导抗战，担任过河北省委书记、冀东抗日联军司令员、晋察冀十三分区司令员、冀热辽军区司令员兼政委。
冀热辽军区在长期的抗日斗争中已经在辽宁和热河建立了根据地，地跨长城内外，是我军进入东北最近又最有条件的根据地。所以当李运昌于8月13日清晨在河北丰润大王庄冀热辽军区的司令部从广播中听到日寇投降的消息和朱总司令发出的进军东北的命令之后，立即同副司令员詹才芳等召开军区党委会，成立了以他为书记的东进工作委员会和东进总指挥部，调动了分区的八个团、一个营和两个支队共1.3万余人（占军区主力的三分之二），同时还有四个军分区司令员、四个地委书记以及2500多名地方干部，分为三路向敌人的重要据点进发。一路直插热河的承德，与苏联红军会合；一路直插平泉、赤峰；还有一路是由冀热辽第十六军分区司令员曾克林和副政委唐凯率领的分区主力第十二团、十八团和朝鲜义勇队，目标是山海关。
这时的山海关有日伪军和地方警察共约3500人驻守，依仗山海关的高城墙，声称只交枪给国民党军队，拒不向共产党军队投降。我军先扫荡了外围，形成对山海关的包围。
8月30日，苏联红军来到了山海关。由于我军和苏军原来毫无联系，当曾克林命令部队中所有的司号员吹起欢迎号时，苏军仍不知我军是什么部队，并立即架起了武器。我军立即唱起了《国际歌》，这一全世界无产阶级的歌曲立即把两支军队联系了起来。然后通过苏军带来的蒙古翻译，双方才得以沟通。中国共产党领导的军队在这里和苏联共产党领导的军队第一次会了师。双方商定共同攻打山海关，苏军炮击之后，我军与苏军一道攻入了山海关，接受了日伪军的投降。三天以后，延安的《解放日报》在头版刊出了如下标题的报道：“华北军事要冲山海关，即已陷敌手13年之久的榆关镇已为我军光复”。
攻下山海关之后，曾克林率军坐上火车向东进发，连克兴城、锦西、锦州后，第十八团留下来守卫锦州，第十二团也留下一些部队接管各地政权。最后剩下一个营则由曾克林、唐凯率领，与苏军一道前往沈阳。9月5日到沈阳时，十八军分区的政委焦若愚也赶了上来。
与各部队向东北开进的同时，为了建设和巩固东北根据地，中共中央又决定从延安和全国其他地方抽调干部陆续派往东北。从延安出发的第一批干部1000余人组成的干部工作团是由晋绥军区副政委林枫率领的。8月28日，在去飞机场送走了到重庆与蒋介石谈判的毛泽东以后，朱德在延安的中央党校大礼堂为即将去东北的干部做了一个重要报告，他说：
我们要积极向东北发展，东北大有文章可做。蒋介石的部队大部分在南方，到东北要走半年。即使他到了东北，顶多是他占城市，我占乡村。有的同志这几天看到苏联和蒋介石订了条约，有些灰心。过去以为苏联会大大帮我们一手，现在失望了。这是因为过去希望过奢。但是要知道，虽然有个条约，东北的工作还大得很。苏联三个月撤兵，中国要归中国人自己管，东北要归东北人管，我们当然可以管，条约上没有规定不要我们去，不要我们管。现在要派五万部队插过去，再派万把干部，将来还要去。这是很长远、很巩固的路。
8月29日，由刘少奇主持的中央书记处以中共中央的名义向晋察冀分局和山东分局发出指示：
晋察冀和山东省准备派到东三省的干部和部队，应迅速出发，部队可用东北军和义勇军等名义。只要红军（按：此指进入东北的苏联红军）不坚决反对，我们即可非正式地进入东三省。不要声张，不要在报上发表消息。进入东三省后，亦不必坐火车进占大城市，可走小路控制广大乡村和红军未曾驻扎之中小城市，建立我地方政权和地方部队，大大地放手发展。在我军不能进入的大城市，亦须尽可能派干部去工作。对红军可进行非正式的接洽，将情报通知红军。但不要勉强与红军做正式的接洽与联络，亦不要请求红军给我们帮助。只要红军不作声，不坚决反对我之行动即好。但红军所坚决反对之事我必须照顾，不要使红军在外交法律上为难。山东干部与部队，如能从海上进入东三省活动，则越快越好。