1937年8月，洛川会议提出红军在冀东以雾灵山为中心开展游击战争创建根据地。但是，由于1938年冀东抗日暴动的成果未能巩固，创建根据地的任务没有实现。而到1940年初着手创建游击根据地时，情况已经发生很大变化。冀东区党分委接受以前只注重地理条件，忽视群众条件而失败的经验教训，根据变化了的情况，灵活地执行中央指示，重新考虑并践行冀东游击根据地的选址问题。后来冀东地方党组织在总结这方面经验时谈到：“1939年创建根据地时，首先开辟的并不是长城外的雾灵山区，而是长城里的腰带山、鲁家峪、盘山地区，而且始终以这三个地区为中心向四外扩展。这是根据实际情况作出的决定。选择根据地应是群众条件与地理条件并重。从这两方面条件来看，口内（长城以内）较口外（长城以外）有利。因冀东地区既有山地又有平原，冀东党的基础及其领导的广大抗日群众，主要是在口内之遵化、迁安、丰润、滦县、玉田、蓟县、平谷等县。这里人口稠密，物产丰富，人民的文化水平和政治觉悟较口外高，相对说日伪的统治较口外薄弱。所以，根据地的选择，主要是在口内。口外日伪‘满’统治则较强，虽有山地的好条件，但已被日伪‘满’统治了七八年之久，控制极严，部队不易站脚。而人民条件、经济条件、党的基础均不如口内好。况且绝大多数干部和战士都是在冀东土生土长的，与人民群众有血肉联系，先在口内建设根据地，可以迅速站住脚，有事半功倍之效。”

腰带山、鲁家峪和盘山三个地区都靠近通唐公路北侧不远的浅山区，游击队以这些游击根据地为支撑点，以通唐公路为战略轴线向四面出击。向北可跨长城进热南，向东可渡滦河达滦东，向南向西可下冀东平原，进逼北宁铁路线，威胁平、津、唐三城市。但由于这三块游击根据地靠近日伪军的重要据点和交通干线，所以只能临时安顿些军械所、卫生所、报社等后方机关，成为部队暂时休整的隐蔽地。而领导机关则长期随军游击活动，即当时所说“背包里的政府”“马背上的司令部”。这些游击根据地，自建立之初便不断遭日伪军袭击，在后来日伪军多年的“扫荡”进攻中，又总是受到重点摧毁，所以被迫不断转移流动。至于各县的小片游击根据地，也是不断地迁移。在这样高度流动中建设和坚持多块、小块临时游击根据地，是冀东地区抗日游击战争的一个突出特点。

腰带山游击根据地。腰带山位于丰润县北部，是燕山余脉的主峰，海拔648米，东西横贯7公里，山体面积24平方公里。山内悬崖峭壁，沟壑纵横，地形非常险要。山体周围村庄密集，是丰润、滦县、迁安三县交界处以这座山为中心的游击区，也是1938年冀东抗日暴动的中心区。四纵和抗联西撤后，八路军一支队和抗联余部，始终在这一带活动，有较好的群众基础。1939年10月，建立了冀东第一个抗日民主县政府——丰（润）滦（县）迁（安）联合县政府，同时组成中共丰滦迁联合县委员会。但游击区仍局限于山区，且没有较巩固的游击根据地。阁老湾会议后，周文彬、丁振军、刘诚光率部进入该地区，与早在这里活动的陈群会合，同当地干部和游击队一起，积极出击作战，肃清土匪，稳定抗日秩序。同时，地方党组织和政权也加强工作，建成了以腰带山为中心的游击根据地，并大力向四周扩大游击区。在腰带山前后，向南、向东、向北发展扩大了3个区，在部分村设立办事员、村武装班长，成立青年报国会、妇女救国会等抗日群众组织。同时派出游击队和地方干部向唐山、北宁铁路及其以南地区隐蔽发展，开辟多块隐蔽游击区。

鲁家峪游击根据地。遵化县鲁家峪地处丰润、玉田、遵化三县交界处，面积15平方公里，共1万多口人。中心村鲁家峪是个很大的山村，有400多户。这里山势复杂，号称“九沟十八峪”，有许多火石洞可供隐蔽，易守难攻，是开展游击战的理想之地。当时鲁家峪土匪、日伪军、汉奸及日本浪人活动猖獗。阁老湾会议后，李运昌、徐志率领开辟该地区的党政干部和游击队进入鲁家峪，从消灭土匪、锄奸反特、打击镇压反动分子、清除地痞流氓入手，安定社会秩序，得到群众拥护。继而通过上层关系，积极开展统一战线工作。广泛宣传抗日，发动群众恢复建立党的组织，组建青年报国会、妇女救国会等群众团体。领导群众与当地顽固上层分子、伙会民团首领进行斗争，揭露他们借抗日之名，勒索群众，贪污自肥等罪恶，打击其反动气焰。改组政权组织，树立起抗日群众的优势。培养了以武装班长、区小队长、妇救会主任、妇女委员等为代表的一支200多人的抗日骨干力量。在党组织领导下，家家是哨所，户户是堡垒，形成全民总动员进行抗日斗争新局面。鲁家峪游击根据地初具规模后，即以此为中心向西、向北发展成两大片游击区，使之成为与西部盘山、东部腰带山两块根据地相联系的重要枢纽。1940年1月至2月间，相继建立了遵化县抗日民主政府和丰（润）玉（田）遵（化）联合县办事处。遵化县抗日民主政府辖遵化城西、城南地区，约300多个村庄。丰玉遵联合县办事处，下设3个区，辖遵化县鲁家峪、党峪以南至丰润县城以北及玉田县城以东一带地区，约200多个村庄。3月，办事处改为抗日民主县政府，同时建立中共丰玉遵联合县委员会。

1940年12月，由于腰带山、鲁家峪两块游击根据地不断向北开辟发展，在沿长城一带遵化、兴隆两县间的洪山口，迁安县三屯营、潵河桥（今属迁西县）和滦河北与东五堡一带地区，建立了迁（安）遵（化）兴（隆）联合县政府，辖4个区，200多村庄。1941年，冀东军分区司令部、政治部、卫生部、后勤供给处、救国报社、电台以及修械所、炸药厂、被服厂等十几个机关单位相继迁到鲁家峪，这里一度成为冀东人民抗日斗争的政治军事中心。

在开辟腰带山、鲁家峪抗日游击根据地的同时，根据阁老湾会议精神，对冀东西部的盘山也进行了开辟。1940年2月，包森、李子光带领游击队和一批地方干部先后到达盘山，首先整顿在盘山活动的小股游击队，加强纪律性，提高战斗力。然后全力进行剿匪，稳定盘山一带的社会秩序，使群众的抗日热情高涨起来，随之着手建立抗日政权和群众组织。并以其为依托，游击队频频出击，在蓟县、平谷、密云、三河、宝坻等县，发展扩大了大片游击区。4月15日，蓟（县）平（谷）密（云）联合县政府和中共蓟平密联合县委员会成立。

随着以腰带山、鲁家峪、盘山为中心的游击根据地的逐步扩大，冀东的游击区域有了很大发展。到1940年6月初，已开辟出遵化县城北、遵化县和蓟县边界、迁安县境内滦河北、丰玉遵边界的鲁家峪、丰滦迁边界腰带山、蓟县盘山、平谷县鱼子山、兴隆县雾灵山等多块小块游击区。在冀东初步形成东西两大块游击区。东部，以鲁家峪、腰带山为中心，东起滦河，西至玉田县城东，长约60公里。南起北宁铁路，滦县境，北至兴隆县、承德县境，长约100余公里。西部，以盘山为中心东自遵化县马兰峪附近，西至白河东，长约80公里。南起蓟县、三河县境，北至兴隆县，长约60公里。两大片游击区建立了5个抗日县政权，1600个抗日村政权，人口近百万。共产党组织也得到了迅速发展，全区共产党员发展到1300人。为加强对冀东地区抗日政权领导，1940年7月4日，根据晋察冀边区政府命令，撤销晋察冀边区行政委员会冀东办事处，建立晋察冀边区行政委员会第十三行政督察专员公署（简称冀东专署），焦若愚任专员。