1940年1月19日奉命率386旅主力及18集团军总部特务团进入太岳区，同薄一波同志率领的决死一纵队会师，统一指挥该区八路军、决死队，迎击蒋阎军的进攻。1940年5月成立大岳军区，任军区司令员。1940年5月5日率太岳军区部队协同太行军区部队发起白晋战役，至1940年5月8日胜利结束，共歼日军350余人，彻底破坏铁路百余里，毁大小桥梁50余座。1940年7月9日奉令率部反击阎锡山军陈长捷部向太岳区安泽县晋家山的进犯，歼其2400余人。1940年8月至9月上旬率领太岳军区部队破击正太铁路西段、横扫寿阳至榆次间100多里的铁路沿线，予敌以沉重打击。继于9月2日又率部在昔阳县卷峪沟地区，与由榆社、太谷等地出犯日军激战；9月6日在和顺县双峰歼日军1个大队。1940年9月22日刘伯承师长签发《129师基本命令——关于榆辽战役计划》。23日至25日，率部强攻榆社县城，全歼守敌。敌在榆社放毒瓦斯，身临火线，中毒数次。1940年9月30日率部协同385旅在榆社红崖头、关家垴地区将由武乡东援之敌600余人包围。激战2日，歼敌300余人。1940年10月30日率部协同兄弟部队在武乡关家垴将日军岗崎大队500余人包围。歼敌400余人。在战斗中，772团第1连多次出击与敌进行反复肉搏，最后伤亡仅剩3人，仍坚持战斗。在总攻时，所属部队协同友邻向关家垴阵地之敌连续攻击18次，与敌反复肉搏多次，表现了前赴后继、英勇顽强的战斗气概。

　　1941年3月敌人开始在华北推行“治安强化”运动，进一步实行军事、经济、文化、特务“总力战”，经常对解放区大举扫荡。1941年5月19日奉命率部向洪洞北侧同蒲铁路侧击，以配合晋南友军作战。1941年8月奉集总命令，以386旅、决死一纵队、212旅及决死二、三纵队一部组成太岳纵队，任纵队司令员兼军区司令员。1941年8月6日奉命组成太岳南进支队，开辟岳南抗日根据地。1941年9月晋冀鲁豫边区政府成立后，设立太岳行政公署。1941年10月3日日伪军3万余人，对太岳北部进行“铁壁合围”大扫荡。根据军区指示，率领太岳军民以游击战困扰敌人，将主力适时转到外线，乘敌疲惫懈怠，在安泽县疙瘩沟、沁源县将军沟，连续予敌以痛击。

　　1942年10月敌占沁源。1942年12月，指挥部队一部配合民兵围困沁源。