1927年2月从苏联回到上海。1927年3月前往武汉，在北伐军第2方面军任特务营营长。1927年4月出席在武汉举行的中国共产党第5次全国代表大会。1927年5月在汉口与上海代表王根英结婚。1927年7月15日武汉的国民党叛变革命后，被迫将特务营交出。1927年8月1日参加南昌起义。1927年8月24日在贺龙同志的第2军第3师第6团第1营任营长，在会昌战斗中左腿负伤。1927年10月起义军撤离潮汕后，经香港转往上海，进牛惠霖骨科医院治疗腿伤。

　　1928年-1932年，化名王庸，在上海中央特科工作，同国民党反动派进行隐蔽斗争。并在1931年6月由中央特科派往天津工作。

　　1931年9月被派往鄂豫皖红色区域，任中国工农红军第4军第13师318团团长。1931年11月7日，红四方面军成立，被凋任第12师师长。1931年11月至1932年5月率部参加鄂豫皖苏区第3次反围剿作战。

　　1932年6月率部参加鄂豫皖苏区第4次反围剿作战。1932年9月调任红四方面军参谋长，在新集西北胡山寨战斗中右腿负伤。1932年10月红四方面军主力离开鄂豫皖苏区，行至豫南地区，离队潜往上海治伤。1932年11月到上海又进牛惠霖骨科医院治疗腿伤。1932年在上海中央局揭发张国焘的错误路线。并曾两次会见鲁迅先生，讲述鄂豫皖苏区军民的斗争事迹。

　　1933年3月24日在上海被捕。1933年5月从南京逃出，被派往中央红色区域，任红军第1步兵学校即彭杨步兵学校校长。

　　1934年10月随中央红军长征，任红军干部团团长。

　　1935年5月1日率干部团巧渡金沙江，一举飞越皎平渡。1935年8月红军干部团与红四方面军红军大学合并，调任红一军团工作。1935年9月，红一、三军团在甘肃哈达铺改称陕甘支队，任第13大队队长。1935年10月19日中央红军到达陕北吴起镇，任红军第十三团团长。1935年11月率部参加直罗镇战斗，第3次负伤，弹穿左手拇指。1935年12月任红军第一师师长。

　　1936年3月红军东征，率部进军山西，转战同蒲铁路沿线。1936年6月率部回陕北后参加西征，协同兄弟部队解放甘肃、宁夏地区。1936年10月8日红二、四方面军进抵甘肃的静宁、会宁地区，结束长征；并在会宁城关与红一方面军会合，实现了中国工农红军三大主力会师。1936年11月率部参加山城堡战斗。