这次战斗后，彭雪枫出任红二师政委。在井冈山的第四次反围剿战役中，二师师长郭炳生欺骗红5团的北上投敌。彭雪枫不顾个人安危，率领15名精壮士兵前往追赶，连续五个昼夜，终于找到了红5团，并说服了全团将士南返，然后与陈毅率领的红军主力部队会师。彭雪枫的机智勇敢和不怕死的革命精神，受到自上而下的赞扬，中央授予他最高荣誉-红星奖章。

彭雪枫1934年10月参加长征。在长征的路上，彭雪枫一直在前锋部队工作，指挥红13团二渡赤水，然后又在娄山关战役中攻占了点金山，彻底打垮了娄山关的守敌。因而才有毛主席关于娄山关的那首传诵于史的“雄关漫道真如铁，而今迈步从头越”的伟大诗篇。从此，红军部队里有了大彭（彭德怀）、小彭（彭雪枫）的美称。

1941年“皖南事变”后，新四军在盐城重建军部，彭雪枫任新四军第四师师长兼政委，全师兵力有1.9万余人。蒋介石调遣30万军队，向华中抗日根据地进攻，向豫皖苏边区进攻的总兵力达到9个师，其中有两个骑兵师，敌我兵力成了7 : 1。自津浦路西线的两个月苦战中，新四军四师部队及津浦路西线地方党政机关共损失四千余人。这是继皖南事变之后，蒋介石反共顽固顽固派欠下人民的又一笔大血债。

同年4月，新四军四师奉命从津浦路西线转移到津浦路东。当时在津浦路东的国民党反动派气焰很盛，甚至于敌伪勾结，妄图把新四军四师部队及路东根据地打垮。新四军四师部队在军部的领导下，同年10月首战陈道口，俘获反动顽军800余人。第二年冬天，取得了33天反扫荡的胜利，粉碎了日伪军的扫荡。1943年3月，又在二师三师兄弟部队的配合下，取得了山头子反顽战役的胜利，捕获了苏北反动头子、江苏省主席韩德勤部下官兵千余人。这一系列战斗的胜利，沉重打击了敌伪军的反共气焰，从而巩固了津浦路东抗日根据地，并为进军津浦路西、恢复路西根据地创造了条件。