1945年日本投降后,国民党立即部署军队在徐州、郑州、潼关、包头等地沿津浦、平汉、同蒲、平绥4条铁路向解放区进攻,企图抢占城市,分割各解放区,并向东北运兵。11月,国民党继续向津浦路增加兵力。企图以尚未受降的日伪军作掩护,沿津浦路北进,首先控制宁、沪、杭及津浦路浦口至徐州段地区,尔后以徐州为前进基地,继续打通津浦线,进占华北和东北。
为此,中共中央决定:华中局和新四军军部北移山东。华中局与山东分局合并为华东局,统一领导华中、山东的全盘工作。中央军委还要求新四军以北移山东的主力和原山东军区的部分主力,迅速组成津浦前线野战军,在徐州、济南间组织战役,以控制津浦铁路,阻止国民党军北犯。
为了会同山东军区部队迎击由徐州北犯之敌,粉碎蒋军打通津浦线企图,新四军二师的四、五旅和四师旅,编成新四军第二纵队,由罗炳辉任司令员兼政治委员,先行入鲁,与鲁南八路军山东军区第八师等武装组成野战兵团,对国民党军发起攻势。
接到命令后,罗炳辉于10月底率部作为新四军首批入鲁部队抵达山东滕县东北的龙阳集结。此时,正值国民党军沿津浦、平汉铁路北犯,其中,由伪军改编的国民党第五路军吴化文部由徐州进至山东滕县。得知情况后,罗炳辉指挥二纵和山东军区八师,埋伏在津浦线界河车站至两下店车站之间铁路两侧,时间长达3天3夜,最近处距铁路几十米。由于采取了严密的隐蔽措施,敌人毫无察觉。
11月3日下午,二纵各部遵循罗炳辉的指挥,放过为吴化文部开路的日军,让吴化文部大摇大摆进入界河伏击圈。罗炳辉一声令下,二纵和八师各部迅速从公路两侧山上冲下来,分割围歼吴化文部。两个多小时激战,歼吴化文部4000余人,毙敌第二师师长贺芳以下官兵600余人,俘第六军军长于怀安和第三师师长许树声以下官兵3300余人,缴获大量武器弹药。4日,罗炳辉继续指挥部队乘胜向南扩大战果,向据守南界河的吴化文部第四师1个团发起攻击,歼其大部。
界河战役是罗炳辉到达山东后的第一个大胜仗,导致蒋介石沿津浦路运兵北上的企图宣告破产。战后,陈毅特别称赞罗炳辉是一个“天才的伏击战指挥员”。