1939年冬，徐向前、朱瑞与山东纵队政委黎玉等合影

徐向前、朱瑞就职通电

徐向前在山东期间，对于领导山东抗日斗争和山东纵队正规化建设做出了重要贡献。1940年6月徐向前离开山东去延安。

　　　中共中央军委和八路军总部为统一指挥山东和苏北地区的八路军各部队，决定组建八路军第一纵队。1939年8月1日，第一纵队正式成立。徐向前和朱瑞分别任司令员和政治委员。10月，八路军第一纵队机关和山东纵队机关合署办公，徐向前和朱瑞以第一纵队的名义直接指挥山东纵队所属部队。1940年6月，徐向前返回延安。1941年1月，八路军第一纵队番号取消。在八路军主力部队入鲁作战的同时，山东纵队在鲁中、鲁东南、清河、胶东等地大力开展游击战争，扩大了根据地。山东纵队在扩展根据地的斗争中也发展了自己。到1940年秋，纵队下辖4个旅、4个支队和两个直属特务团，共计5.4万余人。为适应抗战形势和发展、巩固抗日根据地的需要，山东纵队根据八路军总部的训令，自1939年2月开始，先后进行了五期整军，促进了山东纵队的正规化建设，提高了战斗力。中共山东分局和山东纵队高度重视地方武装和人民武装建设，自1939年底，山东抗日根据地武装自卫团已达10万余人，地方武装也有所发展，战斗力逐渐提高。