就在贺龙这里正在想办法打退敌人的反扑时，远在南京的国民党发生了一件比较大的事情。
老蒋在去年与宋美龄结婚后，便迅速的得到了宋氏家族的支持，而且与日本也达成了协议。与此同时，国民党内部也陷入内斗之中，很多国民党内的元老都不满现状，于是一心北伐的冯玉祥等便邀请老将回来整顿乱局。
1928年1月，卷土重来的蒋介石重新上台，复任国民革命军总司令职务。为了提高自己的地位，巩固其在国民党内的统治地位，虚伪的老蒋打出了“继续北伐”的旗帜，打算把自己装扮成继承孙中山先生未竟事业的首领，从而可以“理直气壮”地号令天下，让国民党的各个派系听其指挥。
随后，蒋介石以“北伐”的名义，对国府的几大主力军队进行了重新改编。老蒋把参加北伐各军编为四个集团军，自己兼任第一集团军总司令，以冯玉祥（西北军）、阎锡山（晋绥军）、李宗仁（桂军）分任第二、三、四集团军总司令。全军总司令由蒋介石担任，参谋总长则是何应钦。
至于北伐的路线也是根据自己军队所处的位置来定的。老蒋的嫡系第一集团军从江苏、浙江沿津浦线北进；冯玉祥的西北军则从河南、陕西出发，沿着津浦、京汉两线间的鲁西和直隶（就是今天的河北）南部向北推进；阎老西的晋绥军由从绥远、山西出发沿着京绥、正太两线向东攻占直隶；李宗仁的桂军从湖北以及江苏出发沿京汉线、京浦线北上，最后四路大军一起围攻重兵防守的京津地区。参加二次北伐的军队，大约有70万军队，而此时被北伐的对象----奉系军阀张作霖的“安国军”，能参与作战的兵力只有40万，在兵力上北伐军占了不少优势。
1928年4月7日，老蒋下令北伐军全军出击，正式北伐。同时老蒋的第一集团军在徐州快速朝山东进攻，先后拿下台儿庄、滕县、莱芜、泰安，大军直逼济南。
就在北伐军里面老蒋的第一集团军进入山东之后，便发生了一件令国人愤恨的事件---济南惨案。为了阻止中国政府的继续北伐，缓和奉系军阀的压力，日军便直接出兵，并突然袭击第一集团军一部，造成了大量军民死伤。至于日军为什么会出现在济南，除了日本本身的侵略性外，还有军阀引狼入室。
当时奉系军阀里负责防守济南的是有名的狗肉将军张宗昌，他自知自己的兵力肯定守不住济南，在得知日军在胶东有着不少军队，于是张宗昌就准备‘引狼入室’了。