虽然在半路伏击阿巴泰带领的清军援军计划落空之后，但既然将清军给引出来了，就决不能把清军放走，伏击不成，那就攻为围歼，因此周少桓一面下令，首先让七旅在南驿阻击阿巴泰部，同时也马上开始重新布置围歼阿巴泰部的计划。
第一步周少桓命第九军特种兵旅，由小道绕过清军，去袭取泰安，首先切断阿巴泰部的退路；接着又命第五军第八师，第十师，第九军第十四师分别进驻高家店、三王庙、郭家堂，孔村、袁家村等地，对阿巴泰部形成围攻之势，又抽调了二个骑兵团，作为预备追击兵力，再加上阻击的七旅，中华军己经出动三个师、一个旅、二个骑兵团，总兵力己经达到了四万三千左右，因为围歼战不同于其他战斗，必须要有超过敌军的兵力，才能将敌军围而歼之。
另外周少桓也考虑到，兖州城里的李率泰部，有可能会杀出城来，与阿巴泰部汇合，这样一来，围歼阿巴泰部的计划，就有可能出现变数。现在驻守兖州城外的兵力只有十二旅、二十七旅，牵制李率泰部有余，但想将李率泰部困在兖州城里，兵力还有所不足，因为还必须防备李率泰不离阿巴泰，向西南逃跑，逃进河南境内。
因此周少桓又下令，将驻守济宁州的四旅也调来参战，把济宁州移交给反清的起义军守卫，同时也出动郑成功部的人马，合围兖州城，又给他们配备了一个骑兵团，接应预备队。作为这样一来，围攻兖州的兵力也超过了三万八千左右，足以将清军堵在兖州城里了。
三天之后，周少桓收到特种兵旅发回的报告，泰安己经被特种兵旅成功攻取，而这时中华军的其他各路人马也都全部到位，于是周少桓立刻下令，两处同时向清军发动进攻。并且在战前也发下了动员令，告诉全军的士兵，这是取得山东战役胜利的关建一战，要求全军都要努力作战，争取多歼灭敌军。
围攻兖州的战斗是由第十军的军长章一平指挥，因为在围攻兖州的部队中，以第十军的部队最多，有两个旅和一个骑兵团。
接到周少桓的命令之后，章一平立刻做出了进攻兖州的计划，其实进攻的方案很简单，因为现在兖州的清军放弃了所有的外围阵地，全部都撤进城內防守，因此这个时侯也没有什么计策，直接攻城就行了，于是章一平也下令由四旅、十二旅、二十七旅以及郑成功部各攻一门，自己带领骑兵团，四面接应。
命令下达之后，三个旅和郑成功立刻出兵，将兖州城团团围住，向四门发动进攻。
虽然在攻城之前，章一平并沒有眀示，但各路人马互相之间，也都存在着比试的心里，当然都希望自已能够第一个攻克兖州的部队。也包括郑成功在内，这一次他被调入山东作战，但在前期中华军都是在调动清军的兵力，并没有和清军全面开战，因此郑成功部人马也一直没有得到出战的机会。现在终于等到了出战的时候，郑成功自己也希望自己能够有好的表现，这样才不付盟军之名。
因此在攻城战开始之后，各路人马都十分勇猛，枪声大作，炮声轰鸣，就是在城里也能听得清清楚楚。
而这时李率泰也不仅大为后悔，因为中华军围困了兖州半月有余,一直都沒有来攻打兖州,而是把主要的目标放在打击阿巴泰部的援军身上。一开始李率泰还有些紧张，但时间长了，也就稍有些安下心来，认为中华军在消灭阿巴泰的援军之前，是不会来进攻兖州。而阿巴泰一时半会还能撑得住，自巳暂时到不用担心，因此也把主要的精力放在怎样逃出兖州上。是向北冲出兖州，与阿巴泰汇合，还是向南逃进河南或者是徐州去。
那知中华军是同时对城外的阿巴泰和兖州城发动进攻，结果李率泰也是又悔又怕，要知道是这样，就该早一点杀出兖州，不管是向那个方向逃走，也总比困在城里坐以待毙强。但现在兖州的四门都被中华军堵住了，想逃也逃不出去了。
不过己经到了这个地方，也没有别的办法，只能先坚守城池，等多撑一天是一天，因此李率泰也下令，分令陈锦、夏成德、夏景海、吴朝佐等人各带三千人镇守兖州四门，务必要坚守住城池。
虽然说清军守城的兵力也不算，但缺少火器，毎个门只有二百名火铳兵，三门火炮，这么一点力量当然是不够的，别说是中华军的三个旅，就是郑成功部的人马，也有一千五百多支火枪，三十余门火炮。因此在战斗一开始，四个城门的清军都被中华军或郑军的火力给牢牢压制住，只能躲在城垛口下面，根本就不敢露出头来。
而各路人马也都在火力的掩护之下，趁机发动地面进攻的部队，开始向城墙发动进攻。中华军的三个旅分别都推出装满火药的爆破车，渡过护城河，靠近城墙，将爆被车靠在城墙边上，点燃引线。
在兖州城的东、西、北三面先后都发出了震天的巨大爆炸声，三声爆炸的前后相差还不到十五分钟。兖州城东、西、北三面的城墙都被炸出一个大豁口来。
不过由于各自所选的地段不同，爆破车摆放的位置、角度也不同，因此爆破后的结果也都不尽相同。
西城爆破的效果最好，虽然西城的爆破是第二个完成的，但将城墙炸开了一个十余米宽的大口了，而且裂口底部离地面不足一丈，而且散碎的砖石差不多就已经堆到和裂口一样的高度，地面进攻部队不需要借助任何的帮助，就可以直接通过裂口，杀入衮州城中。因此付责进攻西门的十二旅也立刻派出二十三连,做为突击队，抢占缺口。
守卫西门的清将是陈锦，在爆破之后，虽然他也被崩裂的碎石砸伤了七八处，但还是立刻组织兵力，想要封堵缺口，但这时己经来不及了，因为突击队还没有达到缺口的时候，首先向缺口里面扔出了十几颗手榴弹，将冲上来封堵缺口的清兵炸得死伤一片。而其他的清兵见状，自然也都不敢上前来了。因此突击队员一个一个从缺口中杀入兖州城里，和清军展开了激战。
随后，十二旅的后续部队也都陆续通过了缺口，攻进兖州城里，守卫西门的清军本来士气就不高，中华军大量从缺口杀入城中之后，顿时抵挡不住，纷纷向城里败逃。而十二旅攻占了西门之后，也立刻向城里展开。
而由四旅付责进攻的东门，是第一个完成爆破的，但爆破的结果并不理想，尽管也将城墙炸开，但缺口离地面还有两丈多高，虽然在缺口处也有碎砖裂石可以直通，但在突击队向缺口发动突击的时候，有两颗手榴弹并没有扔进缺口里，而是落到缺口外面的碎砖裂石上，结果在爆炸之后，反面造成了缺口外面的碎砖裂石再度塌陷，突击队的战士们不得不搭起人梯，才能够冲上缺口。
但这样一来也就给了清军一线时间，结果几十分名清军的火铳兵趁着这个空隙，冲上来守住了缺口，并对突击队开火射击，突击队一下子被清军打死了二十余人。
好在是在后面掩护突击队的中华士兵们也立刻向清军开枪射击，在双一阵激烈的对射之后，清军的火铳手终于坚持不住，被打得死伤过半，剩佘的退进了城里，将缺口让开。四旅趁机发动第二次击攻，终于成功的突破了缺口，杀进兖州城里。结果算起来，比十二旅还是慢了五分钟。
二十七旅付责进攻的北门爆破，虽然比东门、西门都晚一些，但爆破后的突击也进行得比较顺利，在二十分钟之后，也成功的攻入了兖州城里。
在中华军发动对兖州城的进攻开始之后，不到二个小时的时间，兖州城的东、西、北三门都被中华军突破了。
只有进攻南门的郑成功部的进展慢一些。虽然郑军一开始压制住了清军的火力，但郑军不会使用爆破战术，因此接下来还是用云梯攻城。结果在郑军开始攻城之后，炮兵和火铳手也都停止了开火。这一来守城的清兵却可以据城防守，和攻城的郑军展开激战。
虽然这时郑军都己经接近到城垛口附近，但清军毕竟占据了城头，因此在短时间内，还无法攻开南门。而郑成军也知道其他三门己攻开，急于攻破南门，在城下不住的催战。一时之间战事僵持不下。
不过这时兖州的东、西、北三门都被攻开，消息传到了南门之后，守卫南门的清军顿时军心大动，也在无心守城了，纷纷败退。而郑军趁机向城头发动猛攻，终于登上了城头，打开城门，郑成功立刻率领大军，杀入城內。虽然比其他几个门要晚了差不多一个小时，但兖州城的四门，全部都被攻开了。