臨沂城內的戰鬥大約只持續了一個多小時，以張里元部混進臨沂城的部隊被全部逐出而告結束。
戰後的臨沂城裡，連空氣中都瀰漫著一股血腥氣。
王吉文沒有讓部隊出城追擊那些倉皇奔逃的潰兵，因為他沒有時間去抓那些俘虜了，他需要迅速整編臨沂城中的隊伍，充實防守力量。張里元能想出派幾千人偽裝難民混進城內，就一定不會善罷甘休，他是看準了臨沂城裡兵力空虛這才祭出殺招的，說不定他的主力正向臨沂城跑步前進呢！
結束城內戰鬥後，王吉文和趙鎛幹了四件事：第一件事是命令五營的工兵帶領民兵出城，在西門、北門、東門和南關城門外布設地雷、土地雷、炸藥包，能埋多少是多少。王吉文心裡清楚，張里元部和吳化文部都沒有炮，頂多也就是有一些迫擊炮，數量也不會多。他們攻城的話，那一定是要在四個城門上動腦筋，靠人多的優勢來強行衝擊。這些地雷、土地雷、炸藥包能起到密集殺傷敵人、遲滯敵人進攻的作用。第二件事是下令打開軍火庫，給臨沂中學、職業學校、臨沂師範的師生分發武器彈藥，按照平時軍訓的編組，組成部隊參戰，協助守城。第三件事是下令行署、縣政府幹部在臨沂居民中進行動員，臨沂城內凡是上過戰場、受過軍訓的一律向各機關報到，領取武器彈藥，由軍區、行署、縣政府幹部率領，參戰守城。第四件事是下令動員居民組成戰場救護隊、擔架隊、運輸隊，負責運送彈藥、搶救傷員。
早在日軍第二次重兵掃蕩山東的時候，劉一民就下令山東全境全部動員，所有複員軍人必須向八路軍和各級抗日政府報道，接受編練司令部訓練，參加反掃蕩戰鬥。八路軍又相繼制定了一系列獎勵民眾參加抗日的政策，像魯東南、魯西、泰沂中心根據地這些鞏固的根據地，民眾動員訓練機制已經非常完善，要是魯西、魯東南、泰沂中心根據地還有14歲以上的人不會打槍投彈，那就奇怪了。
教五旅自泰西戰役結束徹底收復臨沂以來，司令部一直駐紮臨沂，按照師部編訓民兵、動員民眾辦法，在臨沂地區廣泛進行軍事訓練，一旦發生大的戰役，就可以迅速編組預備部隊，拉上前線投入戰鬥。張里元他們不知道八路軍根據地已經成了銅牆鐵壁，就敢偽裝偷襲，註定是要碰的頭破血流的。
王吉文這樣做，是要動員臨沂城裡所有的力量參與守城，彌補兵力不足缺陷，確保牢牢守住臨沂城。
臨沂城裡的老百姓自從抗戰爆發後也只有八路軍進駐以來才算是過上了安穩日子，再也不願意讓臨沂城丟失了。剛才，闔城百姓都已經參加了驅逐張里元部的戰鬥，如果讓張里元部攻陷臨沂城，那後果大家心裡都清楚。因此，幹部們的動員很輕鬆，時間不長，就組織起了5000多上過戰場的複員軍人和受過八路軍訓練的預備兵員，進行簡單編組後，拉上了城牆。這樣，加上臨沂中學、技術學校、臨沂師範的師生，短短時間內，王吉文就在臨沂城內動員起了人數超過6000的守備力量。
本來，王吉文可以把留守臨沂的主力新十四團五營打散和這些人員混編，提高整體作戰能力。但是王吉文沒有這麼做，他打仗打老了，知道手頭握有一支由精銳組成的骨幹力量是多麼重要。他讓五營把庫存的擲彈筒、迫擊炮、飛雷炮和輕、重機槍全部拿出來，全營變成火力支援營，在城牆上建立陣地，支援四個方向的作戰。這種辦法，也只有倡導一專多能的八路軍教導師的主力部隊能夠做到，換做其它任何部隊，包括一一五師都做不到。因為步兵改炮兵和機槍手，那都是要經過一定時間訓練才行的。
臨沂城牆上，此時嘈雜的很。
那些上過戰場的複員軍人很沉穩，按照幹部們的命令，靜靜地趴在垛口旁，眼睛不帶一絲感情，望著城外遠遠而來的火把隊伍。他們手裡的傢伙也趁手，幹部們分給他們的是一色的三八大蓋，射程遠，打的准。
拉上城牆的師生和由居民中徵召來的經過訓練的青壯年，雖然都經過訓練，但畢竟是初戰，激動、驚慌是必然的。加上手裡的傢伙五花八門，既有漢陽造、瀋陽造、捷克式、德國老套筒、法國九連登、俄國水聯珠，老套筒，也有老洋炮、章丘造、土壓五、單打一，還有獵槍土炮，都是教五旅在魯南地區收繳的，型號不統一，彈藥無法批量供應，都放在倉庫里，沒有裝備部隊，這時正好拿出來用上。只有手榴彈是魯南軍區兵工廠生產的，型號統一。
山東造槍的工匠多，一般都是利用菜窖或挖個地窖，找支步槍做樣本，弄截鋼軌，燒紅了，就丁丁當當砸起來，要是有台手搖銑床那就更好了。造槍最難的一道工序，是槍膛里的來複線，子彈最難的是底火。開始的時候工匠們造的槍比較粗糙，還有炸膛的，後來越造越精緻，與被仿造的槍支放在一起，簡直可以以假亂真。而且，盧溝橋事變發生後，山東地面冒出了數不清的草頭司令，這些人首先要解決的就是武器問題，大多數都辦有造槍、修槍的工廠、作坊。像魯中章丘的高松坡，就辦有一個500餘人的兵工廠，可日產步槍30支、機槍2挺、手槍3支、手榴彈200枚，月產迫擊炮6門。普集鎮大地主翟敏蔚，在淺井庄建立制槍廠，研造出轉盤機槍、捷克式機槍、擲彈筒，及各種步槍、手槍、子彈，自用並出售。當然，這些較有名聲的兵工廠大多數都被八路軍後勤司令部整編了。歷史上一一五師進山東，一年之間拉起七、八萬隊伍，主要就是因為山東民間槍支多、造槍的也多，孬好不缺武器。
這些師生和青壯年，先是比誰的槍好，接著就是按照軍訓時學習的套路，練習肩槍、據槍、瞄準，三點成一線。再接著是在幹部們指揮下整理子彈袋、手榴彈，然後就是練習壓子彈、拔槍口帽、上刺刀。
八路軍幹部們在進行緊張的戰前集訓，訓練對象是學校的老師和徵召的居民中的骨幹，這些都是臨時編組的班長、排長。八路軍幹部講的清楚，打仗就是靠班長的，班長要做到五勤：一是眼勤，全班的人都得瞅到，身姿高不高、位置對不對，都要及時調整。二是耳勤，不光聽到說什麼，還得聽到想什麼，情緒變化，一聲嘆息，都要問個為什麼，想方設法穩定同志們的情緒。只有情緒穩定了，才能瞄的准、打的准，才能不怕受傷、不怯陣。三是嘴勤，要當婆婆嘴，發現不對馬上指正。四是手勤腳勤，光聽光說不行，要手把手教。五是腦勤，手腳不閑，眼耳不閑，腦子也不能閑著。你得想問題，已經出現的不用說了，沒出現的、可能出現的問題也得想，得想明白。不然就是血的教訓。
八路軍幹部訓練完老師和骨幹，接著就是老師和骨幹照著八路軍幹部說的回去訓練自己的學生和弟兄：
「步槍零件多，簡單分三個，槍身、槍擊和槍托。」
「手榴彈，威力大，二、三十米達，殺傷人和馬。」
「軍人的標誌不是軍裝、軍銜，而是人與槍的結合，人槍合一。一個沒有槍的軍人，就像只沒牙的老虎。」
「穩住心神，三點成一線，瞄準了，聽口令放排槍！」
這是典型的臨陣磨槍。不過，這些人都有軍訓基礎，所差的只是戰場磨練。
到最後，臨沂師範的師生們率先唱起了老師文志遠創作的《好男兒》：
激昂慷慨，滿腔怒火，看日本一次次侵我山河。
瀋陽之變佔東北，淞滬之役民遭劫。
好男兒，前線死，大丈夫，身報國，看手中大刀一律新磨。
肥田要用敵人肉，澆地要用敵人血，平區區四島做原野，供耕作！
嘹亮的歌聲響徹夜空，一下子就把城牆上的人的心給吸引了，嘈雜聲變成了靜默，這些絕大多數從沒有上過戰場的師生和老百姓，心裡開始安定下來。
防務空虛的臨沂城，一下子就變成了眾志成城的堅城！
站在西門城牆上，看著遠處夜色中逶迤而來的幾支火把隊伍，王吉文知道真正的考驗就要到了，不用說，西面的是張里元的主力，北面的是吳化文的主力。
趙鎛告訴王吉文，洪司令的回電到了，教五旅主力、新五旅主力正向臨沂急行軍，洪司令命令王吉文擔任臨沂城防總指揮，指揮臨沂軍民堅守城防工事，務必守到主力趕回。騎兵旅胡旅長發來電報，我騎兵旅已經完成集結，開始從棗莊、嶧縣縣城、滕縣縣城三個方向向臨沂撲來。只有師長、政委現在聯繫不上。
王吉文一聽就說：「師長聯繫不上，說明他正在行軍途中，電台無法開機。看來，一定是師長、政委親自率領教一旅的機械化部隊回援臨沂了！哈哈，這仗打大發了！好，好好教訓一下張里元這幫不知天高地厚的傢伙，敢惹教導師！好！」
王吉文一連說了幾個好，高興得好像要過大年一樣。
趙鎛沒有王吉文那麼高興，痛惜地說：「好什麼好？又不是打鬼子？這張里元的腦子是不是發燒燒糊塗了，不去打小鬼子，卻打開了八路軍。看來，我們對張里元部作的工作全部失敗了。同室操戈，相煎何太急啊！」