江陰失守後，隨著日軍步步逼近南京，烏龍山炮台也一直處於最前線。由於炮台被賦予的主要任務是「用火力阻止江面西進敵艦」，故而烏龍山炮台在對揚子江的封鎖作戰及阻擊日本海軍第3艦隊上起到了至關重要的作用。由於甲一台與龍台的炮火壓制使得長江上的日本兵艦一度只得停留在炮擊射程之外。
在南京守城戰開始的前幾天，南京衛戍司令部又在龍台、虎台、甲一台、甲二台之上增設了「龍虎總台部」，黃永誠上校為總台長，總台副趙勛少校，以便統一指揮。然而12日下午戰況惡化後，雖然江面無變化，日本兵艦仍在炮台最大射程以外逗留，但由於南京東、南方向的防禦陸續被攻破，加之日軍第16師團一部已越過甲一台的後背直撲南京城。烏龍山一帶守備部隊第2軍團徐源泉部已退到烏龍山後心腳下。烏龍山炮台也就成了危局之地。
隨著徐源泉部撤走後，烏龍山要塞部隊也開始準備毀炮撤去江北。黃昏時分，龍虎總台台副趙勛來到甲一台，告知部隊「總台長已過江偵察陣地，同長官部也失去聯繫」。此時夜幕將臨，東南方的槍聲依然激烈，部隊一時沒有辦法。而趙勛只是要部隊「以保存人力為主，相機撤退到武漢要塞科報到」，說完便自顧自地下山去了。
很多參加衛戍長官部會議的將領都和烏龍山炮台總台長黃永誠上校一樣，只向所屬部隊打撤退電話，或回去安排一下撤退事宜就脫離部隊，先行到達下關，隨同衛戍司令部及第36師乘渡船先到江北。除教導總隊和各部第一線部隊還不知道情況外，其他消息靈通的各軍師的後勤人員早已焚燒文件、物資，收拾起自己的緊要東西，奔向下關。
第71軍軍長王敬久、該軍第87師師長沈發藻等根本未回指揮所，教導總隊桂永清開完會，首先奔赴駐於城內的直屬團營和一個旅指揮所，傳達了撤退的決定，要求：「各旅、團以及少數部隊作掩護，其餘分向下關、三汊河各自集結，用一切可以渡江的辦法，橫渡長江。除隨身輕武器外，其他重武器、笨重裝備、糧食、物資等，全部銷毀。」
這時，有些部隊已先行動，又傳中華門已失守，城內秩序大亂。桂永清回到富貴山地下室後，在參謀長室召集參謀處長萬成渠和副官處長余易麟，說明情況後，即令副官處人員撤到三汊河等地，並指示參謀處只攜帶少數重要文件，其餘全部銷毀。吩咐完畢，又向參謀長邱清泉說：「我們一同馬上走吧！」當時，紫金山主陣地的戰鬥，仍很激烈，光華門的謝承瑞團還在竭力反擊日軍的進攻。
「你先走吧！我暫留下，再和各團、營通通話，研究一下撤退的辦法。」邱清泉依然站著理他面前的一堆文件，冷靜地對他說。「那也好，處理好後，你趕快到三汊河來。我們到達江北後，還要組織收容工作。」桂永清說完，立刻帶領幾名衛士和余易麟慌慌張張地離開了地下室，向三汊河奔去。
桂永清走後，邱清泉叫衛士把一堆文件拿去燒掉，靜坐在電話機旁，一支接一支抽著煙，有時兩眼微閉，若有所思樣。參謀處長萬成渠則吩咐屬下將機要文件和地圖，必須燒了才能走。而作戰課的底稿、地圖又多，只得邊查邊燒，以至於富貴山地下室內不是焚燒文件的煙灰就是飄舞的紙張。
教導總隊第2旅旅長鬍啟儒得知撤退消息較早，不等會議結束，即以奉命去下關與第36師聯繫為由，電話通知其第3團團長代行旅長職責，獨自先去下關。可當第3團團副彭月翔和旅部聯繫，方知胡啟儒旅長已不在旅部。打探各方情況，才知部隊已經撤退，城內軍民一片混亂。團長李西開果斷決定，即命令把指揮所轉移到廖仲愷墓地南端的團預備指揮所重掩蔽部內，繼續指揮戰鬥。
持續到夜八時半，李西開和彭月翔正在議論戰局，商討打算，第6團團長劉子淑、第1團團長秦士銓也先後來到第3團指揮所，打聽今後如何行動。李西開詢問了他們的作戰情況後，即將地圖展開，四人坐在掩蔽部內，商討今後的行動問題，李西開首先提出：「當前主將都棄城潛逃，城內軍民一片混亂，我們孤立作戰，很難堅持下去。只有兩條路可走，或者突圍，或者北撤。如突圍，可出太平門外徐墳、岔路口向棲霞山北突出重圍，而後沿九華山在句容、天王寺、溧陽之間越過京杭公路，到諸鎮後再向皖南轉移；如北撤，先到燕子磯一帶地區找船隻過江。」接著徵求眾人家意見，「你們看哪條路好些？」
秦士銓認為手下無兵，無力突圍，還是北撤為好；劉子淑認為部下都是上月接來的新兵，未經訓練，毫無作戰經驗，還是找船過江為宜。大家都傾向於北撤，於是決定北撤過江。李西開即用電話向各營下達了撤退的命令，這樣一直在城東方向抵抗日軍的教導總隊隨即崩潰。
這個時候，天色已經完全黑下來，到處都是混亂的情況。水西門方面的74軍也開始後退，軍長俞濟時見情況緊急，立即派軍部的李參謀把命令送51師，並囑王耀武立即組織51師殘部設法過江，過江後到滁州車站附近集結。接到命令之後，王耀武當即令周志道的第151旅到八卦洲附近綁紮木排過江，李天霞第153旅及師直屬部隊至下關設法渡江，過江後到滁州車站附近集結。同時在全軍撤走時，在賽虹橋陣地留下了一支殿後的小部隊——302團第1營的剩餘官兵，在營長的率領下，就以此為主陣地掩護主力部隊。
下達命令後，王耀武立即率師部人員經城內中山路向挹江門前進，然而途中卻遇到第36師宋希濂部的阻擋。面對著湧來的潰兵，36師不斷地開槍射擊，子彈由人們頭頂上空颼颼飛過。向挹江門行進的潰兵看到這種情形，有的主張與36師對打；有的說沒有叫敵人打死，而被自己的部隊打死了，那才冤枉。到處都是一片混亂，看無法由馬路通過，又怕耽擱時間多了過不了江，王耀武立即率部繞道向挹江門走去。在整個南京城內到處都是爆炸的聲音，馬嘶人嚷，傷兵叫喊，亂騰到極點。由於各部隊遺棄的傷兵很多，其中勉強能行者，也拄著棍子向下關前進，一面走一面罵。
由於城中各部隊多沿中山路向下關撤退，而挹江門左右兩門洞已經堵塞，僅中間一門可以通行，各部爭先搶過，互不相讓，人多門窄，極為擁擠，甚至有潰兵被擠倒踩死的，到處都是一片混亂。教導總隊第1旅第2團團長謝承瑞，在光華門陣地上英勇地抗擊日軍多次衝擊，卻在挹江門門洞內被擁擠的人群踩死。第83軍第156師師長李江等人見城門無法擠過，就從門東側用綁腿布懸吊下城出走。
下關情況更為混亂，各部隊均已失去掌握，各自爭先搶渡。由於船少人多，有的船因超載而沉沒。大部官兵無船可乘，紛紛拆取門板等物製造木筏渡江，其中有些人因水勢洶湧、不善駕馭而喪生。因烏龍山要塞守軍撤走，原停泊於草鞋峽、三台洞的海軍「文天祥」中隊的4艘魚雷快艇中隊也趁夜色馳去大通。
孤獨地坐在昏黃的燈光下，衛戍司令長官唐生智的心情極其複雜。儘管此時外面已然亂如一鍋粥了，但卻沒有人願意跑到地下室外面去處理這樣的慌亂，陰寒不堪的掩體內充斥著一股壓抑的味道。沒有暖氣，甚至就連足夠的電力也供應不上，這在南京城12月寒冷的冬季里是件令人痛苦的事情。但相比於這些，糟糕的戰局更讓唐生智憂心不已。
燈光再一次黯淡下來，外面作戰司令部的參謀們發出陣陣抱怨的咒罵聲。日本軍發起攻勢到目前為止已經過去了快12個小時了。在這12個小時內，南、東、東南三線的守軍部隊一潰再潰，幾乎不成建制，城垣多處被突破。相比來說，中華門戰線的作戰部隊還要好些，至少74軍和部分第88師的士兵和軍官們都還知道如果他們不能夠抵擋住日軍的攻勢，那麼整個南京的防禦都將徹底完蛋。
南線的防禦，大概可以用「糟糕透頂」來形容了，中華門守軍在日本人的進攻下損失慘重。撤退命令剛下達，所有的防禦就垮了，軍長、師長和他們的部隊趁著夜色匆匆退往下關。雖然這時候，失去統一指揮的各部隊並沒有混亂就當即潰敗，但也距離全面潰撤為時不遠了。
尤其是日本人已經開始進城的消息在下面流傳開來的時候，南京守軍各部隊就幾乎已經喪失作戰意志了。無論是軍官還是士兵都紛紛地丟掉了他們手裡的武器，一個勁頭地向北潰逃，而日軍發起的攻勢更是加深了那些「潰兵」們的恐懼心理。
即便是沒有親臨到戰場，唐生智也知道接下來會發生什麼事情。光華門一線防禦當面的87師僅僅抵抗了不到1個小時，便因為遭到重大殺傷，而失去了主要防禦陣地，被迫向二線退卻轉移。部隊完全地喪失了鬥志，成為了待宰的羔羊。從中華門、光華門往北，到處都是撤退的洪潮。
沒有軍官的彈壓，沒有長官們的呵斥，無論是士兵還是下級軍官，所有人都只想著一件事：那就是逃，逃得越遠越好。左翼失去了第87師的掩護，右翼的第74軍也跑了，正在中華門和日軍爭奪的88師一部也不得不撤離自己的陣地，這更加擴大了