在倉促撤退、情勢緊急的情況下，唐生智對撤退雖然作了具體部署，但是由於種種原因，大多數將領並沒有執行他的突圍命令。
教導總隊總隊長桂永清，這位黃埔一期畢業的蔣介石「鐵衛軍」的指揮官，從衛戍司令部出來後，見街上混亂不堪，便驅車首先奔赴駐在城內的胡啟儒旅及直屬團、營指揮部。按照突圍命令，教導總隊應該在12日晚十一時由飛機場東側向高橋門—淳化鎮、溧水方向突圍。但桂永清在傳達撤退命令後，卻命令部隊向下關、三汊河各自集結，用一切可以渡江的辦法橫渡長江。隨後，匆匆趕回富貴山地下室指揮部，向參謀處長萬成渠、副官處長余易麟等指揮部人員傳達了撤退命令，收拾、燒毀了一些文件，便匆匆對參謀長邱清泉說：「我們一同馬上走吧！」
當時教導總隊大部分兵力尚在紫金山、光華門一帶與敵人激烈戰鬥，邱清泉覺得應當及時通知這些部隊，便冷靜地說：「你先走吧！我暫時留下來，再和各個部隊通話聯繫一下，研究一下撤退的辦法。」
「那也好，那也好，你處理好以後，趕快到三汊河來！」說完，桂永清帶著副官處長余易麟和幾名衛士，急急忙忙離開地下室，向三汊河奔去。
三汊河邊，教導隊工兵團團部。
桂永清帶著副官、衛士匆匆趕來，向團長傳達了撤退的命令，隨後命令工兵團全力以赴趕扎木筏、木排，以便教導總隊官兵由此北渡長江。之後桂永清帶著副官、衛士登上工兵團扎的一張木筏，乘夜間向浦口划去。風寒、夜黑、人多，木筏在激流中顛簸著緩緩向北岸划去。坐在木筏上，桂永清慶幸自己脫離了險境，至於部隊，有參謀長在那裡安排，能過來多少算多少，此時此刻，能把指揮部人員帶走就算不錯了。
零時左右，木筏終於靠近浦口下游的蘆葦岸邊，慘淡的月光下，如人高的蘆葦在寒風中瑟縮，污泥淤積的江岸，顯得既鬆軟又寬厚。桂永清見平安抵達浦口，長長舒一口氣，便站起身來帶頭跳上岸去。豈知這種淤積泥土含水量多，人剛落地，雙腳馬上往下沉，愈陷愈深，衛士們慌忙把綁腿解下來，才把桂永清拖上筏來。木筏只好改向浦口鎮划去，上岸後既找不到汽車，也沒有馬匹，桂永清也只好和士兵們一樣，步行向滁州方向而去。
當桂永清坐上木筏渡江北撤的時候，他的副總隊長兼第一旅旅長周振強正在紫金山指揮部隊和敵人激戰之中。此時敵我雙方已在紫金山主陣地第二峰進行反覆的爭奪戰。夜晚十時，周振強站在紫金山一峰旅指揮所瞭望，發現城內幾處起火，急忙向總隊搖電話，電話已搖不通，知道情況嚴重，急忙派人到總部去打聽。不久，參謀馬連桂報告說：八十八師的雨花台陣地已經失守，已有小股日軍沖入中華門內，粵軍鄧龍光部隊正紛紛開出太平門。
周振強當即召集部分軍官緊急商議決定，將部隊撤出陣地，具體行動計畫是：第三旅旅長馬威龍率本旅隨粵軍鄧龍光部隊一起突圍；工兵團團長楊厚燦率本團趕到煤炭港、燕子磯之間，迅速準備渡江器材；騎兵團團長王翰卿率本團佔領煤炭港一線擔任掩護；第一團團長秦士銓率本團為後衛。從深夜12時開始逐步從陣地撤退，到煤炭港、燕子磯一帶集中準備渡江。
周振強於當晚一時許到達煤炭港，見江邊上混亂、擁擠不堪，便率領特務營100餘人坐鎮江邊指揮渡江，至13日上午，自己才登上渡江木排。這時日本軍艦已突破烏龍山長江封鎖線，來到下關一帶江面，用機槍對著渡江官兵瘋狂掃射，情況甚為悲慘。
周振強帶領教導隊第一旅官兵，坐在一隻匆忙紮好的簡陋木排上，在驚濤駭浪上顛簸著，穿過敵機、敵艦的瘋狂掃射，終於到達了長江北岸。
然而，還有許多接到命令或沒有接到命令的部隊，在倉促撤退時境況就更為悲慘了。教導總隊第三團團長李開西，撤退中把部隊帶向燕子磯三台洞江邊，經過一路混亂不堪的奔跑擁擠，部隊早失去掌握，到達江邊時身旁只剩下幾個官兵。李開西看到，江邊到處是黑壓壓擁擠的人群，激流滾滾的江面上，木柱、門窗、木盆等數不盡的漂浮物，順著江水向下漂流。激浪翻滾，人頭浮動，救命聲、嚎哭聲令人毛骨悚然！正在危急之時，一營長鄒蔚華報告說，他已用電線杆紮好了兩個木排，請團長一同過江，李開西這才得以脫離險境。他的團副彭月翔靠士兵給他的一個床架子，鋪上一條蘆席，漂到江中八卦洲，再由八卦洲覓船渡過了長江。最為悲慘的是教導總隊第一旅第二團團長謝承瑞。謝團長率領部隊守衛光華門，由於連日苦戰疲憊不堪，在隨著擁擠的人流通過挹江門時不幸摔倒，竟被混亂的人流踩死在挹江門邊！教導總隊參謀長邱清泉，留在總部處理好撤退事宜之後，發現情勢萬分危急，自己已經很難撤退離開南京了。於是急中生智，化裝打扮成平民百姓，和第四團團長睢友蘭、旅部中校參謀廖耀湘等人藏入了安全區難民之中。
比桂永清聰明的是七十四軍軍長俞濟時。俞濟時見戰爭節節失利，而唐生智又嚴令禁止任何部隊私留船隻準備過江，為防萬一，他向交通部長俞飛鵬要了一隻小火輪，偷偷停在浦口作隨時急用，這樣既不招人耳目，又給自己留下了後路。12日傍晚，他從衛戍司令部開會出來之後，立即奔向五十八師師部，傳達了撤退命令，又派軍部李參謀將撤退命令送給五十一師王耀武師長。隨後帶了五十八師師長馮聖法等一批人直奔下關江岸，登上自己早已準備好的小火輪，順利渡過了長江。好在他心裡還裝著自己的部下，過江後派軍部張副官隨船往返，負責接運自己的部隊，師長王耀武等大批官兵就是靠這艘小火輪撤退過江的。
五十一師師長王耀武率部隊退入南京後，擔任水西門一帶防守任務。12日下午，由於戰鬥異常激烈，他沒有參加衛戍司令部的會議。接到撤退命令之後，他立即命令周志道旅長率領一五一旅趕赴八卦洲附近扎木排過江，李天露旅長率一五三旅隨師部一道從下關附近渡江。登上長江北岸，王耀武清點人數時，發現三零六團團長邱維達還沒有過江，又聽說邱團長已身負重傷，便派師部副官主任趙汝漢帶領衛士班前往南岸，務必設法將負傷的邱維達團長搶運過來。
當時，三零六團正擔任水西門至中華門一帶城牆的防守任務。12日上午，邱維達正在城牆上指揮激戰時，忽然接到三營長鬍豪的報告，水西門與中華門之間，城垣突出部有一段被炮火炸開，敵人爬牆登城者已有一兩百人。邱維達極為緊張，立即命令三營組織敢死隊，與友鄰部隊夾擊，務必在一小時之內消滅突入之敵人。於是胡營長親自率領敢死隊向敵人衝去，一時殺聲震天動地。邱維達也指揮全團火力直接掩護，終於將突入城內的敵人全部肅清。然而，團副劉歷滋，營長鬍豪等眾多官兵，都在這場戰鬥中壯烈犧牲了。
晚上七時，三零六團接到師長王耀武的電話，命令部隊相機撤退。邱維達接到命令隨即召集營、連長在城牆上研究撤退方案，不幸被敵人流彈擊中，昏迷不醒，待他醒來時，已被擔架抬到下關碼頭。邱維達看到，下關一帶情形十分凄慘，到處是黑壓壓的散兵、傷員和難民百姓，輜重、車輛、行李和數不清的人群把沿江馬路擠得水泄不通。一會兒敵機從頭上投下幾顆照明彈，一會兒敵艦從江中掃過來一陣機槍，哭號聲、呼救聲、怒罵聲、怨恨聲攪成一片。看到這種情景，他心中不禁涌過一陣傷感，一陣悲哀。
擔架在江邊停留下來，副官和衛士分頭去找船隻。寒風凜冽，殘夜深沉，正在緊急時刻，忽然江中傳來遙遠的呼喊聲：「五十一師邱團長在哪裡？！」「五十一師邱團長在哪裡？！」……
大家屏住氣息細聽，原來喊聲來自煤炭港方向，於是擔架連忙向煤炭港奔去。來到煤炭港，只見江中停著一隻小火輪，喊聲便來自這小火輪上。由於江邊人群混亂擁擠，輪船不敢靠岸，離岸30米遠停住，用繩索拋過來系著邱團長，從水中拖了過去，這才得以離開險境。
比俞濟時七十四軍條件有利得多的是宋希濂的三十六師。宋希濂是湖南湘鄉人，黃埔軍校一期畢業生，當時任七十八軍軍長兼三十六師師長，實際上能指揮的部隊只有三十六師。三十六師在參加淞滬會戰後剩餘3000多人，於11月22日退到南京，在補充了4000餘人後參加南京保衛戰。師部奉命防守紅山、幕府山、下關、挹江門沿江一帶陣地，並負責看管南岸所有的船隻。
12日下午衛戍司令部緊急會議以後，宋希濂立即回到師指揮部，召集了獨立營長以上的部隊長官會議，對渡江北撤的事項作了具體安排、布署。然而在大批部隊散兵、難民湧向江邊，秩序極端混亂的時候，三十六師也無法順利渡江了，不但船隻接連被失去掌握的部隊搶掠而去，而且不少士兵被亂軍衝散失去聯繫，經過一夜奮力搶渡，到達浦口的也只3000餘人，不及全師人數的一半。
最糟糕的是七十一軍軍長王敬久，他在開完會議之後，只通知在明故宮待命的八十七師一部分隊伍，並沒有回