十二月十二日下午十七时，南京卫戍司令部召集师以上将领开会，布置撤退行动。唐生智首先简要地说明当前战况，询问大家是否还能继续坚守，与会将领无一人发言。唐生智遂出示老蒋的命守军相机撤退的电令，即由参谋长周斓分发了参谋处已油印好的撤退命令及突围计划。
南京卫戍司令部突围计划的基本精神是大部由正面突围，一部随司令部由下关渡江。
但在书面命令分发后，唐生智又下达了口头指示，规定第八十七师、第八十八师、第七十四军及教导总队“如不能全部突围，有轮渡时可过江，向滁州集结”。
这就大大降低了命令的严肃性，也为不执行命令制造了借口，以致计划中规定的由正面突围的部队，除广东部队第六十六军及第八十三军之大部按命令实施突围外，其余各军、师均未按命令执行。
有口头指示为依据的部队，必然一起拥向敌人尚未到达的下关，以便迅速、安全地渡江北撤；许多未接到撤退命令的部队因发现友军撤退而撤退。虽接到命令而并不知道撤退计划详情的旅、团长们也都认为上级既然要军队撤退，在下关必然已准备好大量渡江工具，因而亦皆拥向下关。
自行决定由下关渡江的军、师长大多未按命令规定的时间开始撤退，而是在散会后立即部署部队撤退。有的单位在接到命令前即已撤走。
如卫戍司令部第2军团负责固守乌龙山要塞以掩护其他部队撤退和突围，应最后撤退，但徐源泉于十二日下午即率其第四十一师和第四十八师从周家沙和黄泥荡码头，乘坐其预先控制于该处的民船最早渡至江北，经安徽去江西整顿。
乌龙山要塞部队在徐源泉部撤走后，也于当晚毁炮撤去江北。有的将领只向所属部队打撤退电话，或回去安排一下撤退事宜就脱离部队，先行到达下关，随同卫戍司令部及第三十六师乘渡船先到江北。
如第七十一军军长王敬久、该军第八十七师师长沈发藻等根本未回指挥所；教导总队队长桂永清回到富贵山地下室指挥所后告知幕僚撤退任务，即留参谋长邱清泉处理文件等，自己单独先去下关；其第二旅旅长胡启儒得知撤退消息较早，不等会议结束，即以奉命去下关与第三十六师联系为由，电话通知其第三团团长代行旅长职责，独自先去下关。
由于城中各部队多沿中山路向下关撤退，而挹江门左右两门洞已，长谷川部队在南京中华门外准备总攻击经堵塞，仅中间一门可以通行，各部争先抡过，互不相让，不少人因挤倒而被踩死。
如教导总队第一旅第二团团长谢承瑞，在光华门阵地上曾英勇地抗击日军多次冲击，却在挹江门门洞内被拥挤的人群踩死。有的将领，如第八十三军第一五六师师长李江见城门无法挤过，就从门东侧用绑腿布悬吊下城出走。
下关情况更为混乱，各部队均已失去掌握，各自争先抢渡。由于船少人多，有的船因超载而沉没。大部官兵无船可乘，纷纷拆取门板等物制造木筏渡江，其中有些人因水势汹涌、不善驾驭而丧生。
因乌龙山要塞守军撤走，原停泊于草鞋峡、三台洞（燕子矶南）的“文天祥”鱼雷快艇中队也于十二日夜驰去大通，十二月十三日拂晓，日军山田支队未经战斗即占领了乌龙山；日海军舰艇通过封锁线到达下关江面，日军第十六师团一部亦乘舟艇进至八卦洲附近江面，大量正在渡江的中国军队官兵被日海军及第十六师团的火力和舰艇的冲撞所杀伤，宪兵副司令萧山令即死于半渡之中。
与此同时，日军各师已分由中山门、光华门、中华门、水西门等处进入南京城内；原在镇江的天谷支队已渡过长江，正向扬州前进中；国崎支队已至江浦，正向浦口前进中。已渡至江北的中国军队沿津浦路向徐州方向撤退。
十二月十四日，根据中国大本营的指示，唐生智在临淮关宣布南京卫戍司令长官部撤销，撤至江北的卫戍军部队改隶第三战区。南京保卫战基本结束。
从十二月十二日下午开始，南京卫戍军各部队撤退及突围的情况大致如下：卫戍司令长官唐生智、副司令长官罗卓英、刘兴及长官部官兵，十二日晚从下关煤炭港乘预备的小火轮渡江至浦口，得到日军已至江浦附近、正向浦口包围的情报，遂徒步向扬州顾祝同第三战区司令长官部靠拢。
十三日七时到达扬州时，顾祝同及第三战区司令长官部已移驻临淮关，临行时留下6辆卡车。唐生智等主要官员及卫队乘汽车至滁州转火车，于当晚到达临淮关。
在司令部渡江后，第七十八军、第三十六师亦于煤炭港分批乘船渡江，至乌衣集结，尔后乘车去蚌埠，又转信阳去江西萍乡整顿。
在叶肇及邓龙光两军长参加会议后，第六十六军及第八十三军（均为广东部队）共同研究决定：不遵守唐生智令第八十三军掩护其他部队突围后再于次日晨六时突围的命令，两军由叶肇统一指挥，按计划由正面突围，向指定地点转进，当即下令各师“按一六零、一五九、一五六、一五四师之顺序，由太平门突围，经汤山、句容向安徽宁国集中”。
十二日二十时前后，除一五六师因未接到命令外，其他三个师先后通过太平门，途经岔路口、仙鹤门、东流等地时，均遭日军阻击，第一五九师代师长罗策群率队冲击时阵亡。
拂晓前到达汤山附近时，又遭日军第十六师团主力的猛烈攻击。部队逐渐失去掌握，各自为战，数百人或数十人一队，分头向指定地点转进。叶肇、邓龙光与各自的部队失散，均换着便衣突过日军包围圈。
十二月二十日前后，各师大部分别到达南陵、歙县。第六十六军参谋处处长郭永镳在九华山一带收容失散的官兵约一千三百余人，临时编为三个营，一九三八年一月上旬，他们到达宁国附近归队。未接到命令的第一五六师师长李江率队与教导总队等一同撤至下关，部分官兵渡过长江，辗转归队。
南京卫戍军的其他各部，均于十二日下午和夜间拥至下关。第七十四军组织较好，又掌握有一艘小火轮，约有五千人渡过江北，其余部队仅有一部得以渡江，大多留在江南，遭日军杀害。