日军以绝对优势的兵力，向奉军其余堡垒不断发起进攻。奉军虽顽强抵抗，但仅配备了3门野炮、1门速射炮，在日军的12门山炮轰击下，寡不敌众。上午8时，清军的城外堡垒全部丢失。日军重新部署兵力，分三路进而攻击牡丹台。牡丹台虽然配备有野炮、速射炮 和七连发步枪，火力较强，但日军的炮兵集中火力猛轰，摧毁清军速射炮及掩蔽墙，清兵多杀伤。日军步兵乘势蚁附而上，牡丹台守军终于不支。8时半，日军攻上牡丹台后，把炮兵移到台上，对玄武门和全城构成了极大威胁。
左宝贵当时正在玄武门上督战，见牡丹台失守，知势不可挽，以死当之。他换上御赐朝服，亲燃大炮，连发36颗。双方均拚死一战，“日军三突之，清兵三退之”。激战中，左宝贵两处中弹，犹裹伤指挥，后日军榴霰弹连至，炮中当胸而亡。后光绪皇帝作《御制祭 文》悼曰:“方当转战无前，大军云集;何意出师未捷，上将星沉。喑鸣之壮气不消，仓猝 而雄躯遽殉。”有诗叹曰:“本期痛饮黄龙府，不意难回落日戈。”
日军虽然攻占了牡丹台和玄武门，但仍被阻于内城之外，无力继续进攻，当天结束战斗。而在平壤西、南两处的进攻更是连连受挫。此日之战，日兵死189人，伤516人，清兵伤亡人数少于日军。日军所带的弹药、口粮都已用尽，在平壤城外冒雨露宿，处境极为艰难。
作为清军统帅的叶志超，在此关键时刻却没有看到这些有利因素，他只看到玄武门的失守和奉军统帅左宝贵的战死，因而丧失了抵抗信心。当晚，他召集各统领商议放弃平壤，撤军至鸭绿江设防。诸将中只有马玉昆提出反对，叶志超不听，于是下令部队撤离平壤。
当夜8时，清军开始撤退。叶志超传令放弃辎重，轻装持械，趁夜而退。当时，大雨倾盆，清兵冒雨蜂拥出城。日军在黑暗中听到人马奔腾，以为是清军劫寨，于是拦路截杀。清兵混乱中不分敌我，胡乱放枪开炮，误伤累累。经过整整一夜，清军全部退出平壤，在混乱中死伤人数达到二千多，远远超过了在战役中的损失。16日拂晓，日军进入平壤，发现城内已没有清军一兵一卒，而被清军丢弃的武器、弹药、粮饷和其它物资无数，尽数为日军所得。
当初清政府听信叶志超谎报牙山战功，任命他为入朝诸军统帅，实乃一大失误。叶志超作为一个败军之将，一味消极防守，几次错过了趁敌未稳，主动出击的机会，最后主动撤出平壤，导致清军雨夜之溃。清军装备最精良的北洋陆军由此锐气顿失。日本历史学者说:“苦于粮食不足、担心清兵加强防御阵地的野津师团长，感到后援的第三师团一到，补给将更加困难，于是决定在后援部队尚未到达时，便以第五师团进行强攻，这种作战是极其冒险的。如果连续激战两天以上，那么弹药和粮食将同时失去补给，只有放弃围攻，实行退却。”
平壤失利的消息传出，清政府震动，下令严办。叶志超被械送京师，由刑部定斩监候。连在平壤战役中立有军功的卫汝贵，也因没有反对叶志超撤兵和在朝鲜纵兵抢掠而被斩决。平壤战役后，清军全部退至鸭绿江边，日军于是完全控制了朝鲜。
