明清时代的大成门为五间，两侧为耳房，供执事人等休息之用，中为三门，门内陈列戟，东设鼓，西置磬，每逢朔望朝圣和春秋祭典，府县官员由大成门（中门）进，士子执事人等分走旁门。此门与大殿同毁于日军兵火。
1986年新建的大成门面宽三间，门内正中有汉白玉屏风，上镌刻“重修夫子庙记”，树立四块古碑，其中齐永明二年的“孔子问礼图碑”是由金陵市人民政府院内迁至此处的一块重要的碑铭。入大成门循甬道丹墀而上，便是夫子庙的主殿大成殿。现大殿是按清代同治八年（1869年）的建筑为蓝本修建的，取消了原孔庙的后墙，使之与学宫融为一体。大殿七间，高18米，重檐歇山顶。
原殿内正中为“大成至圣先师孔子之神位”牌位，两旁配享四亚圣。现殿内有孔子铜像，两旁配有孔子十二弟子汉白玉像。殿前有宽敞的露台，四周绕以石栏板，它是古时祭祀举行乐舞的地方。
殿前两侧有廊庑相连，原是供奉孔门七十二贤人和历代大儒，及存放祭器的地方。现改作碑廊，墙上镶嵌陈列当今名流的书法碑石30多块。
孔庙院墙与学宫之间，东西北三面有宽畅的通道，曾种植几百棵柏树，古木参天，郁郁苍苍。那时，在庙外的文德桥上凭栏眺望，大成殿的黄色琉璃瓦屋顶在绿荫丛中显得金碧辉煌，雄伟壮观。殿后为“明德堂”，相传匾额为南宋文天祥楷书，后由曾国藩改为篆书。
堂后为“尊经阁”，阁原为教谕讲课讲堂，楼上藏有大量儒教典籍的刻板和诸多圣贤画像。清嘉庆年间又遭战火破坏。
清同治八年（1869年）曾国藩、李鸿章二人相继重修扩建，恢复旧貌。
然而，孔庙的主要建筑均于1937年毁于日本侵略军的炮火。解放后，原学宫部分作为秦淮区人民游乐场，“名宦乡贤祠”则改为夫子庙小学；大成殿遗址辟为夫子庙广场。“*****”中，剩余建筑又遭破坏。1983年，政府拨款重建夫子庙古建筑群，主体建筑大致恢复旧貌。
夫子庙两侧的东西市场，原是学宫前甬道。东甬道为学宫正门，门前有坊，上书“泮宫”。坊东为明清两朝状元、榜眼、探花题名牌坊。坊西为会元、解元题名牌坊，坊的背面是武科题名牌坊。东西甬道旁，原各有三祠两署。
民国以后废科举，兴学堂，学宫遂渐衰落，祠、署分别改为学校、教育局、图书馆等，学宫甬道也成为摊贩市场，东西市场的名称便从那时开始。
现东西市场于1987年建成，总建筑面积为4400平方米，吸收了我国传统的商业街道的空间形式和尺度，采用明清时代的街市风格，以石板铺地，店铺采用“青砖黛瓦马头墙，回廊挂落花格窗”，店、庙、市、街合一，富有浓郁的地方特色。
尊经阁在明德堂后，始建于明嘉靖年间，原为上下两层各五间，清嘉庆以后曾在此设尊经书院，楼上藏书，楼下讲学。1987年重建的尊经阁高三层，18.7米，重檐丁字脊歇山顶，底层五间，二层、三层均为三间。底层辟为“秦淮彩灯馆”，二层为“秦淮文物古迹陈列室”，三层备有茶座，可供游人休息并眺望夫子庙全景。