光孝寺建筑规模宏大，为岭南丛林之冠，寺内原有12殿、6堂及钟鼓楼、睡佛阁、延寿庵、兜率阁、笔授轩、虞翻祠等建筑。现存建筑有大雄宝殿、六祖殿、伽蓝殿、天王殿以及睡佛阁、瘗发塔、东西铁塔、法幢、大悲幢、达摩井等古迹。
光孝寺主体建筑大雄宝殿始建于东晋隆安元年(公元397年)，现存建筑是清顺治十一年(公元1654年)重建的。面宽35.36米，进深24.8米，重檐歇山顶，上覆金色琉璃瓦，造型质朴，巍峨宏伟。殿四周没有大墙，围以朱漆木质通花窗，一些窗孔镶有半透明的贝壳。殿前有宽敞的月台；左右树立两座塔式石法幢。
大殿右侧为供奉护法神的伽蓝殿，玲珑剔透，具有明代风格。左侧为六祖殿，原名祖堂，是北宋真宗年间为纪念禅宗六祖慧能而建的。南宋咸淳五年(公元1269年)冬，六祖殿被火烧毁，寺中住持又募缘重建。六祖殿面阔5间，进深4间，单檐歇山顶。殿内六祖坐像高2.5米。殿东有碑廊，保存有许多碑刻。
睡佛阁分为上下两层，楼上供奉着睡佛，楼下是讲经的场所，叫风幡堂。睡佛阁和风幡堂原是两所建筑，明朝万历年间重修时合为一体。
瘗发塔俗称六祖发塔。相传慧能在寺内菩提树下削发为僧，住持僧法才随即将慧能的头发埋入土中，在上面建塔以作纪念。塔呈八角形，高7.8米,共7层，每层各面都刻有佛像。塔旁有元代刻制的六祖像碑和达摩像碑。
大悲幢建于唐宝历二年(公元826年)，高2.19米，用青石雕成。幢身如同短柱，八角形，八面镌刻《大悲咒》，但文字大多已经风化。
光孝寺内还有两座我国现存最古老的铁塔。东铁塔为四方形，有7层，高6.35米，塔身上共有小佛像900多个，当初佛像上全都贴上金，铁塔也叫“涂金千佛塔”。塔身下有莲花铁座，整座铁塔放在高1.34米的石刻须弥座上。这是我国保存最完整的铁塔。西铁塔建于南汉大宝六年(公元963年)，比东铁塔还早4年。塔形与东铁塔相同。抗战期间因房屋倒塌压垮了上面4层，现在只剩下3层。