归元寺由北院、中院和南院三个各具特色的庭院组成，拥有藏经阁、大雄宝殿、罗汉堂三组主要建筑，占地面积17500多平方米。北院的主要建筑是藏经楼，是一座两侧五开间的楼阁式建筑，高约25米，顶为大脊，鱼角搬爪，飞栱飞檐，古朴玲珑；当面为四柱通天，双凤朝阳，五龙戏珠。整个建筑精巧壮观，金碧辉煌。这里藏有许多佛教文物，除藏经外，还有佛像、法物、石雕、书画碑帖及外文典籍，是国内收藏佛像较多的一个佛寺。1935年太虚法师出访缅甸时，仰光的佛教徒赠他一尊1吨多重的玉石雕成的释迦牟尼佛像，就供奉在这里。这种佛像在我国只有三尊，其他二尊分别列供于北京和上海。藏经阁里收藏的佛经有：清代《龙藏》一部，宋代影印本《碛砂藏》一部，清末民初上海印《频伽藏》一部。另外还有两件珍品：一是清光绪元年(1875)，湖南衡山69岁老人李舜千书写的“佛”字。“佛”字是在长宽不超过6寸的纸上，由《金刚经》和《心经》原文共5424个字组成。每个字只有芝麻大，肉眼分辨不清。用30倍放大镜看，笔力挺秀，是书法珍品。另一件是武昌僧人妙荣和尚刺血调和金粉抄成的《华严经》和《法华经》，字体娟秀，堪称精品。

　　南院的主体建筑是罗汉堂，始建于清道光年间，咸丰二年(1852)毁于兵灾，光绪二十一年(1895)重建，1902年完成，至今有二百年历史。民间有句谚语：上有宝光(成都)，下有西园(苏州)，北有碧云(北京)，中有归元(武汉)。是说这四个寺院的五百罗汉堂是最具代表性的，是佛教塑像的精华。中国汉地佛教供奉五百罗汉是从五代时开始的。当时，吴越王钱氏在天台山方广寺造五百铜罗汉。五百罗汉的名号，最早见于五代的《复斋碑录》，惜今已不存。另有南宋绍兴四年(1134)，高道素所录《江阴军乾明院罗汉尊号碑》，将五百罗汉一一起名造姓。归元寺的罗汉堂布局成“田”字型。四个小天井给庞大深邃的殿堂提供了良好的通风和采光条件。罗汉依“田”字排列，殿堂里尽管安放了五百多尊塑像，却没有拥挤之感。这种建筑格局既巧妙又合理。这里的五百罗汉是湖北黄陂县王代父子用九年时间塑成的。黄陂至今是湖北的雕塑之乡，有悠久的泥塑传统，技艺娴熟，艺人辈出。据《归元丛林罗汉碑记》，归元寺的五百罗汉，是以南岳衡山祝圣寺的五百罗汉石刻拓本为依据，进行加工提炼，创造而成的。工艺上采用“脱胎漆塑”，又称“金身托沙塑像”。先用泥胎塑成模型，然后用葛布生漆逐渐沾巾套塑，称为漆布空塑，最后饰以金粉。它的特点是抗潮湿，防虫蛀，经久不变。两百年间罗汉堂几次受水灾侵袭，但水退后罗汉仍完好无损。