清真大寺位于大同城内大西街九楼巷，始建于唐贞观二年，清代重修。该寺建筑古朴，结构严谨，中轴线上有正门、十字穿心楼阁、石桥、礼拜殿，主体建筑由四组殿堂相连而成，在中线两侧还有沐浴室，从寺门到礼拜寺形成一个下坡。整个建筑既有中国古代传统木构建筑的特色，又有阿拉伯风格。

大同清真大寺在我国多部史志和寺内众多碑记上都记载着它悠久的历史。有关它的创建年代，有文字记载的大致可归纳为以下三种说法： 一、唐贞观二年(628)，见于大同清真大寺清乾隆七年重刻唐贞观二年《敕建清真寺碑记》。 二、元泰定元年(1324)，见于《元史・泰定帝本纪》。 三、明永乐中期(1403-1424)，见于大同清真大寺明天启二年《重修礼拜寺碑记有铭》。 上述三种说法，各有其成立的根据及理由。目前多倾向于后一种。这主要是因为一些文物专家据现有资料对大同清真大寺建筑年代考察论证的结论，多认为是明清年间的建筑遗址，加之有碑记佐证，专家加史家，遂成主要论点。仅次于支持明永乐中期说的是前一种唐贞观二年说，大同清真大寺历代10余块碑记中有3块如是说。近年来一些专家学者多方考证，认为大同是中国伊斯兰教最早传入地之一，唐初建立清真寺是有可能的。元泰定元年说支持率最低，虽然皇帝"君无戏言"，但现今老百姓没有见到实际的元代寺院。