噶玛寺历史悠久，建筑风格别具特色，具有藏、汉、纳西等民族和尼婆罗(念经泊尔)的工匠精心设计修建的建筑风貌。主体建筑由措钦(大雄宝殿)、拉让(活佛别墅)、扎仓(僧院)、塔殿等构成。措钦大殿面积为2240平方米，高三层，系土石结构。经堂和前廊是以藏式平顶修建，寺顶横木飞檐，覆盖有蓝色琉璃瓦。主殿系木质结构，屋顶歇山式，房檐以下全是斗栱承托。殿内面积达810平方米，殿中以12根特长大柱支撑天窗，光线充足；壁画以释迦牟尼传记为主，内容有乘白象从兜率宫下凡、入胎摩耶夫人、七步生莲、出家修道、初转法轮、娑罗树下涅盘等。大殿后面主供第七世噶玛巴·却扎嘉措(1454～1506)建造的释迦牟尼佛鎏金铜像，高17米，系昌都地区最高大的塑像；其左侧供奉第二世噶玛巴·拔希却吉(1204～1283)塑造的强巴佛泥塑像；右侧为喇嘛拉康，内供历代噶玛巴活佛像：正中主供噶玛噶举派创始人噶玛巴·都松钦巴的合金塑像，其两侧供奉第二世活佛噶玛拔希(1204～1283)、第三世活佛让琼多杰(1284～1339)、第四世活佛若必多杰(1340～1383)、第五世活佛德银协巴(1384～1415)、第六世活佛通哇敦丹(1416～1453)、第七世活佛却扎嘉措(1454～1506)、第八世活佛弥觉多杰(1507～1554)、第九世活佛旺秋多杰(1556～1603)、第十世活佛却央多杰(1604～1674)、第十一世活佛益西多杰(1676～1702)、第十二世活佛绛曲多杰(1703～1732)、第十三世活佛堆都多杰(1733～1797)、第十四世活佛台乔多杰(1798～1868)、第十五世活佛喀觉多杰(1871～1922)的鎏金铜像；四周壁画为塔布噶举祖师塔布拉杰和噶玛噶举黑、红帽系活佛画像。措钦大殿二层右侧为历代司徒活佛(为噶玛噶举派三大活佛转世系统之一)的静室和小佛堂。措钦大殿三层顶部为藏式平房，正中饰以鎏金铜法轮，左右两侧配以鎏金铜孔雀，据说是大明皇帝所赐；三层后面是观音殿，内供大悲观音菩萨像。

　　噶玛寺建有灵塔殿三座。第一座灵塔3座，主供噶玛巴·都松钦巴活佛和司徒仁钦活佛、克巴旺结多杰活佛，塔身饰以白色，高约10米；第二座灵塔殿有灵塔1座，内供第二世噶玛巴·拔希活佛；第三座灵塔殿有灵塔1座，内供结色班登活佛。该寺兴盛时期常住僧众一千余人。第二世噶玛巴时期，元朝中央曾赐给扎西、昂曲上、下游十余处溪卡为寺院香火和僧众供养；明朝永乐皇帝又增至金少江上、下游一带为噶玛寺所辖。

　　噶玛寺藏有大量的文物珍品，其中最为珍贵的有：“皇帝万岁牌”，是明成祖所赐的木雕盘龙牌位，为该寺晨暮对皇帝朝贺之用：“大宝法王印”：为明朝永乐五年(1407)明成祖赐给第五世噶玛巴“领天下释教”的最高宗教地位的印信。该印双龙盘纽、光洁质白，为王印中的上品。此外，寺内还藏有大量的明、清时期中央皇帝所赐的瓷器和一百多尊鎏金铜像，以及藏文的《甘珠尔》、《丹珠尔》大藏经。

　　噶玛寺和前藏的楚浦寺开创了藏传佛教活佛转世制度。该寺除金边黑帽系和红帽系外，还有两个活佛系统：一是八蚌司徒活佛转世系统，该系统司徒活佛从第一至第十七世住锡在噶玛寺，第十八世司徒曲却迥乃活佛于1727年在德格地方修建了八蚌寺，后来司徒活佛系统才以八蚌寺为主寺的；二是噶玛拉桑活佛转世系统，该活佛系统一直以噶玛寺为祖庭并住锡该寺。

　　噶玛寺自兴建以来，其各大活佛一直臣属中央，与中央保持着亲密的联系，其实力与日俱增。虽经八百我年的沧桑和“文革”的破坏，但党的十一届三中全会以后，政府拨款进行了维修，使这一古寺吸引着国内外信众前往朝拜，成为区内外宗教信徒的重要宗教活动场所之一。