从山下仰望，山顶高耸入云，因山后有石如牛，故名。早在辽代天庆年间（公元1111—1120年）背牛顶即有修建，到明正德十四年（公元1519年），僧人佛海凿井建庙，逐渐成为佛教胜地，到了清朝，道教又在此大光其道。一山先后容佛、道两家，历代香火极盛。

　　由山脚沿石阶向上攀登，山渐陡，景亦幽。这里常年为森林覆盖，奇花异草、参天古树令人赏心悦目。在群山怀抱之中，有一龙潭奇景，一潭清水，水深数丈，寒气四溢，沁人心脾。潭两侧为悬崖峭壁，形如斧劈刀削。山路树丛中有两块威武的“将军石”，像把守山门的忠实卫士。再往前行，便到了幽深的绿色长廊。这里有天然的猕猴桃藤、野葡萄从路旁向上空延伸，勾连在一起，形成一条浓阴蔽日的绿色长廊，夺人工之美，具有大自然之妙，别有韵味。

　　从绿色长廊上行，通过一段艰难的攀登，便到垭口，从这里仰望山门，陡墙峭立，十分险要。原先依峭壁安置五层柏木长梯，梯旁高悬铁索，游人扯索攀援而上，惊心动魄。如今设置了七十米长的铁梯，外有围栏，虽两旁悬崖壁立，令人心有余悸，但有惊无险。

　　到了山门，才令人惊魂稍定，反身四望，始觉风景这边独好，才知不枉来一趟，飘飘好似升仙。如遇阴雨，可见脚下铺云万里，如卷雪，如堆絮，上晴下雨，人称为“牛顶云海”，论气势不亚于黄山云海。山门南侧内壁嵌有一卧碑，上刻“太清观”三个小字，下刻“背牛顶”三个大字。

　　石岩后的树林里，掩映着一片碑林，大都是为捐修庙宇的人刻的记功碑。东侧数口井错列排开，大都凿石而成，水浅的不足1米，水深的3米有余，好在不论深浅，虽在山顶却常年不涸。井东石壁下有一方池，古称放生池，池前有一“望海楼”遗址，楼去而平台依存，生有几棵500年以上树龄的古松，枝叶繁茂，现山顶仅存的建筑——无梁殿，仍供奉着望海观音。殿北的金光洞旁有一石刻，楷体“海阔天空”四个大字苍劲有力，洞东峭壁上刻着佛像和游人留下的诗句。而洞前的平台，正好做为游人野餐聚饮的好场所。