嘉峪的意思是“美好的山谷”，嘉峪关就是因为嘉峪山而得名。

　　早在战国时代，这里便已经有了人类的狩猎活动，在距嘉峪关市20公里的黑山峪谷发现的岩画足以证明这点。到了汉代，骠骑将军霍去病击破匈奴右地，筑城为酒泉郡，从此，在嘉峪关设“玉石障”，归酒泉的管辖。而后牧羊人发现的“地下画廊”——魏晋墓群中的砖壁画，风格独特，技法巧妙，说明道了魏晋时代这里的政治、经济、军事、文化已经相当发达，成为研究敦煌的另一史料来源。

　　明朝时期，随着嘉峪关的关城的修建，嘉峪关成为防御外敌入侵的军事重镇，号称“天下第一雄关”，也有“边陲锁钥”之称。

　　解放后，1971年在嘉峪关设立地级市，之前一直为酒泉辖地，1980年成立嘉峪关市人民政府，现已成为新兴的旅游和钢铁城市。