据史书记载和学术考证，骆驼城为西汉表是县地震后前凉于距县城西南20公里处新建的治所。西晋灭亡后，割据河西的前凉张氏政权为安置关内来投的难民，在骆驼城故址建郡，并以东晋王朝都“建康”来命名，借此标榜效忠晋王室来争取北方汉人的支持，成为战乱给骆驼城历史烙下的特殊印记。此后前凉于公元376年被前秦所灭，建康郡首次易主。淝水之战前秦苻坚失败后，其大将吕光乘机占领河西拥兵自立，次年又镇压了以张大豫、王穆为首的前凉残余势力在建康郡举行的叛乱，并于公元389年建立后凉，委任参军段业为建康太守。第二年，因吕光滥杀无辜，卢水胡人沮渠、蒙逊拥立段业为主，以建康郡为根据地纠集各部族起兵反吕，四年后占领张掖建立北凉，使骆驼城成为北凉政权的发祥地。沮渠、蒙逊自段业自称凉王后，为与西凉李暠争霸，于公元405年增筑了建康郡城。在历经北魏、北周250年后至隋代被撤销建置降称福禄县。唐武后证圣元年（公元695年），大将王孝杰在此置建康军，成为甘、肃两州之间的军事重镇，郡与军虽一字之差，但反映出地方行政与军事管制两种管理体制，军有大军、中军、小军之分。大军的建置是万人左右，中军五千人左右、小军三千人左右。建康军是中等军，最多时，屯兵五千三百人。唐大历元年（公元766年），建康军被吐蕃攻陷后，惨遭屠掠，后荒废，从此沦为牧人晚间的宿营地，被当作天然的骆驼圈，风靡一时的故都由此得名骆驼城沿用至今。