公元前121年，漢武帝開辟了河西四郡，即武威、酒泉、張掖、敦煌四郡。武威，即武功軍威之意，因此而得名。當時武威郡下屬姑臧、張掖、武威、休屠、次、鸞鳥、撲、媼圍、蒼松、宣圍10個縣，治所在故臧。

元封五年(前106年)，分天下為13州，各置一刺史，史稱"十三部刺史"。武威郡屬涼州刺史部，涼州之名自此始。意為"地處西方，常寒涼也"。三國魏黃初元年(220年)，魏文帝置涼州，一直到西晉，姑臧均為涼州治所。東晉，十六國時期，前涼、后涼、南涼、北涼及唐初的大涼，都曾建都與此。

民國時期，涼州基本沿襲舊制，分別為甘涼道、督察區、專員分署所在地，轄武威、民勤、永昌、古浪、永登等縣。

從民國十六年(1927年)年到民國十九年(1930年)涼州連續發生了地震、水災、旱災、兵災和瘟疫等天災人禍。

1949年9月16日武威解放，1985年6月19日，經國務院批準，武威縣改為武威市，2001年7月27日，經國務院批準，設立地級武威市，原縣級武威市改名為涼州區。

涼州區位于東經101°59′~103°23′，北緯37°23′~38°12′，地處甘肅省西北部，河西走廊東端，祁連山北麓，武威市中部。東面與內蒙古自治區接壤，西鄰肅南裕固自治縣，南連天祝藏族自治縣和古浪縣，北與永昌縣和民勤縣相接。

涼州區內地勢呈西南高東北低，地貌類型分祁連山山地、走廊平原綠洲和騰格里沙漠三種，海拔1440~3263米，在大地構造上位于祁連褶皺系中的走廊過渡帶。西南部是祁連山東段冷龍嶺的前山地帶，為走廊帶的毛藏古凸起和蓮花山凸起，山勢降為中山、低山、丘陵和盆地，主要山峰冬青頂、蓮花山、天梯山、第五山，海拔2000~3200米;東北部是河西走廊平原地東段，為走廊帶的凹陷，呈西北-東南向延伸，按其成因和形態可分為沖積平原，沖積細土平原，海拔1500~2000米;東部是騰格里沙漠，海拔1500米以下。