夏時康境為《禹貢》雍州之域，

商、周為氐人住地。察代康屬秦轄白馬氐部族住地。

東周戰國時期屬苴國境內(周烈王姬喜八年,前368年開明氏蜀國滅"昔阝"、"平周"二國后封其弟為漢中侯置藩屬苴國，定國都吐費城)。

周慎靚王姬定六年,前316年，秦惠王嬴駟派張儀、張若、司馬錯率隊走石牛道(今劍閣金牛道、劍閣道)滅蜀吞苴，置蜀郡，分其地為三十一縣，康縣時屬蜀郡葭萌縣(縣治今昭化區石盤村)境內。

西漢武帝元鼎六年(公元前111年)，置武都郡，康地屬之。郡治洛谷(今西和縣洛峪)。

東漢光武中元元年(公元56年)，武都郡由益州刺史部改隸涼州刺史部，郡治移下辨。康地為武都郡之一部。

三國魏文帝分隴右為秦州，武都郡屬秦州。

蜀漢建興七年(229年)蜀取武都、陰平二郡歸并于蜀。魏景元四年(263年)，魏將鄧艾率兵南下，攻滅蜀漢后，以原蜀漢轄地分梁、益二州，武都郡入梁州，郡治依舊。

西晉郡屬多變，但康境一直屬武都郡。

東晉從304年到420年，割據紛起。西晉元康六年(296年)，氐人楊茂搜建立仇池國后，康隨武都郡入仇池國。咸安元年(371年)前秦克仇池，設南秦州，置劉史，武都郡屬之。

南北朝康地曾先后隸屬南朝宋、北魏、西魏和北周。宋文帝元嘉十九年(442年)平仇池，武都郡入宋轄南秦州。

北魏始置"平樂縣"，境初屬梁州修城郡，太平真君七年(446年)改屬南秦州修武郡。魏孝文帝太和二十一年(497年)復置修城郡，郡治廣長，康地分屬修城郡所轄平落、廣長等縣。

西魏文帝大統十二年(546年)后，康境改屬南秦州修城郡。廢帝元年(552年)改武都郡為武州，治武都石門。廢帝三年(554年)又改南秦州為成州，康境隨屬成州修城郡之廣長、平落等縣。建德元年(672年)廢修城郡并入武州，隸屬北周，康境隨入屬之。

隋開皇元年(581年)武都郡改為武都縣，康屬之。大業三年(607年)后，今康縣迷壩、大南峪、王壩鄉之一部屬順政郡，余屬武都郡。

唐武德元年(618年)改武都郡為武州，康隨覆津縣屬武州。天寶元年(742年)復改武州為武都郡。乾元元年(758年)又還為武州。廣德二年(764年)被吐蕃攻占，州、縣俱廢。咸通年間收復，康仍屬武州覆津縣。唐昭宗景福元年(892年)，武州改名為階州，治所移遷蘭皋鎮(今康縣大南峪)。

五代十國后梁貞明元年(915年)，階州入前蜀，州治蘭皋鎮。