甘谷縣古為冀縣，為全國縣治肇始之地，有“華夏第一縣”之稱。

據(jù)《史記·秦本紀(jì)》記載：“秦武公十年（公元前688年），伐邽、冀戎，初縣之。”秦武公攻邽、冀戎人，征服了邽、冀以后，建立了邽縣和冀縣。秦建立郡縣制是諸侯割據(jù)的中國建立中央集權(quán)制的開始。今甘谷西漢時仍為冀縣。

東漢明帝永平十七年（公元74年）將天水郡移置冀縣，改為漢陽郡。

東漢靈帝時（公元168——188年）兼涼州治，涼州刺史治冀縣。

三國曹魏時（公元220——265年）為冀縣，改漢陽郡為天水郡，屬天水郡。

晉武帝泰始五年（公元269年）置秦州治，泰康七年（公元286年）秦州遷置上邽。

北朝后魏武帝太平真君八年，（公元447年）改為當(dāng)亭縣，屬天水郡。

北朝北周時（公元557——581年）改為冀城縣，后又并入黃瓜縣。

隋煬帝大業(yè)時（公元605——620年）復(fù)改為冀城縣。

唐高祖武德三年（公元620年）改為伏羌縣，并入渭州的隴西，置伏州治。

唐代宗廣德元年至宋太祖建隆三年（公元763——962年），為吐蕃占領(lǐng)。

宋太祖建隆三年，置伏羌寨，屬秦州。宋神宗熙寧三年（公元1070年）升為伏羌城。宋徽宗崇寧三年（公元1104年）置永寧鎮(zhèn)，屬鞏州。

元世祖至元十三年（公元1276年），以伏羌城升為伏羌縣。

明清兩代沿用伏羌縣，屬鞏昌府。

民國十八年（公元1929年）元月一日，伏羌縣改為甘谷縣至今。

民國二十三年(1934年),甘肅省政府設(shè)立天水行政督察區(qū)。次年，改稱甘肅省第四行政督察區(qū)，轄10縣。

一九四九年8月3日，天水縣解放。8月15日，天水分區(qū)行政督察區(qū)成立，轄天水、甘谷、武山、徽縣、兩當(dāng)、通渭、秦安、清水八縣。