天水因“天河注水”的传说而得名。夏、商时期属雍州。周孝王十二年（公元前九世纪）赢非子在秦池（今张家川县城南一带）为王室养马有功被封于秦，号赢秦。秦即后世的秦亭，是今天水市辖区见于史籍的最早地名。秦武公十年（前688年），秦灭邽戎、冀戎，置邽（今天水市城区）、冀（今甘谷县东）二县，这是中国历史上设置最早的两个县级建置。秦昭王二十八年（279年），设陇西郡。

　　西汉武帝元鼎三年（前114年），从陇西、北地二郡析置天水郡。从此有“天水”的名称。三国魏黄初元年（220年）一度设秦州，因秦邑而得名。晋泰始五年（269年）正式设秦州，今辖区大部分由秦州天水郡辖。隋唐时秦州地域和今辖区大体相当。元代，秦州辖成纪、秦安、清水3县。明代，秦州辖秦安、清水、礼县3县。清雍正七年（1729年），秦州升为直隶州，直隶甘肃省，辖秦安、清水、两当、徽县、礼县5县。

　　民国二年（1913年）2月，改称陇南道。撤秦州设天水县。民国三年1月，宁远县改称武山县。6月，陇南道改称渭川道，辖14县。民国十六年（1927年）7月，渭川道改称渭川行政区。不久，撤销行政区，实行纯粹的省县二级制。民国十八年（1929年），伏羌县改名甘谷县。民国二十三年（1934年），甘肃省政府设立天水行政督察区。次年，改称甘肃省第四行政督察区，辖10县。

　　1949年8月3日，天水县解放。8月15日，天水分区行政督察区成立，辖天水、甘谷、武山、徽县、两当、通渭、秦安、清水8县。同年12月，天水分区改称天水专区。1950年2月，析天水县置天水市，以城区为天水市的行政区域。5月25日，平凉专区析出庄浪县划归天水专区；撤销岷县专区，所属陇西、漳县划归天水专区。天水专区辖天水市及天水、秦安、徽县、两当、武山、漳县、甘谷、清水、庄浪、陇西、通渭11县，81个区公所，614个乡。1952年，天水专区辖91个区公所，635个乡。

　　1953年7月6日，将清水、秦安、庄浪、陇县38乡合并成立张家川回族自治区（1955年10月改称县），属天水专区。同年底，天水专区辖1市12县887个乡。1956年1月，天水专区的陇西县、通渭县划归定西专区，武都专区的礼县、西和、成县划归天水专区，天水专区的庄浪县划归平凉专区。同年底，天水专区辖天水市及天水、秦安、礼县、西和、成县、徽县、两当、武山、漳县、甘谷、清水、张家川12县，67个区，531个乡，9个镇，9个街道办事处。

　　1958年4月4日，撤销两当并入徽县。4月8日，撤销武都专区，所辖宕昌、文县、武都、康县、岷县5县划归天水专区。9月5日，撤销西和县、礼县，合并成立西礼县；撤销徽县、成县，合并成立徽成县。12月16日，天水专区的岷县划归定西专区。12月20日，撤销天水县划归天水市；甘谷、漳县、武山合并成立武山县；撤销张家川县和清水县，合并成立清水回族自治县。同年实现人民公社化，实行政社合一体制。天水专区辖天水市及秦安、清水、武山、西礼、徽成、武都、文县8县，129个公社，4个街道办事处。

　　1961年11月5日，恢复武都专区。原划归天水专区的武都、宕昌、康县、成县、文县仍划归武都专区。12月15日，恢复天水、甘谷、漳县、两当、西和、礼县、清水县和张家川回族自治县。漳县划归临洮专区。至年底，天水专区辖天水市及天水、西和、礼县、徽县、两当、武山、甘谷、秦安、清水、张家川等10个县，60个区，440个公社，4个街道办事处。

　　1963年10月23日，撤销临洮专区，将其所属漳县划归天水专区。天水专区辖1市11县，482个公社，3个镇，4个街道办事处。1969年10月1日，天水专区改称天水地区。辖天水市、天水县、甘谷县、武山县、清水县、张川县、秦安县、徽县、两当县、礼县、漳县等1市11县，223个公社，5个镇，4个街道办事处。1980年，天水地区辖1市11县，232个公社，5个镇，8个街道办事处。1983年，政社分设，改社为乡。

　　1985年7月8日，国务院批准，撤销天水地区，天水市升为地级市。撤销天水县、将其行政区域并入天水市。天水市设立秦城、北道两区。以天水县西南17乡及原天水市（县级）辖区设秦城区，以天水县东南、西北其余22乡和北道镇设北道区。天水市人民政府驻秦城区。将原天水地区的徽县、两当、西和、礼县划归新成立的陇南地区；漳县划归定西地区。天水市辖两区五县；即秦城、北道两区，秦安、清水、张家川、甘谷、武山等5县，138个乡，11个镇，11个街道办事处。

　　2000年第五次人口普查，天水市常住总人口3219323人，其中，秦城区604070人、北道区542916人、清水县279207人、秦安县545273人、甘谷县553377人、武山县399911人、张家川回族自治县294569人。2002年末，天水市辖秦城、北道2区，秦安、清水、甘谷、武山、张家川回族自治县5县，40个镇、109个乡、11个街道。2003年，全市共撤并乡镇36个、街道1个；调整后，天水市辖113个乡镇（46个镇，67个乡）、10个街道。

　　2004年9月30日，民政部批准（民函[2004]244号）同意天水市秦城区更名为秦州区、北道区更名为麦积区；（甘肃省人民政府2004年11月2日批准 甘政函[2004]99号）。2005年1月1日，秦城区以古秦州取名，正式改称秦州区；北道区以国家重点风景名胜区麦积山风景区取名，正式改称麦积区。

　　2010年第六次人口普查，天水市常住总人口3262548人，其中，秦州区643906人，麦积区553268人，清水县266908人，秦安县515423人，甘谷县559712人，武山县437268人，张家川县286063人。

　　2021年第七次人口普查，天水市常住总人口为2984659人，与2010年第六次全国人口普查时的3262548人相比，减少了277889人，年平均增长-0.89%。