汤阴历史悠久，是河南省安阳市最古老的县之一，汤阴也是抗金名将岳飞的故里。在原始社会新石器时代的仰韶文化、龙山文化时期就有先民居住，经考古发掘在白营龙山文化遗址出土的木构架水井，是我国迄今发现的最早的水井，是人类群居极其重要的标志。
夏代，夏帝廑（胤甲）、孔甲把都城定居在今县东16公里的西河村。孔甲在这里作了《破斧之歌》，成为“东音”（东方音乐）的开山之作。
商代，这里属于商都的畿辅之地，纣王在商都拒谏的故事时时传来。纣挖比干心之后，比干负伤从商都逃到今县东16公里的高岗上死去，高岗因名枉人山，今存庙宇纪念。接着，纣囚西伯姬昌（周文王）于今县北4公里处羑里城，周文王于羑里城七年著述出《周易》，今存羑里城（文王庙），为全国重点文物保护单位，AAAA景区。
西周时期，周武王灭商建立起周王朝之后，“封纣子武庚于邶”，遗址在今县东16公里处邶城。管叔和蔡叔勾结武庚举行叛乱，周公旦率兵平定了叛乱，杀掉了武庚和管叔，流放蔡叔和霍叔。自此，西周得以安定。
春秋时期，相传孔子带领弟子们周游列国，来到今县东16公里处邶城一带，听到人们传唱着许多或激情亢奋、或委婉含蓄，皆悦耳怡人的诗歌，便嘱咐弟子们悉心收集起来，整理成《邶风》19首，融入了《诗经》之中；孔子和弟子们来到今县城东南3公里的孔村一带，一群沿路玩耍的孩童阻挡了他们前行的车辆，孔子留下来在这里讲学，至今五个孔村里还传颂着孔子当年讲学的趣事。
乡人女诗人嫁给许穆公，因称许穆夫人。许穆夫人提出联齐抗狄以救卫，齐桓公闻知，即发兵复卫，成为中国历史上第一位有文字记载的爱国女诗人。许穆夫人一生诗作很多，由于战争频繁多有散失，仅存《诗经》中《泉水》、《载驰》、《竹竿》三首四言诗，文辞清新，脍炙人口，倍受历代文人推崇。
齐桓公在阻止狄族进攻中原援救邢、卫战中，曾率兵于今白营、胡营一带安营扎寨。其媵（yìng，妾）卫女爱兵惜将，深受拥戴，由于过度操劳，病逝于军中。因战事紧张齐桓公只好将卫女葬于此地，将士们以枪、戈、钺、斧等兵器挑起铠甲、衣衫作幡祭祀卫女。由祭祀卫女而衍生出的大型舞蹈跑帷子传承至今，已被列为全国非物质文化遗产名录项目。
战国时期，汤阴属魏。公元前350年，荡阴地名开始出现。公元前259年（即秦昭王四十八年，魏安厘王十八年），魏公子无忌（信陵君）窃得虎符，于汤阴县南9公里处今将城椎杀了晋鄙，夺取兵权，率兵救赵。名医扁鹊（秦越人）行医至此，汤阴县东南7公里之伏道被秦太医令李醯所派力士杀害，当地民众请求扁鹊弟子们同意，以隆重礼节将扁鹊安葬在此地。今存扁鹊墓庙，被列为河南省文物保护单位。
秦属邯郸郡。
西汉高祖二年（前205）置县，属河内郡；东汉建安17年（212）改属魏郡；县令张迁字，公方，东汉陈留郡己吾县（今河南省宁陵县西南）人。累任郎中、谷城县长、汤阴县令。张迁敦厚纯朴，垂爱在民。在他的治理下，社会风气良好，道不拾遗，夜不闭户。人们种地之后露宿在野外，也不会有任何问题。腊月行祭之日，他将囚徒放假回家，囚徒们感念他的恩德，都能按时归来。遇到计算人口赋税等问题，他也不麻烦乡人。黄巾起义后，许多地方都被烧毁，惟独他治理下的县城完好无损。张迁改任时，境内民众奔走相告，送别者多如云涌。后人撰书《张迁碑》记录他的事迹，成为当代书法界弥足珍贵的瑰宝。
三国，属魏。“魏文帝幸洛道病，有巫师以水饮之，立愈”，遂赐名宜师沟（今宜沟）；曹植到羑里城祭祀，赋诗一首《诘纣》：“崇侯何功，乃用为辅？西伯何辜，囚之囹圄？囹圄既成，负土既盈。兴立炮烙，贼害忠贞。”
西晋，属汲郡。永兴元年（304）七月，战事逼近荡阴，双方在城南展开大战，惠帝司马衷部因长途跋涉，加上酷暑难熬，于七月二十四日在今下扣一带败了下来。混战中惠帝司马衷颊中三箭，随从百官侍卫看到战争打败，纷纷逃散。在今云村一带，乱兵向晋惠帝举刀时，侍中嵇绍用自己的身体紧紧地护卫惠帝而惨遭杀害，鲜血溅染了惠帝的衣服。惠帝被擒后，行至今光村时，左右兵士看到惠帝血衣，劝他洗去，惠帝说：“这是嵇侍中的血，不要洗去。”后人因建嵇绍祠纪念，今存相关村名十多个。
隋，属汲郡。开皇六年（586）复置汤阴县，于县东17里（今之古贤）置县城，十年（590）并入安阳；十六年（596）再置于县西南30里（今鹤壁市故县村），改曰荡源；乡人赵孝逸，官四门助教，书法与北周名家赵文深齐名。赵文深学王羲之，孝逸效法王献之，都非常有建树。平凉之后，王褒入关，举国上下皆学习王褒的书法，惟有赵文深、赵孝逸他们两人坚持学习二王书法。隋朝建立后，临二王之作品，往往被人们争相购买。乡人尧君素曾为隋炀帝鹰击郎将，李渊起兵后，派人到河东浦坂城下招降尧君素。尧君素斥退说客，后被叛逃所杀。唐贞观十二年（638）二月，唐太宗下诏说：“隋故鹰击郎将尧君素，虽桀犬吠尧，有乖倒戈之志；疾风劲草，实表岁寒之心。可赠蒲州刺史，仍访其子孙以闻。”
唐，贞观元年（627），改名汤阴。置今址为县城。大约在广德二年（724）大诗人杜甫过汤阴，察看了“八王之乱”古战场，瞻仰了嵇公祠，作下《伤春》诗。其中之四写道：“再有朝廷乱，难知消息真。近传王在洛，复道使归秦。夺马悲公主，登车泣贵嫔。萧关迷北上，沧海欲东巡。敢料每危体，犹多老大臣。岂无嵇绍血，沾洒属车尘。”
唐代文学家韩愈针对“文王拘羑里”的史实，感慨良多，写下《拘幽操》赞颂周文王：“目窈窈兮，其凝其盲。耳肃肃兮，听不闻声。朝不见日出兮，夜不见月与星。有知无知兮，为死为生。臣罪当诛兮，天王圣明。”
宋，属相州。绍圣初（1094），苏轼自定武赴岭南，一路风尘，来到汤阴吃到一种豌豆大麦粥，不由得诗性骤发。因此赋诗一首《过汤阴市得豌豆大麦粥示三儿子》：“朔野方赤地，河壖但黄尘。秋霜暗豆荚，夏旱臞麦人。逆旅唱晨粥，行庖得时珍。青斑照匕筋，脆响鸣牙龈。玉食谢故吏，风餐便逐臣。飘零竟何适？浩荡寄此身。争劝加饮食，实无负吏民。何当万里客，归及三年新。”
宣和初（1119），改属浚州；后仍属相州。北宋崇宁二年即1103年，著名民族英雄岳飞年诞生于汤阴县东永和乡孝悌里。
金（1127～1234）汤阴属彰德府。
元（1271～1368）汤阴属彰德路。乡人许有壬（1287～1364），字可用。元仁宗延祐二年（1315）登进士第，授同知辽州事。至治二年（1322）转江南行台监察御史，劾治不法官僚豪家。次年升中央监察御史。向英宗上疏强国富民十条建议，多被采纳。许有壬历官英宗、泰定帝、天顺帝、文宗、明宗、宁宗、惠宗（顺帝）七朝，政绩显著，累官左司郎中、两淮都转运盐使、中书参知政事、中书左丞、集贤殿大学士。为政近五十年，他曾多次针对科举制度、漕运、军队建设等国家大事，直言不讳地向朝廷提出批评和建议。有壬善笔札，工词章。著有《至正集》和《圭塘小稿》，曾为《大元大一统志》作序。
明（1368～1644）汤阴属彰德府。乡人李鐩（1448～1529）字时器，今汤阴县五陵镇镇抚寨村人。明成化八年（1472）进士，初授都水主事。累官鸿胪少卿、工部侍郎、工部尚书。成化年间任刑部郎中时，奉命赴山西赈灾，在救灾同时，广开水渠，浇灌农田上百万亩，成绩卓著。弘治初年奉诏上书，条陈治理朝政十事，并精将简政，加强军备，制定防御策略，对稳定边防局势起到重要作用，深得弘治帝赞许。后，鐩遭宦官排斥，被迫辞职。
清（1644～1911）汤阴属彰德府。乡人王伯勉（1618～1677）字子健，号东皋。今汤阴古贤村人。清顺治三年（1635）进士，官至山东道监察御史，清廉自守，声望颇高。著有《东皋文公集》，曾为康熙《汤阴县志》作序。乾隆十五年（1750），清高宗皇帝爱新觉罗弘历南巡返京途中过汤阴，分别到岳飞庙、羑里城（文王庙）祭祀，留有七言诗二首与祭文。光绪二十八年（1902），八国联军攻陷北京，光绪皇帝爱新觉罗载湉与慈禧太后叶赫那拉氏逃至西安，返回北京途中，在汤阴县宜沟镇下榻，今存行宫；到岳飞庙祭祀，光绪皇帝赐题“百战神威”，慈禧太后赐题“忠灵未泯”匾文，悬挂于岳飞庙至今。
中华民国时期，汤阴1912年属河北道；1924年属河南省。1932年8月属第十二行政督察区，10月属第三行政督察专员公署。1938年属豫北道；1945年秋属河南省第三行政区。
1947年3月，解放军为打乱蒋介石的战略部署，扼住中原重地，中央军委指示晋冀鲁豫军区：“在晋南反攻的同时，向平汉线实施进攻，专打王仲廉集团（长期守候在新乡、汲县、汤阴、安阳等地，约10万人），进行连续作战，以便和晋南作战一起，给陕北和山东我军作战以有力配合。”刘伯承、邓小平率领晋冀鲁豫野战军连同地方部队，于3月下旬发起了豫北战役。4月5日，兵临汤阴城下，围城打援。5月1日下午4时，开始总攻。5月2日拂晓，解放军占领县城。接着于汤阴县城东南石家庄村接受了国编三纵总部司令孙殿英、副司令刘月亭、参谋长邓喧甫等残部的投降，解放了汤阴。
中华人民共和国建立后，汤阴1949年10月属平原省安阳专员公署；1952年属河南省安阳专员公署。1952年11月1日，毛泽东主席考察黄河返京途中，在汤阴火车站停留，接见了汤阴县的党政领导干部，察看了站台上的岳忠武王故里碑，称赞岳飞是一个大好人，指示要保护岳飞庙。1954年9月，淇县并入汤阴；1957年鹤壁、鹿楼两区从汤阴县分出，建立鹤壁市；1958年汤阴属新乡专署；1959年11月7日，时任中共中央委员、团中央第一书记的胡耀邦同志前来汤阴考察，参观了岳飞庙。
1961年属安阳专署；1962年淇汤分设；1983年11月汤阴归安阳市管辖。