汤阴县，得名于汤水，汤就是热水，应当最早是温泉水，《山海经》有记载，更出名的是支流“羑水”，周文王演周易的“羑里”。汤阴在战国叫荡阴，汉朝叫荡阴县，唐宋明清，汤阴县是一种重要的县。

这里有山有水，孕育文明，又是交通要道，“宜沟镇”是自汉朝便知名的驿站，按照古人车马速度，宜沟是淇县和汤阴之间非常适宜的“歇脚处”，曹丕、曹植、杜甫、苏轼、慈禧和光绪出逃，都路过汤阴、宜沟。晚清，铁路兴起依旧是毕竟之路。看今天地图，依旧是交通要道，太行山东麓就是一条交通、文化要道，而汤阴是其中之一。

古人以山河为界，汤阴范围相当于汤河流域为主，南至淇水，北至羑水，西至太行山，东至卫河，周边是浚、淇、林、鄣德、内黄。从明朝的汤阴地图，可以明细看到鹤壁集、淇县都属于汤阴县。民国地图，可以看到，宜沟镇汤阴县的南界，大赉店是浚县的北界。

新中国建立，汤阴隶属平原省，52年平原省撤销，54年淇县划给汤阴，这个时候是大汤阴的管辖范围最大的，1957年3月，鹤壁从汤阴县划出，称鹤壁市，而后鹿楼、大河涧、盘石头、桑园陆续划归鹤壁市。1962年，淇县，从大汤阴划分出去。

1986年，浚县、淇县划归鹤壁市管辖。大汤阴县也就变成小汤阴县了。