习水在周代至战国时期为鳛国。
秦代隶巴郡、蜀郡。
西汉属犍为郡符县（今合江）；东汉属江阳郡符县（后改为符信县、符节县）。（三国）蜀汉时，隶江阳郡符节县。
西晋（废符节县）仍属江阳郡；东晋（改置安乐县）属东江阳郡。
南北朝时隶南朝的梁，属泸州郡的安乐戍；其后隶北朝的北周，564年（武帝保定四年）改安乐戍为合江县，属泸州郡合江县。
隋代，隶泸川郡合江县。
唐代（618）改泸川郡为泸州，今习水部分地域属泸州合江县，部分地域属溱州；806年（元和元年），今习水境内赤水河一带属剑南道泸州。
五代十国时隶后唐，属剑南道泸州合江县。
宋代，1109年（大观三年），在今土城镇建滋州，领仁怀、承流二县，仁怀县城设今赤水市复兴镇，习水县境皆属之。1121年（宣和三年）废滋州，设武都城（治所在今土城）；撤仁怀、承流二县，设仁怀堡，辖原仁怀、承流二县地，包括今习水全境。
元代，设仁怀、古滋两处，改属播州军民安抚司，隶湖广行省。1291年（元二十八年），改隶四川行省播州军民安抚司。习水县境属仁怀、古滋等处。元末，红巾军明玉珍在今重庆称帝（国号夏），其间改仁怀、古滋等处为怀阳县，习水县境属之。
明代，1371年（洪武四年），在马口崖（今儒维堡子头）设永宁长官司，4年后升为永宁宣抚司，同年迁普北市（今叙永县治），但仍划出其赤水河以东地段归当地袁氏土司领辖。1372年（洪武五年）正月，“改古滋城（今土城）千户之所，设唐朝坝（今同民镇）长官司”，属永宁宣抚司，隶四川行省，领辖今赤水市和习水县大部地域。1396年（洪武二十九年）10月，四川分三道，唐朝坝长官司属川东道（设今重庆）。1567年（隆庆元年）4月，唐朝坝长官司迁至渔溪（儒维堡子头），仍属永宁宣抚司。1572年（隆庆五年），杨应龙袭播州宣慰使职，将仁怀、古滋等地收归播州领属。1601年（万历二十九年），播乱平定后，“改土归流”，明廷始复旧地而置仁怀县，属地相当于今仁、赤、习三县市地；播州辖地分置平越、遵义两个军民府，前者隶贵州，后者属四川，仁怀县属遵义军民府所领，辖10个里，其中土城、吼滩、小溪、二郎、丁山5个里为今习水县地。因复兴场毁于战乱，仁怀县治所迁至留元坝（今赤水市区）。
清代，1658年（顺治十五年）仁怀县所辖10里未变。1728年（雍正六年）7月，仁怀县随遵义府改隶贵州；除仁怀、河西、土城三里划归粮铺通判就近管辖外，其余7里（包括今习水县大部）仍归仁怀县管辖。1730年（雍正八年），仁怀县治地由留元坝移亭子坝（今仁怀市中枢镇）。原仁怀县治地（驻粮铺通判、遵义厅）设置仁怀直隶厅。1748年（乾隆十三年）7月，遵义府驻仁怀县粮铺通判改设遵义厅，归遵义府领属。1776年（乾隆四十一年），遵义厅改设仁怀直隶厅、隶贵州省粮储道。此时，今习水隶属的土城、隆兴、醒民、同民、民化、东皇等镇乡隶仁怀直隶厅；温水、双龙、官店、寨坝、良村、桑木、永安、回龙、大坡、坭坝、仙源、桃林、三岔河、程寨、二郎、二里、习酒等乡镇境地属仁怀县。1840年（清道光二十年）正月20日，遵义府经移驻温水，名为“温水府经”，是习水建置之始；1905年（光绪三十一年）4月14日，撤销贵州粮储道，改仁怀直隶厅为“赤水厅”；至1911年（宣统三年），今习水辖地分别归赤水厅和仁怀县，均归遵义府统领。
民国2年（1913）8月，建立温水分县，仍隶仁怀县，辖小溪、丁山、吼滩、赤水4里；1915年（民国四年）9月，撤销温水分县，成立习水县，驻地温水，次年迁官渡（今赤水市官渡镇），属黔中道。1916年（民国五年）初，正式划定习水县行政区域，将原仁怀县（即温水分县所辖）的小溪、丁山、吼滩、赤水4里和赤水厅插入仁怀县的东皇等地划归习水县。同年实行区、保、甲、排建置，全县共设6区、21保。民国21年（1932），增设第七区（驻寨坝）。此时，习水县设7区、9镇、68乡。
中华人民共和国成立后，1951年，习水县辖长沙、官渡、东皇、良村、温水、寨坝、官店、双龙8个区。1965年11月，赤水县的土城、醒民、隆兴和仁怀县的桑木、回龙、永安6个区划归习水县，习水县的长沙、官渡2个区划归赤水县。习水县辖12个区1个镇。1992年建镇并乡撤区至1998年设立马临工业经济区，习水县辖24个乡镇区。