嵩县历史悠久,地域宽广。在远古时期,是有蟜氏部族、炎黄部族的主要活动区域;炎帝时嵩县称伊国;黄帝重孙崇伯鲧在崇高山(今嵩县外方山)治水、筑城、建有崇国;崇伯鲧子大禹在三涂山治水娶涂山氏为妻,生子夏启,夏启为中国奴隶社会第一个国君;商朝是有莘国所在地,大政治家、思想家、军事家、教育家伊尹出生于今嵩县纸房镇桑涧沟,在汤王三聘下,辅佐商王朝五代国君,为商王朝的建立与巩固做出了巨大贡献;春秋时期,陆浑戎从甘肃敦煌附近的瓜州迁嵩定居于此;秦始皇26年(公元前221年),置新城县(治所在今嵩县老城),西汉惠帝4年(前191年)增设陆浑县(治所在田湖镇古城村),唐时陆浑县(治所在今陆浑村)、伊阳县(治所在今旧县街)并存,南宋绍兴11年,升伊阳县为顺州、金皇统元年(公元1141年)改顺州为嵩州,统领伊阳、福昌(今宜阳县)、永宁(今洛宁县)、长水(今洛宁西)四县,鸣皋、府店、韩城、三乡(今宜阳三乡)四镇。明洪武二年(1369年)降州为县,始名嵩县。清代因之,中华民国无改。历朝历代,县域版图虽屡有变更,但行政建制则一以贯之。清代、民国无改。
嵩县1947年9月5日,将嵩县辖区娄关乡的潭头、秋扒、狮子庙、白土和三合乡的合峪及旧县镇的庙湾、平凉河、大青沟、汤下划归新设的栾川县。10月分车村、孙店、木植街、白河4个区与鲁山、伊阳(今汝阳)各一部置伊鲁嵩县。1948年3月,将嵩县辖区的车村、孙店、木植街、白河4个区与鲁山县、伊阳县(今汝阳县)各一部分设置伊鲁嵩县;1949年2月,伊鲁嵩县撤销,4个区仍归嵩县,属洛阳专署。1951年10月全县设12个区1个镇(城关镇),辖178个乡。1960年3月撤销栾川县,原栾川县境和大章、白河、车村、 木植街4个公社划归嵩县,县政府迁栾川镇;将田湖、闫庄、黄庄、寺庄、城关5个公社和桥头牧场划归伊川县。1961年9月,恢复伊川、嵩县、栾川3县建制和辖区,嵩县属洛阳专署(后改行署)。1963年2月,全县划为12个人民公社。1975年9月,划全县为16个人民公社;1984年1月,改全县16个人民公社为1个镇(城关镇)15个乡。1986年2月23日,洛阳行署撤销,嵩县属洛阳市。2011年底全县9镇7乡共310个行政村,8个社区,3707个村民组。
2019年底,全县辖城关(1984年1月建镇)、田湖(1987年6月建镇)、车村(1995年8月建镇)、旧县(1999年5月建镇)、闫庄(2008年1月建镇)、德亭(2009年1月建镇)、大章(2010年1月建镇)、白河(2010年10月建镇)、纸房(2011年10月建镇)、饭坡(2013年8月建镇)、九皋镇(2017年12月建镇)、陆浑镇(2020年7月建镇)12个镇和大坪、何村、黄庄、木植街4个乡。共计310个行政村12个社区,3727个村民组。