隋开皇十年(590)置，属介州。治所即今山西灵石县。《元和志》卷13灵石县：“因巡幸开道得瑞石，遂于谷口置县，因名灵石。”大业初属西河郡。唐属汾州。元属霍州。明属平阳府。清属霍州。民国初属山西河东道。1928年直属山西省。

在山西省中南部、吕梁山东麓、太岳山西麓。属晋中市。面积1206平方千米。人口23.7万。辖6镇、6乡。县人民政府驻翠峰镇。隋初属平昌县(今介休市)。开皇十年(590年)文帝杨坚巡幸开道获一瑞石，以为灵瑞，遂命名为“灵石”(《元和郡县志》);割平昌县置灵石县，属西河郡。唐武德元年(618年)属吕州，贞观十七年(643年)属汾州。金贞祐三年(1215年)改属霍州，次年复属汾州。元改属。明万历二十三年(1595年)改属汾州府，四十三年改属平阳府。清乾隆三十七年(1772年)改属霍州。1914年属河东道，1927年直属山西省。1948年属榆次专区。1958年灵石、介休、孝义三县并为介休县。1961年三县分治，恢复灵石县，属晋中专区。1968年属晋中地区，1999年属晋中市。地处吕梁、太岳两山，太原、临汾两盆地之间，汾河中游地区。汾河、静升河、仁义河、交口河、段纯河流经境内。属南温带半干旱气候。农产以小麦、玉米、谷子、豆类、高粱、油料作物为主。矿产有煤、硫铁、铜、钼、锰、石膏、石灰石、铝土、耐火黏土、石英、萤石、长石等。工业有煤炭、冶金、采矿、化工、棉织、焦化、机械、建材等。同蒲铁路和108国道经过县境。名胜古迹有吕祖庙、资寿寺、石膏山风景区、韩信墓等。