隋开皇十八年(598)改汾州置，治所在霍邑县(今山西霍州市)。辖境相当今山西霍州市及汾西、洪洞县地。大业初废。唐武德元年(618)复置，贞观十七年(643)废。《元和志》卷12霍邑县：“吕坂在县西南十里，有吕乡，晋大夫吕甥之邑也，吕州取名于此。”

隋开皇十八年(598年)改汾州置，治霍邑县(今山西霍州市)。辖境相当今山西省霍州、汾西等市县地。大业初省。唐武德元年(618年)复以霍山郡改置为吕州。贞观十七年(643年)省。