汉高帝置，治所在郴县(今湖南郴州市)。辖境约当今湖南耒阳市以南的耒水、舂陵水流域，北至洣水入湘处附近，南包广东英德县以北的北江流域。三国吴以后缩小。隋开皇九年(589)改为郴州，大业初复为桂阳郡。唐武德四年(621)又改为郴州。天宝元年(742)复为桂阳郡，乾元元年(758)改为郴州。

西汉高祖二年(前205年)置，一说五年立长沙国后分南部地区置，治郴县(今湖南郴州市)。辖境约当今湖南省桂东、郴州、嘉禾、宁远、道县以南，广东省连县、乐昌及广西壮族自治区兴安等县地。其后屡有变化。元鼎六年(前111年)分西部地区置零陵郡，宣帝以后相当今湖南省耒阳市以南的耒水流域、舂陵水流域和洣水下游及广东省连江口以北的连江、北江流域。三国吴孙皓于南部分置始兴郡，辖境缩小。隋开皇九年(589年)废。隋大业及唐天宝、至德时又曾改郴州为桂阳郡。