唐初年，兵制沿用隋朝的府兵制，兵农不分；开元十年（722）八月，玄宗采纳张说的建议招募壮士充当宿卫，府兵制开始解体。唐初的府兵制和均田制的联系很紧密。开元年间，均田制瓦解，百姓逃亡或迁移严重，府兵来源也因此严重短缺。张说建议招募壮士充宿卫兵，不问色役（指徭役种类），都从优待遇，以前的逃兵一定争出应募。玄宗采纳了他的建议。果然，仅十天左右就招募到13万精兵，分属诸卫，轮番替换。兵农之分自此开始，募兵为职业兵。第二年（723），政府又挑选丁壮12万人，充当长从宿卫，一年二番，州县不得再派劳役。开元十三年（725）再将长从宿卫更名为[马广]骑，兵士军粮也由国家发给。开元二十五年（737），唐又审计兵防定额，招募丁壮（称长征健儿）充作长期边防军。至此，京城宿卫和征戍兵士全部由招募丁壮充当，府兵制名存而实亡。天宝八载（749）五月，宰相李林甫奏请停用折冲府上下木契、鱼书，府兵有官无兵，府兵制彻底解体。