到了北周,那时鲜卑部族兵已不够用,拉来壮丁又不行,募兵又要长期消耗国家军饷,遂改行“府兵制”。选择有家业的壮丁,令其长期当兵。有事出征,平居则自耕自养。当时户口分上、中、下三等九级,下等三级人是不准当兵的,只上、中二等六级户口可服兵役。当了兵,一切田租捐税均豁免。北周终于凭藉此府兵制度统一了全中国。唐代因之不改,亦因府兵制度而创立下极伟大的武功。府兵是凡兵皆农,与汉代之全农皆兵,同为“兵农合一”,而北周、唐代的府兵制则更为合理。当兵的都有相当田地,家业穷苦的农民,不得充兵役,如是则兵员素质,无论在智识上、体格上、品德上,皆无形提高,而且较为整齐。较之募兵制度自更优越了。签丁兵不容说,中国户口盛,实在也不需全农皆兵。
所谓府兵之“府”,与地方行政划开,专择战略要点设立,非边防冲要不需要用兵的地区,便根本不需要设立府兵。当时每府有一支军队,小则八百人,多则一千二百人。据统计:全国最高可能约八百府,共可得八十万军队,分配在各战略要点,实际已足够应用了。而国家则无需分文军饷。因府兵有田亩自给,中央只派几个教练官就农隙督教。及遇出征,某一府兵阵亡了,申报到政府,即由政府派人去其家唁慰,并致送抚恤金,赐予爵位。府兵都是有身家的,都知自爱,都能忠勇奋发,以此屡立奇功。将军在中央供职,无官有勋。作战时带兵赴敌,战事完了,兵归府,将回中央,亦绝没有军人干政之事。可见唐代武功和当时制度有关。