隋末農民大起義推翻了隋朝的統治，李淵(公元566—635年)父子在這個基礎上建立了唐朝。唐朝統治者在取得政權以後，總結了隋朝迅速敗亡的教訓，採取了一系列鞏固封建統治的措施。政治上完善三省六部制，經濟上實行均田制，軍事上實行府兵制，從而使社會很快穩定下來，並出現了前所未有的繁榮景象，達到了中國封建社會發展的高峰。
唐的兵制，在唐太宗(公元626—705年在位)時期是府兵制。唐玄宗(公元712—756年在位)開元以後，府兵制開始敗廢，募兵制興起。唐朝後期，割據局面出現，皇帝只能以禁軍來維持統治。從府兵到募兵，從募兵到禁軍，在反映了唐朝兵制發展的幾個階段。
李淵父子在太原起兵時，兵力僅三萬餘人。李淵建立大將軍府，親任大將軍。長子建成任左領軍大都督，次子李世民為右領軍大都督，三子元吉為中軍大都督。在向關中進軍的過程中，兵力增加很快。李淵稱帝後，沿用隋朝一整套制度，所謂「唐承隋制」，恢複隋末破壞了的府兵制即是一個例子(詳見後述)。李淵在關中地區12道設置軍府，三個兒子也各開府領兵。中央以尚書省的兵部處理軍務。軍隊領導權由李淵親掌，但征戰事宜則多交給三個兒子。特別是次子秦王李世民屢擔重任，重要戰爭多由他指揮。地方行政則恢複隋初的州縣兩級制，同時沿襲隋制，在國內及邊境重要地區設置總管。武德七年(公元624年)，李淵認為全國基本統一，為結束軍事統治，廢總管，改行都督制，統十州以上的設大都督府，其次分設中都督府、下都督府。其時設大都督府的有洛、荊、並、幽、交五個州。到太宗貞觀十三年(公元639年)，都督府增至41個。全國358個州，除京畿九個州外，全部分屬這41個都督府。都督府設都督一人，長史一人及錄事、參軍等員屬。都督主要負責地方軍的統御，但與當地軍府沒有隸屬關係。
唐朝建立之初，李淵父子就著手恢複府兵制。武德二年(公元619年)開始設置軍府，把關中分為12道，每道置一軍，每軍下轄若干驃騎府、車騎府。軍設將、副各一人，督領府兵耕戰。武德三年(公元620年)，12軍 各立軍號，於是，府兵制度逐漸從隋末的破敗中恢複過來。
唐太宗即位後，進一步整頓和充實府兵制度，使之更加完備。貞觀元年(公元627年)，唐太宗將全國劃為10道，置軍府634個，其中關中地區佔261個，佔全部軍府的41%，形成「舉關中之眾以臨四方」(《新唐書》卷五《兵志》)的格局。並將驃騎府、車騎府改稱折衝府，以折衝都尉、果毅都尉分任正、副統將。所有軍府均隸屬於十二衛府 及東宮六率 。折衝府分為三等，上府1200人，中府1000人，下府800人。府兵的編製是10人為火，火設火長；50人為隊，隊設隊正；100人為旅，旅設旅帥；200人為團，團設校尉。府兵的任務是擔任宿衛、鎮戍和征戰。至此，府兵制趨於定型和成熟。
武則天時期，為加強中原軍府，曾設置若干特等府，以300人為一團。
折衝府直隸於所屬上級衛府。府兵的調遣、徵發權在皇帝手中，由皇帝下敕書，通過兵部傳達執行。如有戰事，朝廷臨時點將，率領從各地徵發的府兵出征。戰事完畢，兵散於府，將歸於朝，使兵不識將、將難專兵，這就有效地防止了將帥擁兵作亂，有利於中央集權的鞏固和國家的統一。正如《新唐書·兵志》所稱的：
府兵之道，居無事則耕於野；其番上者，宿衛京師而已。若四方有事，則命將以出，事解輒罷。兵散於府，將歸於朝，故士不失業而將帥無握兵之重，所以防微杜漸，絕禍亂之萌也。
《歷代兵制》也盛讚唐府兵制是井田制以來最好的兵制(「自井田不復，兵制之善，莫出於此」)。
軍府和地方長官無隸屬關係，但州刺史也負有一定的軍事責任。如徵發府兵時，朝廷向州刺史、折衝都尉同時下符契，會同勘契後才能發兵。又如對練兵也有檢查督促之責，加上州刺史品位較一般折衝都尉為高，故習慣上有上下級關係。
折衝府有內府、外府之分。內府是指左右衛府所屬的五府(親府、勛一府、勛二府、翊一府、翊二府)、三衛(親衛、勛衛、翊衛)和東宮左右衛率所屬的三府(親府、勛府、翊府)、三衛(親衛、勛衛、翊衛)。此外都是外府。內府衛士都是由五品以上官僚的子孫充任。外府衛士則主要是中小地主和富裕農民的子弟。內外各府的衛士都擔任皇帝的宿衛。
府兵的武器裝備，個人的由兵丁自備，火、隊裝備由折衝府籌備。個人裝備包括：弓一、矢三十、胡祿(裝箭的工具)、橫刀、礪石、大觿〔xi西〕(解結錐)、氈帽、氈裝、行藤各一，麥九斗，米二斗。番上宿衛的由衛府發給弓矢、橫刀。火裝備包括：六馱馬、烏布幕、鐵馬盂、布槽、鍤钁〔jue爵〕、鑿、碓、筐、斧、鉗、鋸各一，甲床二，鐮二。隊裝備包括：火鑽、胸馬繩、首羈、足拌等。
唐朝初年，沿襲隋朝舊制，從編戶農民中徵兵。農丁由保、閭、族、縣、州等各級地方政權管理。每保五戶，每戶成丁以二人計算，共10人。從10人中征二人為府兵。貞觀年間，改為12丁取一。服役年齡，唐初是20歲至60歲，後又改為21歲至61歲。唐玄宗時期一度改為25歲至50歲。府兵的揀選原則是「財均者取強，力均者取富，財力又均，先取多丁」(《唐律疏議》卷一六)。選中者輪番去衛府或其他鎮戍服役。如遇征戰，府兵有可能直接編為作戰部隊，參加戰鬥。
府兵服役期間，免除其個人的租庸調。在衛府番上時，給以「侍官」的榮譽稱號。征戰立功者授勛。
為充實府兵，唐朝政府規定三年一揀選。一旦選中，有了軍名，即終身服役，直到退役。服役後，府兵不脫離本鄉、本土，戶籍仍歸州縣，掛籍軍府，田地也仍攙雜於農戶之中，只有在番上教閱的時候，才集中於折衝府或番上的場所，過軍隊生活。
所謂番上，是指輪番抽調府兵到其所隸衛府或邊防重鎮服役。番上由兵部負責組織。每年番上次數依各軍府離番上衛府的距離遠近確定，每次一個月。一般是500里五番(即將府兵分為五組，每五個月徵發一次，輪流上番)，1000里七番，1500里八番，2000里10番，2000里以上12番。這種規定考慮往返耗費的時間和精力，有一定合理性。但距京城太遠的府兵，路途往返時間遠遠超過一個月的宿衛時間。為解決這一問題，唐朝規定，可以並番(讓遠道而來的府兵連服兩個月的役，以減少其往返時間)或納資代番(交納一定的財物，以免除番上)。
除番上宿衛外，府兵還有臨時徵發作戰的任務。如五番的府兵每人五個月應番上一次，如果臨時徵發作戰達10個月以上，回來以後10個月內可免除番上任務。如果不到10個月，回來正好輪上，則這次的番上任務也可免去。免番一般不超過三番。這種嚴密的番上制度，使府兵番上宿衛或徵發作戰前後都能得到一定的休整和訓練。但是這種制度必須以相當穩定的社會政治經濟形勢作保證。當社會出現動亂時，番上宿衛的府兵得不到按時更代，這種制度也就無法繼續執行。
十二衛府是皇帝禁軍，邊境重鎮關係到國家的安全，都需要素質較好的士兵，番上就是執行上述任務。輪番的辦法，對某一折衝府而言，每月抽出人數不多，對社會經濟影響不大，府兵服役的時間不長且苦樂比較平均。在統治者看來，這種制度的好處是能保證穩定可靠的兵源。但從管理的角度看，番上也有缺點，主要是時間太短，剛熟悉情況就要換班，不利於內部的協作和訓練。而且，番上時往返路程遠較番期本身長，對府兵個人的農業生產影響很大。如果折衝府有府兵1000名，距番上地點500里，應為五番，即五個月內分五次輪流番上，每次200人，每年每人要番上兩次，番期兩個月，估計往返路途一次需24天，兩次48天，約一個半月，連同兩次番期近四個月。此外，還需在府中教戰、校閱，府兵用於生產上的時間就不多了。
府兵在折衝府時，農閑時進行訓練，即所謂的「居常則習射，唱大角歌」(《舊唐書·職官志》)。番上之前，折衝府要集中考查府兵的技藝。每年冬季，折衝府要校閱在府府兵，藉以進行戰術訓練。教戰的辦法，據記載，是每年冬天來臨時，「折衝都尉率五校兵馬之在府者，置左右二校尉，位相距百步。每校為步隊十，騎隊一，皆卷稍〔shuo碩〕幡，展刃旗，散立以俟。角手吹大角一通，諸校皆斂人騎為隊；二通，偃旗稍，解幡；三通，旗稍舉。左右校擊鼓，二校之人，合噪而進。右校擊鉦〔zheng征〕，隊少卻，左校進逐至右校立所；右校復擊鉦，隊還。左校復簿戰，皆擊鉦，隊各還。大角復鳴一通，皆卷幡，攝矢，弛弓，匣刃；二通，旗矟舉，隊皆進；三通，左右校皆引還。是日也，因縱獵，獲各入其人。」(《新唐書·兵