煬帝大業三年(公元607年)又增設了謁者、司隸二臺，合稱三臺。御史臺的長官爲御史大夫(從三品)1人，次官爲治書侍御史2人。屬官有侍御史8人，殿內侍御史、監察御史各12人，錄事2人。御史職掌糾察彈劾。如《隋書·李孝貞傳》載：隋初李孝貞爲內史侍郎，不稱職，文帝欲免其官，就先“敕御史劾其事，由是出爲金州刺史”。御史還出使巡察，監諸軍旅，如《隋書·柳彧傳》載：開皇時，柳彧爲治書侍御史，持節巡察河北五十二州，“奏免長吏贓污不稱職者二百餘人”;仁壽初，又持節巡察太原道十九州。煬帝時設置了謁者、司隸二臺後，便分割了御史臺的職權。謁者臺的職掌是奉詔出使，慰撫勞問，並持節察按，遇有冤獄則受而奏之。長官爲謁者大夫1人(正四品)。司隸臺職掌巡察京畿內外，長官爲司隸大夫1人(正四品)，屬官有別駕2人，分察畿內，一人管東都洛陽，一人管京師長安。有刺史14人，從事40人副之，掌巡察京畿以外的全國郡縣，其職責是“激濁揚清”，若遇貪黷的郡守則有權免職，有功則上報其事蹟，加以旌勉。不久，司隸臺被廢，改派以京官清明者掛司隸銜頭出使巡察。
隋初的都水臺和太常以下十一寺，到煬帝大業三年(公元607年)演變爲太常、光祿、衛尉、宗正、大僕、大理、鴻臚、司農、太府等“九寺”，以及國子、將作、都水、長秋和從太府寺分置的少府等“五監”，統稱諸寺、諸監，也都是中央具體的事務機關。由於各寺、監長官都得親自處理事務，所以往往選派懂得該方面事務或有專長的人擔任，如將作監掌土木工程，長官稱將作大匠。據《冊府元龜》卷602《卿監部·選舉》記載，宇文愷從小好技藝之事，有巧思，因受株連除名在家。楊堅建造仁壽宮時，特地徵召他代理將作大匠，以總其事。又如司農寺是掌屯田種植的，長官稱卿。據《隋書·樊叔略傳》載，樊叔略在任司農卿時，“凡種植，叔略別爲條制，皆出人意表”。再如太府寺在開皇時兼掌手工業，據《隋書·蘇孝慈傳》載，蘇孝慈在任太府卿時，“徵天下工匠，無不畢集，孝慈總其事，世以爲能。”隋代因設六曹尚書，所以寺卿的權力比秦漢之九卿爲輕。
楊堅出身軍事貴族，又憑藉軍政權力攫取了帝位，深知集中軍權對於鞏固統治的重要性。北周時期，強迫漢族官員改用鮮卑姓，兵士也要隨將軍改姓。楊堅下令恢復羣官舊姓，也就相應地改變了兵隨將姓的宗法隸屬關係。以後，在北周府兵制的基礎上，建立十二府：即左右衛、左右武衛、左右武侯、左右領、左右監門、左右領軍等，統領全部內外禁衛部隊。每府設大將軍1人，將軍2人，下轄驃騎、車騎府。十二府的大將軍直隸於皇帝，軍人總稱侍官。隋初兵府各級將領的數目比北周時增多，而品位則普遍降低二、三級。這些改變大大加強了以楊堅爲首的隋朝中央政權對軍隊的控制。到煬帝時，把隋初的十二府變爲左右翊衛、左右騎衛、左右武衛、左右屯衛、左右御衛、左右侯衛等十二衛和左、右備身府、左、右監門府等四府，統稱十六衛府。各府所轄之驃騎府改稱鷹揚府，軍人改稱衛士。十六衛府爲中央軍事宿衛機關，統領全國軍隊。這與尚書省兵部僅掌軍事行政，而無一兵一卒之權不同。十二衛各有大將軍1人，將軍2人，分統府兵。四府不統府兵，各置郎將1人，直齋或直閣若干人。備身府掌左右侍衛，監門府掌門禁守衛。
稱“皇儲”，置太師，太傅，太保及少師，少傅，少保，專司訓導。此外，在其府下還有一套文武人馬，其制擬中央官制，門下坊擬門下省，置左庶子2人，內舍人4人，錄事2人，主事令史4人，統領司經、宮門、內直、典膳、藥藏、齋帥等六局。司經局置洗馬4人，校書6人，正字2人。宮門局置宮門大夫2人。內直局置內直監、內直副監各2人，監殿舍人4人。典膳、藥藏、置監、丞各2人。藥藏又有侍醫4人。齋帥局置吏員4人。典書坊擬內史省，置右庶子2人，舍人、通事舍人各8人，錄事2人，主事令史4人，內坊典內及丞各2人，丞直4人，錄事1人，內廄置尉2人，掌內車輿之事。家令寺、率更令寺、僕寺，制擬中央諸寺諸監。家令寺置丞2人，掌刑法、食膳、倉庫、什物、奴婢等事。率更令寺置丞1人，掌伎樂漏刻。僕寺置丞1人，掌宗族親疏，車輿騎乘。家令寺領食官、典倉、司藏三署令。僕寺領廄牧令員。此外，東宮還置有十率府，即左右衛、左右宗衛、左右虞候、左右內率、左右監門，其制擬十六衛府。但實際上其職事都比較清閒，而且往往由他官兼領。如楊堅的長子楊勇爲太子時，高祖“多令大臣領其職”，據《隋書·蘇孝慈傳》載，兵部尚書蘇孝慈就曾掛名兼領太子左衛率、太子右庶子等職。
隋文帝採用北周之制，設“勳位”十一等，即上柱國、柱國、上大將軍、大將軍、上開府儀同三司、開府儀同三司、上儀同三司、儀同三司、大都督、帥都督、都督等，以酬答有功之臣。又設特進、左右光祿大夫、金紫光祿大夫、銀青光祿大夫、朝議大夫、朝散大夫等散官之號，以加封給品德高尚、聲名著稱但不理事的官員。隋代規定，有具體職責的官員稱“職事官”，無者爲“散官”。
