相應地形成了我國認證制度的總體架構，它主要有四個層次：
（1）第一個層次是授權機構或管理機構。依據認證認可條例，國務院認證認可監督管理部門（目前為認證認可監督委員會）為授權機構，授權機構的職能是授權認可機構負責對認證機構的認可，并批準認可的結果；同時管理認證的國際合作和交流。
（2）第二個層次是認可機構。認可機構的職能是制定認可準則并依次開展對認證機構、檢查機構、實驗室和審核人員的資格認可。認可機構由各個利益有關方面的代表以及一批熟悉業務的專家組成。
（3）第三個層次是從事認證實踐的機構和人員，包括認證機構、檢查機構、實驗室以及從事審核、評審等認證活動人員。所有的機構都應是獨立的、具有法人地位的實體，在獲得認證資格后開展認證活動。
（4）第四個層次是企業。企業在自愿申請以后，按認證的程序文件接受認證機構的檢驗、評審以及事后的監督。