從1954年第一屆全國人大第一次會議，通過第一部憲法，批準設立國防部以來，到1982年第五屆全國人大第五次會議通過第四部憲法，取消國防部副部長職務為止，僅僅存在了28年時間。

在這28年的時間里，我國的國防部一共誕生了彭德懷、林彪、葉劍英、徐向前、耿飚5位國防部長，黃克誠、譚政、蕭勁光、王樹聲、蕭克、李達、廖漢生、粟裕、羅瑞卿、陳賡、許光達、許世友、劉亞樓、楊得志共14位國防部副部長。

其中蕭克、楊得志兩位開國將軍是最后任命的國防部副部長，于1980年初就任，在此之后，我國再也沒有任命過副防長，該職位直接被取消了。

國防部雖然是國務院組成部門，但國防部長在中央軍委和國務院均有任職。

從軍事角度看，新中國成立以來的13位國防部長，有4位是開國元帥，8位是上將軍銜，僅有耿飚一人沒有軍銜。彭德懷、徐向前由國務院副總理兼任國防部長，林彪、葉劍英、遲浩田、曹剛川由軍委副主席兼任國防部長，秦基偉、梁光烈、常萬全、魏鳳和、李尚福由軍委委員兼任國防部長，耿飚、張愛萍分別由軍委秘書長、副秘書長兼任國防部長。

從行政角度看，國防部是正部級，國防部長由全國人民代表大會根據(jù)國務院總理的提名決定。自1982年設立國務委員以來，歷任國防部長均由國務委員兼任。國防部長在國務委員中的排名并不固定，僅遲浩田、魏鳳和、李尚福三人擔任國防部長時，在國務委員中排名第一。