1949年，北平和平解放，時任華北軍區政治部主任兼十九兵團政委的羅瑞卿參加了入城式。隨後趕到了西柏坡參加了七屆二中全會，會後又趕去了太原前線，任太遠前線副政委與周士第一起指揮太原戰役。太原戰役打的相當漂亮，在羅瑞卿與周士第的指揮下，四天四夜就攻克了太原。
隨後根據中央指示，參加太原戰役的部隊，一部渡江南下，一部分進軍大西北。此時軍中都在傳言羅瑞卿要出任西北軍區副政委一職。但是5月下旬，中央軍委副主席周恩來致電羅瑞卿，中央安排羅瑞卿擔任公安部部長一職。
這個任命讓羅瑞卿感到非常的意外，立刻坐火車來到了北平，當面請求周恩來，讓他回到部隊去打仗。周恩來拒絕了羅瑞卿的要求，並說：現在全國勝利在望，舊的國家機器都被打掉了，我們要建設新的。羅瑞卿還是沒有放棄打仗的想法，一再提議讓紅軍時期擔任紅軍保衛局局長的李克農擔任公安部部長一職。
其實羅瑞卿的建議不無道理，按理說李克農絕對是最好的人選，爲什麼沒有選擇李克農呢?原來中央爲了更好地分工，更好地建設新中國，中央決定取消中央社會部，成立情報與公安兩個部門，李克農一直是我黨優秀的情報專家，在戰爭年代立下了汗馬功勞，情報局局長一職非李克農莫屬。而公安部部長也就認定了羅瑞卿。
原來中央決定讓羅瑞卿擔任公安部部長一職除了因爲羅瑞卿是我黨優秀的軍事將領而在紅軍時期他就擔任過紅一軍團保衛局局長。在第四次反“圍剿”到長征，羅瑞卿共擔任了三年的保衛局局長，並且非常負責任，每次隨毛主席外出都寸步不離，從來沒有出現一點差錯。因此，當選擇公安部部長人選的時候，中央決定由羅瑞卿擔任。
1949年，10月19日，中央人民政府在軍事委員會第三次會議上決定：任命羅瑞卿爲公安部部長，同時兼任北京市公安局局長，稍後，又被任命爲公安部隊司令員兼政委。
