苗晉卿年輕時勤奮好學，善作文章，後考中進士，授爲修武縣尉，歷任奉先縣尉、徐州司戶參軍、萬年縣尉、侍御史、度支員外郎、兵部員外郎、吏部員外郎。
主持銓選
開元二十三年(735年)，苗晉卿升任吏部郎中，後與孫逖一同被拜爲中書舍人。開元二十七年(739年)，唐玄宗命苗晉卿主持吏部銓選事務。候選官員爲求肥缺，有的軟磨硬纏，甚至出言不遜。苗晉卿性情謙和，對此毫無怒色。
開元二十九年(741年)，苗晉卿升任吏部侍郎。他主持銓選五年，政策寬鬆，屬下胥吏趁機作惡，以致賄賂成風。當時，天下承平已久，每年候選官員多達萬餘，宰相李林甫雖兼任吏部尚書，但專心於朝政，銓選事務都被委託給苗晉卿與侍郎宋遙。
天寶二年(743年)，御史中丞張倚的兒子張奭到吏部候選。苗晉卿與宋遙因張倚正受玄宗寵信，欲攀附於他，便在錄取的六十四名官員中將張奭列爲第一。時人都知張奭從不讀書，因此羣議沸騰。前薊縣縣令蘇孝韞告知安祿山，安祿山則趁覲見之時奏與唐玄宗。唐玄宗親自在花萼樓測試，錄取官員能通過考覈者只有十之一二，張奭則直接交白卷。唐玄宗大怒，將苗晉卿、宋遙、張倚一同貶官。苗晉卿被貶爲安康太守。
歷職致仕
天寶三年(744年)，苗晉卿改任魏郡太守，兼河北採訪處置使。他在河北任職三年，政績突出，又調任河東太守、河東採訪使，但魏郡百姓仍爲其立碑。此後，苗晉卿歷任工部尚書、東京留守、憲部尚書。
天寶十四年(755年)，安祿山起兵反唐，竇廷芝棄守陝郡。宰相楊國忠嫉妒苗晉卿的聲望，便奏請以苗晉卿爲陝郡太守、陝虢防禦使，企圖將他排擠出朝廷。苗晉卿卻自稱年老多病，堅持不肯赴任。唐玄宗很不高興，便讓他致仕退休。
至德元年(756年)，叛軍進逼長安，唐玄宗入蜀避亂。皇太子李亨北上靈武，被擁立爲帝，是爲唐肅宗，並尊唐玄宗爲太上皇。當時，朝中大臣多被叛軍俘獲，陳希烈、張均等數十人被送往洛陽，接受僞職。苗晉卿則由小路逃往金州。
復起拜相
至德二年(757年)，唐肅宗到達鳳翔，將苗晉卿召赴行在，拜爲左相，每遇軍國事務都要諮詢他的意見。同年十月，郭子儀收復兩京，唐肅宗返回長安。苗晉卿改授侍中，進封韓國公，食實封五百戶。
乾元二年(759年)，苗晉卿見唐軍逐漸平定叛亂，便上表乞骸骨，請求退休。唐肅宗下詔褒獎，免去他的宰相職務，改授太子太傅。上元元年(760年)，唐肅宗又思念舊臣，再次徵拜苗晉卿爲侍中。
寶應元年(762年)，唐玄宗病逝。唐肅宗臥病不起，便命苗晉卿攝冢宰，苗晉卿極力辭讓。不久，唐肅宗病逝。唐代宗繼位，又命苗晉卿攝冢宰，苗晉卿仍然不肯接受。當時，苗晉卿年紀老邁，行走困難，請求隔天一入政事堂。唐代宗允許他在入朝時不用急步而行，並在延英殿召對，以示優禮。
晚年生活
廣德元年(763年)，吐蕃攻入長安，唐代宗逃往陝州。當時，苗晉卿正臥病在家，遭到吐蕃軍威逼。他閉口不言，吐蕃軍也不敢加害。不久，郭子儀再次收復長安。唐代宗免去苗晉卿的宰相之職，冊拜他爲太保，隨即又命他退休。
永泰元年(765年)，苗晉卿病逝，終年八十一歲，追贈太師，賜諡懿獻，唐代宗還命京兆少尹爲他操辦喪事。宰相元載此前曾得到苗晉卿的提拔，因此諷勸太常寺，將苗晉卿的諡號改爲文貞。大曆七年(772年)，苗晉卿的靈位被放入唐肅宗的宗廟。
軼事典故
苗晉卿在擔任魏郡太守時，回鄉探親。他走到能看到壺關縣城的地方，便下車步行。小吏勸道：“太守位高德重，不應如此貶低自己。”苗晉卿道：“《禮記》曾說，看到公門要下車，見到路馬要撫軾，以示崇敬。何況這是父母之邦，更應尊敬，你不要多言。”他大宴鄉黨，歡會數日，又拿出俸祿三萬，作爲鄉學經費，以教育家鄉子弟。
