自中條山會戰後，華北戰場將近三年沒有發生大的戰事，過久的“和平”使國軍失去警覺;再加上1942年罕見的旱災，使河南民生困苦，軍隊補給不足，有限的兵員和物資又被史迪威優先補充給遠征軍。因此，第一戰區各部的戰力已經跌到了谷底。
抗戰中，蔣介石會見參加豫湘桂會戰的國軍將士
有人陽奉陰，違有人頤指氣使，豫中會戰國軍節節敗退
豫湘桂會戰首先在河南打響，日方總指揮爲華北方面軍司令官岡村寧次，主力爲第12軍，包括戰車第3、第37、第62、第110師團，獨立混成第7團、騎兵第4團，共5個師團又3個旅、1個飛行團，總計14.8萬人——當初日軍掃蕩華北，只出動了7萬人就使八路軍損失慘重。中國方面參戰的有第15、第19、第28、第31、第14、第4、第36、第39集團軍，共8個集團軍、1個兵團共17個軍約40萬人。
蔣鼎文被稱爲蔣介石的“五虎上將”之一，早年追隨孫中山，曾參與東征陳炯明。1942年1月接替衛立煌任第一戰區司令長官。湯恩伯曾率部參加臺兒莊戰役、武漢會戰等，1942年任第一戰區副司令長官兼魯蘇皖豫邊區總司令。
蔣、湯共事之初就矛盾重重，蔣鼎文自恃是革命元老，對湯恩伯頤指氣使，但後者常常陽奉陰違。蔣鼎文的司令長官部設在洛陽，直接指揮豫西四個集團軍，湯恩伯的副司令長官部駐葉縣，下轄豫中和豫南的四個集團軍。正副長官互相拆臺的局面，無疑給了日寇可乘之機。
1944年4月18日凌晨，日軍第37師團配屬獨立混成第7旅從中牟渡過黃河，夜襲第28集團軍暫編第15軍河防陣地，守軍倉促應戰，陣地很快失守。次日，日軍第110、第62師團向第28集團軍第85軍邙山頭陣地發起攻擊，整個28集團軍守備的黃河南岸陣地全線潰敗。日軍順利渡過黃河之後，全力發動攻勢，第37師團攻陷中牟，第62師團攻克鄭州，第一戰區的正面防線就此被徹底撕碎。至23日，日軍相繼攻陷新鄭、尉氏、汜水、密縣等地。
此時，駐守安徽的日軍第13軍一部，從正陽關、鳳台向阜陽運動，擺出了進攻河南的架勢，嚇得豫東國軍不敢動彈。與此同時，正面日軍以3個師團又2個旅團的強大兵力迅速包圍了平漢路的重鎮許昌。
呂公良血戰許昌，別妻女與城共存亡
許昌是國軍在平漢鐵路上最北端的陣地，地勢平坦，易攻難守，蔣介石電令蔣鼎文以兩個師的兵力防衛許昌，但湯恩伯實際只派出15軍的第29師駐守許昌，師長爲呂公良。
籌備守城期間，呂公良的妻子帶着女兒來到許昌，但呂師長忙於軍務，只是把她們安置在師部住下。當呂公良抽出時間與家人相見時，他對妻子說：“我這次受命固守許昌，同日軍必有一場惡戰。我已抱定與許昌共存亡的決心。假如我爲國犧牲了，乃是全家的光榮，你們定會受到國家的撫卹、民衆的尊敬。你要多多保重，萬望把兒女們撫養好，一切都拜託你了。”
1944年4月28日夜，日軍出動第37師團、第62師團等8萬人，分三路圍攻許昌，國軍29師奮起還擊。日軍在北路、西路和南路都遭到頑強阻擊，在許昌東南角的塔灣，有班長王合義腹部中彈，腸子都流了出來，還堅持戰鬥;有連長吳超赤膊上陣，一手拿槍，一手提刀，與敵人拼殺。國軍將士死戰，但日軍空中有轟炸機掩護，路上有坦克支援，逐步攻入許昌。
南門失守後，團長李培芹在前往師部彙報情況的路上，看到有部隊後撤，當即對空連放機槍，喊道：“不準退，都給我頂住!”隨後與士兵同赴南門，率軍反攻。連長黃正道是副師長黃永淮的侄子，他從南門撤退時正碰上叔叔。黃副師長拔槍命令道：“堅決頂住，後退者槍斃!”黃正道遂轉身返回戰場，爲國捐軀。
許昌危在旦夕，呂公良召集各級軍官，商討突圍。呂公良一面含淚焚燒軍旗，一面對官兵說：“若我們突圍成功了，要同日軍繼續戰鬥。若失敗了，要抱定不成功，便成仁，生爲中華人，死爲中華魂的決心，不投降，不受辱。”
5月1日凌晨，29師開始突圍，團長楊尚武、李培芹等陣亡，呂公良和黃永淮負傷。天亮後，黃永淮與30餘名士兵一起被俘，他目睹日寇殘殺同胞後，忍無可忍下奪過一名日軍士兵的槍，打死了一個敵人，其後自己也被擊斃。
呂公良身中幾槍後讓警衛員先走，自己則倒在路邊。戰後有農民路過時發現了血泊中的呂公良，但爲時已晚，不久呂師長去世，時年41歲。此前日軍誤以爲擊斃了呂公良，爲其立了一塊碑，上書：“勇將新編第二十九師師長呂公良之墓”。
豫湘桂會戰中的中國戰俘
敗軍潰退還搶劫，百姓武裝起來追擊
日軍攻克許昌後，又一路西進，攻佔了郊縣、襄城、臨汝， 圍殲了湯恩伯部的主力第13軍。一路沿平漢路繼續南犯， 佔領了臨潁、哪城、遂平。蔣鼎文擔心自己遭到合圍，帶着大量物資，率所部倉皇逃往伏牛山。湯恩伯見友軍撤退，只好率部突圍。
湯恩伯部在潰敗時軍紀很差，曾在第13軍任團長的方耀後來回憶說，有些士兵公然闖進民宅，翻箱倒櫃地搶東西。一些敗軍所到之處，就地掠奪糧食和豬牛羊，留下一張據說可抵徵購糧的“白條”。敗軍所爲激怒了老百姓不假，但赤手空拳終究是打不過有槍有炮的丘八老爺。所以將國軍(如第31集團軍一部)繳械的其實是“武裝民衆”，他們或是地方士紳的私人武裝，或是中共遊擊隊。
豫西“宜、洛、澠、陝四縣聯防”的領導人賀澎三也回憶說，“漫山遍野盡是國民黨潰退軍，到處搶劫。被激怒的豫西老百姓，爲了保全性命，不得已起而攻打國民黨軍，這樣一來，蔣軍不敢進村莊，鑽空子逃竄。羣衆高呼繳槍，國民黨軍成營成團都乖乖地繳了槍。有的自己丟掉槍支，徒手逃命。”
河南百姓怨恨政府軍是有緣由的，正如黎東方先生在《細說抗戰》一書中說的，河南一省地方雖大，但西部山區生產的糧食很少。自戰爭爆發以來，河南被國軍幾十個師與日軍幾個師團擠滿。即使沒有各種災害，也讓河南民不聊生了。
在河南國軍潰敗之際，日軍第12軍繼續南下，與由信陽附近北上之第11軍宮下旅團在確山會師。日本人終於打通平漢鐵路。趁河南國軍潰敗之際，駐山西的日軍第1軍一部從垣曲強渡黃河，攻佔河南英豪、澠池後，沿隴海鐵路東西分進。此舉不但截斷了隴海線，還一口氣掃蕩了洛陽以西的後勤基地。
李家鈺斷後殉國，蔣介石爲題寫“勳烈常昭”
5月6日，蔣鼎文從洛陽撤到新安。10日夜，他又帶着幕僚和參謀人員，從新安向西南撤退。5月11日，蔣介石打電話給李家鈺：“其相兄!新安以東部隊很多!銘三(蔣鼎文字)去後!希望你將總司令部移到新安鐵路以南地區!就近指揮照料戰區各部隊其相兄重託了!”李家鈺出身川軍，主動請纓抗日，他曾慷慨賦詩：“男兒仗劍出四川，不滅倭寇誓不還;埋骨何須桑梓地，人間到處是青山。”李家鈺先奉命在晉東南與八路軍協同作戰，1939年升任第36集團軍總司令，下轄三個軍。
1944年春，第一戰區長官部得到日軍將要發動大舉進攻的情報時，蔣鼎文在洛陽召集高級將領，商討對策。軍官們坐在一起，雲山霧罩地講了半天，沒有商量出任何結論。李家鈺說，戰事一旦爆發，洛陽將很危險，“因爲我們兵力雖是強大，但在配備上，不僅涉及細部，沒有重點，而且一切部署，都要經過上級決定後，纔敢行動。這樣遙控部署，就失去了靈活性，將來也難免有膠柱之虞。”他在會上還建議先發制人，派出飛機轟炸日軍的橋頭堡——邙山頭，但未被採納。
李家鈺接到蔣介石電話後，決定率部掩護友軍撤退，他對麾下將士們說：“我們南渡以來，吃了河南老百姓四年的飯，現在不能見了日本人就跑。否則，怎麼對得起老百姓!日本人有什麼可怕的，他們來了，我們就同他們打。別的部隊怕跑在後面捱打，我不怕，我願殿後。”
當時李家鈺手上能動用的兵力只有四個團，他在向秦家坡後退時，因身着黃呢大衣，目標顯著被日軍發現，遭遇伏擊。他在指揮作戰時中彈犧牲。戰事結束後，有士兵找到李家鈺的遺體，看到總司令穿的圓口布鞋上佈滿槍眼，手裏還拿着筆記本和鋼筆。同時陣亡的還有第36集團軍總部副官處長周鼎銘少將、步兵指揮官陳紹堂少將等。
《李上將家鈺傳》說，李家鈺率部“節節抵抗，遲滯敵軍，我潼關內抽調的各友軍，得以兼程出潼關以東，迎頭痛擊日軍，收復靈寶、虢鎮、陝縣一帶，戰局才轉危爲安。”國民政府追授李家鈺爲陸軍上將，蔣介石爲其題寫了“勳烈常昭”四個字。
蔣鼎文、湯恩伯被撤職
洛陽是國民政府在河南的政治中心，日軍對其志在必得。5月5日，日軍開進龍門，開始部署進攻洛陽。守衛洛陽的是劉茂恩麾下第14集團軍的第十五軍，軍長武庭麟;城內進行巷戰的是李家鈺36集團軍下屬的一個師。
洛陽保衛戰極爲慘烈，如在5月12日，日軍以2000餘人，戰車70餘輛，大炮數十門的兵力向七里河橋等陣地發起進攻。中國守軍先以手榴彈殺傷敵人，後雙方在此展開白刃搏鬥。至次日守軍彈盡援絕，陣地上一連官兵全部犧牲，陣地才被攻陷。
雙方在洛陽城廂的爭奪最爲激烈。守軍在城外挖了寬6米、深7—8米的城壕，壕內引來流水，成爲一條護城河。城內各條街道也都挖有2米深的壕溝，邊上堆有麻袋、沙土或磚石。自22日起，中國守軍撤往城內，與來犯日寇進行最後的戰鬥。
24日拂曉，日軍出動飛機轟炸洛陽，同時以五六千兵力進攻東城。中午時分，120門火炮向城內轟擊，大量工事和房屋被摧毀。有了炮火掩護，日軍組織戰車300餘輛，分六路猛攻。下午5時，指揮部與各處守軍失去聯絡，士兵們各自利用房屋與敵巷戰。25日，洛陽失守。事後統計，在洛陽保衛戰中，國軍打死打傷日軍萬餘人，擊毀戰車60餘輛。中國守軍傷亡同樣慘重，突圍後官兵僅剩2000餘人。
豫中會戰歷時37 天，四十萬中國軍隊竟擋不住十幾萬日軍的進攻而一敗塗地。丟失城市38 座， 損失兵員20 餘萬。所幸胡宗南派出5個軍支援，纔沒讓日軍兵進潼關，威脅陝西。
蔣介石震怒之下，要求追查戰敗原因。他責令蔣鼎文辭職，撤了湯恩伯第一戰區副司令長官和魯蘇豫皖邊區總司令的職務。對於豫中會戰失敗原因，陳誠總結爲“四不和”：將帥不和、軍政不和、軍民不和與官兵不和。白崇禧則在戰術上歸結出兩個原因，一是“就數量而言，我軍兵力較敵爲優，而於質量上，則不若敵精煉，裝備方面更遜敵一籌”;其二就是“制空權操於敵手，且缺乏平原作戰之利器，故於平原地形之作戰，遭遇困難”。
