新一軍最初由國民革命軍新編第三十八師和新編第二十二師組成。新三十八師在國民黨軍中是一支非同尋常的部隊，它的前身是1932年組建的國民政府財政部稅警總團，稅警總團的裝備在國民黨軍中堪稱一流：清一色的美式裝備，從槍支、火炮、車輛到電臺、電話、望遠鏡以至罐頭食品、蚊帳、被褥，都印有USA標記;部隊裏裏外外，上上下下，除了那身灰布軍裝和瓷制的青天白日帽徽是中國貨外，其餘一律是“美國造”。該部隊官兵的素質遠遠高於一般的國民黨軍，營以上的軍官大多是英美軍校的留學生，外語說得比中國話還流利，士兵也大都是有文化的學生兵，再加上這支部隊薪水高、伙食好、訓練有素，因此其戰鬥力在國民黨軍中也是首屈一指的。
在淞滬抗戰中，稅警總團在唐橋站和蘇州河劉家宅一帶與日軍第九、第三師團血戰1個多月，隨後又擔負掩護大軍撤退的任務，總共作戰達66天，殲滅日軍數千人。從此，稅警總團這支非正規部隊引起了各界人士的注意。不久，宋子文將稅警總團改編爲緝私總隊，任命孫立人爲少將總隊長，率部進駐湖南長沙。隨後，緝私總隊又遷到貴州都勻整訓。1939年初，緝私總隊重新恢復了稅警總團的名稱，仍由孫立人任總團長，下轄3個團及炮兵、通信兵、工兵、輜重兵等直屬部隊各1個營。1941年12月，稅警總團改編爲國民革命軍新編第三十八師，編入陸軍第六十六軍戰鬥序列，隨即參加了中國遠征軍。
新二十二師是國民黨名將廖耀湘麾下的一支能攻善戰的部隊，成立於1939年1月，編在第五軍的序列中。它的作戰風格粗獷兇猛，似急風暴雨，如巨斧開山，進攻時，像秋風掃落葉;防守時似虎踞龍盤。無論是打阻擊戰、追擊戰、伏擊戰，還是攻堅戰、陣地戰、野戰，其表現都極爲出色。抗戰爆發後，新二十二師也併入中國遠征軍的序列。
1942年10月，蔣介石下令將駐印度的中國遠征軍新三十八師、新二十二師編爲新編第一軍，鄭洞國爲軍長，孫立人爲新三十八師師長，廖耀湘爲新二十二師師長，在蘭姆伽換裝美械裝備，接受美式訓練。
印緬戰場
美國人在蘭姆枷開設了許多軍事技術學校，如戰車學校、汽車學校、通信學校、工兵學校、指揮學校等等，還有專門的後勤保障學校。所有教官都是美國人，翻譯由學生兵擔任。在這裏，中國官兵分開受訓，接受美國西點軍校的軍事教育。
蘭姆枷基地集結了大批由緬北潰退的中國軍隊，同時，又補充吸收了一批文化水準較高的青年學生，使在這裏的中國軍隊既裝備了全新武器，又進行了全套美式訓練，還充實了新生力量，其整體素質遠高於中國國內同類型的國民黨軍。中國駐印軍隊的武器裝備和經費開支全部由美國政府提供，其編制爲：“每個師3個步兵團，2個炮兵營，工兵、輜重兵、通信兵各1個營，另有衛生隊和1個特務連，作戰開始配屬1個戰車營。每團3個步兵營，迫擊炮、平射炮各1個連，另有通信連、衛生隊和特務排，全團約3000人。每營3個步兵連，1個機炮連。每連3個排，每排3個步兵班，1個輕迫擊炮班。總指揮部直屬部隊計有：炮兵5個團，每團重炮36門。汽車兵團有載重汽車400輛。工兵、化學兵和重迫擊炮兵2個團，騾馬輜重兵1個團，另有7個戰車營，每營坦克、裝甲車若干……”
中國士兵在這裏扔掉老式“漢陽造”、“中正式”，換上美製“M1湯姆式”衝鋒槍，頭戴防彈鋼盔，配發進攻型手榴彈。每個步兵班配備班用輕機槍若干。同時，步兵在未來作戰時，還能得到來自空中的強大火力支援和後勤補給。這樣，中國駐印軍隊在武器裝備和機動能力上已經達到當時歐美資本主義發達國家軍隊的A級水平，步炮比例達到3比2，第一次從武器上壓倒了日本人，從而爲打敗和消滅不可一世的日軍奠定了基礎。
新一軍這支猛虎出山後，遇到的第一個對手是號稱“叢林作戰之王”的日軍第十八師團，在“二虎相鬥”中，新一軍的雄風表現得淋漓盡致。
1943年10月24日，在緬甸新平洋和於邦大戰中，新一軍大敗日軍第十八師團。日軍以5倍於新一軍的優勢兵力，竟然吞不下新一軍1個先遣團，日軍損兵折將近2000人，這是中國軍隊首創對日軍作戰以少勝多的壯舉。
從1943年10月到1944年3月，新一軍已攻入緬甸境內150餘公里，共擊斃日軍軍官60餘名，打死打傷日軍官兵12000餘名，自己傷亡6495人。
1944年4月，在亞洲中南半島地區的緬甸卡盟、孟拱之戰中，新一軍殲滅日軍第三十三軍16100多人，並在危難時刻，解救了被日軍打得潰不成軍的英軍第三師七十七旅。
1944年5月至8月，在80天之久的緬甸密支那攻堅戰中，新一軍殲敵近4000餘人，日軍密支那城防司令水上源藏少將切腹自殺。攻克密支那，標誌着中、美、英盟軍在印緬戰場取得了決定性的勝利，日軍在緬北的防禦體系從此土崩瓦解。在印緬戰場與日軍交鋒，使新一軍成長爲馳名東西方的“王牌軍”。
