岳飛飽讀兵書，嫺熟武藝，早就盼着有一天能夠投身疆場，殺敵報國。在靖康之變發生的前幾年，金已經嚴重威脅着宋的安全，而岳飛家鄉也面臨金兵的直接威脅。那個時候，投軍報國是每一個熱血青年的選擇。所以，當真定府路安撫使招募敢死隊時，他就報名參加。由於岳飛個人素質出衆，不久就被任命爲一個管10個人的小隊長。這個職務大概相當於現代軍隊裏的班長。
在當小隊長期間，岳飛立了一功，那就是抓住了當地的黑幫頭子陶俊、賈進和。不過，這段軍事生涯並沒有持續多久，因爲岳飛的父親嶽和死了。按照封建時代的規矩，父母死，要按丁憂規定回家守孝三年，這是非常重要的人倫，如果不遵守會有大的麻煩，何況岳飛本來就是個大孝子。所以在得到父親去世的消息後，岳飛立即回家守孝。
守孝期滿，岳飛繼續投軍，這回是到了名將韓琦手下，但是沒當上正規軍，而是做韓家的莊客，也就是做看家護院的事。在這期間，岳飛也曾經在農民軍來犯的時候顯示了一下他的神箭，一箭射殺了對方首領。
韓琦是一代名將，岳飛更是中國歷史上軍神一類的人，但兩位軍事家的相遇並沒有擦出什麼火花，也許是岳飛當時還很年輕，兩人的年齡、地位差距太大。總之，兩位名將失之交臂。
岳飛當然不甘心一輩子給人家看家護院，看看在韓琦這裏沒有機會，不久改投駐紮在山西平定的宋軍地方部隊，大概是混了個連長之類的小軍官。雖然混上一個小軍官，但岳飛還是感到鬱郁不得志。因爲宋朝軍隊分禁軍和廂軍，禁軍是中央直屬部隊，廂軍是地方部隊。岳飛參加的是廂軍，裝備差，士兵大多是老弱病殘，就是參加戰鬥也很少打勝仗，所以個人發展的空間很小。
靖康元年12月初，宋徽宗的九兒子康王趙構在河北相州建立大元帥府，自己擔任“天下兵馬大元帥”，下令招募義勇民兵。相州許多窮苦百姓爲了保衛鄉土，紛紛從軍。岳飛也經人介紹，參加了趙構統率的軍隊，並且當上了一名小軍官。
一次， 岳飛帶領100名騎兵在滑州練習冰上騎射。
天氣很冷，黃河上結起厚厚的冰。金軍大隊人馬從冰上飛馳而來，岳飛見敵我懸殊，沉着地對部下說：“敵人人數雖多，但他們不知我們究竟有多少人，我們乘他們立足未穩給他們一個迎頭痛擊。”於是岳飛一個人衝進敵陣，一下子殺死一名揮舞大刀的金軍將領。岳飛手下的騎兵也乘機衝殺，殺了不少金兵。岳飛因爲這一次的功勞被提拔爲秉義郎，大概相當於正規軍的連長。
岳飛的突出表現，引起了所在部隊的最高領導汴京留守宗澤的注意。宗澤對岳飛說：“你在打仗方面的天賦，不比古代的名將差。但用野路子打仗，終究不能算上乘。”於是宗澤把打仗的陣圖傳授給岳飛。雖然面對自己的長官，岳飛也不盲從，說：“擺好了陣再打，只是平常的打法。真正精妙的戰法主要靠自己根據戰場情況靈機一動。”宗澤覺得岳飛說得有理。
岳飛跟着趙構征戰了一年多，沒想到宋朝居然滅亡了。金人俘虜了除康王趙構以外的所有皇子，倖存的趙構於1127年在南京稱帝，建立了南宋政權。趙構也就是高宗皇帝。
這個時候，岳飛以一個下級軍官的身份上書趙構，慷慨陳詞要求奪回中原，驅趕奸臣。這一下搞得宋高宗趙構很惱火。結果岳飛在部隊中的職務被一捋到底，連軍籍都沒保住，被趕回了老家。
類似的上書岳飛在他的一生中還會有好多次，所說的內容或者是驅除朝中奸臣，或者是恢復中原，他從來不管高宗喜歡聽什麼，也不管高宗忌諱什麼，岳飛的這種舉動在他自己看來是精忠報國，而宋高宗的看法是岳飛這個人政治上不成熟。
多年的軍旅生涯已經使岳飛習慣於部隊生活，所以還得去投軍。這一次，岳飛投靠了河北招討使張所。張所也是一位抗金名將，在一次長談中瞭解了岳飛的過人軍事才華，於是把岳飛安排到八字軍首領王彥手下。當時北方受到金人的侵略，有很多流離失所的難民，王彥招募身強力壯的流民組成了這樣一支武裝。
岳飛文武雙全，又有在正規軍裏當軍官的履歷，在八字軍裏當上了一名統制。王彥的部隊戰鬥力不強，基本上不打勝仗，只有岳飛帶領的部隊常打勝仗。所以岳飛逐漸自成一支，經常獨立行動，不太聽王彥的指揮，王彥很惱火，差點以軍法處置他。後來岳飛因爲缺乏軍糧，去向王彥請罪，但是王彥不願意見他，也不殺他，而是把他開除了。
這個時候宋軍已經亂套了，將領們帶着隊伍各自爲戰，於是岳飛投奔了宗澤。宗澤本來是岳飛的老領導，很喜歡這位熱血沸騰的年輕人，沒有治他脫離主將擅自行動的罪，而是留在帳前聽用，讓他戴罪立功。
岳飛在宗澤的部隊裏，率領四、五百人的小股隊伍，連續取得了黑龍潭、汜水關、竹蘆渡等戰役的勝利。宗澤提拔岳飛做了統制，那可是正規軍的中級軍官，相當於現在的團、旅長，能夠獨立地帶領一個作戰單位。這個職務對岳飛今後的發展很重要，從那以後，岳飛開始進入高宗的視線之內。
