山縣有朋出生於荻城下的阿武郡川島村(現山口縣荻市川島)，父親僅僅是一名身份低微的倉庫警衛員。山縣有朋自小不愛讀書，每日以舞刀弄槍爲樂。所謂書癡者文必工，藝癡者技必良，熱愛耍槍的山縣有朋在少年時代便成爲一名槍術名家。日本英雄的落日，明治時代的象徵山縣有朋有着怎樣的經歷呢山縣有朋是山縣家的長男，本來要順理成章地繼承父親的警衛員工作，但因爲他槍術精湛，他被藩廳看中，成爲京都派遣組的一員。當時的京都乃是風暴的中心，來自全國各地的攘夷志士們齊聚京都，遠處一隅的長州藩廳生怕錯過政局變動的關鍵信息，專門派遣小組前去搜集情報。於是，安政五年(1858年)7月，山縣有朋和伊藤博文(時名伊藤俊輔)等6人踏上了上洛的旅程。 一直生活在荻城下的山縣有朋原是個犟頭犟腦的少年，他粗鄙不文，甚至連尊王攘夷的“尊”字都不會寫。可是，突然從鄉下來到繁華的京都，得以與各地誌士來往，他在短時間內接觸到太多太多的新鮮事物，一時受到了巨大的衝擊。久阪玄瑞時爲長州志士們的智囊，他見山縣有朋懵懵懂懂，便經常和他講解尊王攘夷的道理。9月，山縣有朋等回到長州荻城，那時的他已經成了徹頭徹尾的攘夷派。
回到荻城後，山縣有朋不久便進了吉田松陰的松下村塾學習。山縣有朋的性格並非吉田松陰所喜，但介紹他入學的人乃是吉田松陰最喜愛的弟子久阪玄瑞，吉田松陰自然不會拒絕。松下村塾中英才濟濟，吉田松陰也經常在塾中點評各位弟子的性格和行事。他把久阪玄瑞比作朝堂高官，把高杉晉作比成蠻牛，把入江九一比作木刀，卻把山縣有朋比作一竅不通的棒槌。被師傅如此輕視，當時山縣有朋的沮喪心情可想而知。不過，雖然不被欣賞，山縣有朋卻對吉田松陰十分尊敬，終生以“鬆陰先生門下生”爲傲。吉田松陰的諸位弟子多是正經長州藩士出身，足輕家庭出身的伊藤博文已是異類，而山縣有朋的出身較伊藤博文更次。雖然時值幕末，原本嚴苛的身份制度已經大大弛緩，但藏元附中間(倉庫警衛員)的孩子想要出人頭地，仍是難上加難。 在幕末時分，長州藩內鬥不斷。以高杉晉作等人爲首，主張攘夷的“正義派”與主張服從江戶幕府的“俗論派”勢均力敵，雙方各不相讓，也令藩政時有搖擺。文久三年(1863年)5月10日，長州藩在關門海峽炮擊外國船隻，引發了美國和法國的反擊，“下關戰爭”就此爆發。傳統的武士們戰鬥力低下，在洋人面前不堪一擊。爲了抗擊外敵，高杉晉作組建了“奇兵隊”。“奇兵隊”中身份混雜，僧俗兼有，貴賤不問，山縣有朋也因此得到了發揮才能的難得機會。
“奇兵隊”雖然戰鬥力不弱，但隊士出身不佳，始終受到由正規武士組成的撰鋒隊壓制。同年12月，奇兵隊和撰鋒隊終於起了衝突，在混戰中，一名撰鋒隊隊士被襲身亡。長州藩廳追究下來，身爲奇兵隊總管的高杉晉作只好引咎辭職，山縣有朋和赤根武人擔任了軍監。赤根武人爲人現實，主張與“俗論派”講和，卻因此遭到攘夷志士的懷疑，赤根武人只能遠走避禍。赤根武人遠遁後，山縣有朋成爲奇兵隊的實際控制者。元治元年(1864年)8月5日，爲了報復長州藩的攘夷行動，英國、美國、法國、荷蘭四國集結了17艘軍艦，向長州藩的下關發動了連續炮擊。因在不久前的“禁門之變”中大受打擊，面對列強的猛烈炮擊，長州藩兵幾無還手之力。山縣有朋率領奇兵隊參加了戰鬥，但在洋式火炮面前，揮舞着刀槍的隊士們戰鬥力略等於零，連山縣有朋也受了傷。四國艦隊連續炮擊1小時後，長州藩設在下關的炮臺全部被摧毀。次日，四國軍隊登陸，輕而易舉地佔領了下關炮臺。親眼看到了洋人們的新式裝備，山縣有朋深感長州軍備已然落後了百餘年，他也從一個激進的攘夷派迅速轉變成開國派。
可是，籠罩在長州藩頭上的厄運似乎並沒有完結。長州藩一直高調攘夷，本已讓公家的“公武合體派”深感不快，而長州藩吃了“八一八之變”的苦頭後不思悔改，還鋌而走險發動“禁門之變”，更讓京都的孝明天皇怒不可遏。他命令江戶幕府集結軍隊，討伐長州“朝敵”。剛被四國艦隊打得一敗塗地的長州藩眼看又要陷入苦戰。9月25日，長州藩召開了大型會議，討論藩政應該何去何從。會議結束當晚，屬於“正義派”陣營的井上馨遇刺，傷勢垂危，同情“正義派”的長州重臣周佈政之助自盡，長州藩政再次被主張服從江戶幕府的“俗論派”所控制。聽到情勢危急的消息，在藩外避禍的高杉晉作冒險迴歸長州，並於12月16日起兵，立誓要奪還藩內大權。聽說高杉晉作起兵的消息，伊藤博文立即前往，山縣有朋也帶領奇兵隊響應，在衆人的齊心協力下，長州藩政重新回到倒幕開國的軌道上。
慶應元年(1866年)，山縣有朋正式成爲奇兵隊總管。在江戶幕府發起的“第二次長州征伐”中，山縣有朋在高杉晉作與大村益次郎的指揮下英勇戰鬥，被公認爲長州志士中首屈一指的實戰人才。在明治政府統一全國的“戊辰戰爭”中，他先後被任命爲北陸道鎮撫總督參謀和會津征討總督參謀，他在東北打了一系列硬仗，顯示出優異的指揮才能。
明治維新成功後，政府論功行賞，山縣有朋也被封了600石。在人才濟濟的明治政府中，山縣有朋只是個後輩，遠遠算不上頭面人物。不久，他就被派去歐洲遊歷，任務是考察各國的軍事制度。當時陸軍的實權人物乃是長州出身的大村益次郎，他有意廢除陳舊兵法，建立徵兵制，推行全民皆兵，力爭建立西洋式的先進軍隊。可是，大村益次郎的改革激起了士族們的不滿，大村益次郎在京都遇刺，不久不治身亡。考察歸來的山縣有朋繼任陸軍大輔，在西鄉隆盛的支持下繼續推行軍事改革。
在江戶時代，平民並沒有服兵役的義務，所有的軍事任務都有武士承擔。可是，初初建立起的徵兵制將服兵役定爲普遍義務，只有長子和養子才能被豁免。明治政府的蠻橫政策引起國民的極大反感。與此同時，政府官員又頻發貪污腐化醜聞，更讓明治政府的形象雪上加霜。
大村益次郎遇刺後，山縣有朋已經成爲陸軍中舉足輕重的人物。在幕末，長州志士們侵吞公款實屬平常。明治維新後，長州閥官員也在金錢上素來散漫，山縣有朋自然也沾染了這樣的習氣。他在成爲陸軍大輔後仍然惡習不改，終於釀成了震驚全國的大丑聞。
明治五年(1872年)11月29日，陸軍省的御用商人山城屋和助在陸軍省辦公室內切腹自盡，一時間成爲街頭巷尾的議論焦點。坊間議論紛紛，都說山城屋和助的自殺與陸軍大輔山縣有朋脫不了干係。
山城屋和助原是長州奇兵隊的成員，算得上是山縣有朋的老部下。明治維新成功後，山城屋和助脫下軍裝，在橫濱開了店鋪，成爲一位貿易商。因與老上司山縣有朋私交甚篤，他便順理成章地成了陸軍省的御用商人，專門負責購買軍需品。山城屋和助憑着陸軍省源源不斷的訂單賺了大錢，但他仍不滿足。他見國際生絲市場繁盛，靈機一動，起了投機的念頭。山城屋和助通過山縣有朋挪用了陸軍專用的公款，開始大手筆地開設生絲工廠，試圖藉此賺取高額利潤。但是，所謂人算不如天算，普法戰爭勃發，生絲價格一落千丈，山城屋和助所挪用的公款被虧得一乾二淨。他找到山縣有朋哭訴，爲了幫助山城屋和助彌補虧空，山縣有朋又暗中挪用了公款借給他。山城屋和助帶着鉅款來到法國，試圖重新投資。但是，在法國，山城屋和助依然花錢大手大腳，不改奢華習慣。日本駐法公使見此人形跡可疑，便向外務省通報。外務省經過一番調查，發現山城屋和助的資金來自於山縣有朋——山縣有朋一共挪用了65萬日元，相當於當時陸軍預算的十分之一。
事發後，爲了避免追究，山縣有朋匆匆將山城屋和助召回日本，逼迫他還清所有欠款。可是山城屋和助的店鋪已在破產邊緣，根本無力償還。山城屋和助四處求告，可曾與他關係密切的長州閥官員都與他斷絕了關係。11月29日，山城屋和助將所有證據文件付之一炬，最後一次前往陸軍省請求山縣有朋幫助，可山縣有朋拒絕與他相見。絕望的山城屋和助在陸軍辦公室切腹自殺，事情的真相也被埋葬。
因山城屋和助焚燬了所有證據，山縣有朋得以全身而退。縱然如此，當時輿論如沸，他也只能引咎辭職。可是，因爲軍事人才缺乏，2個月後，他又被提拔爲陸軍卿。之後，山縣有朋一手創立了參謀本部，直接促成統帥權的獨立;他又推動了軍人敕諭的發佈，讓軍隊日益特殊化。可以說日本陸軍的方方面面都留下了山縣有朋的影子。
明治十年(1877年)，“西南戰爭”勃發，明治政府的元勳、“維新三傑”之一的西鄉隆盛終於舉起了反旗。對於山縣有朋而言，西鄉隆盛實在是特殊的人物。於公而言，他是維新的大功臣;於私而言，他又是自己的恩人。在他接替大村益次郎擔任陸軍大輔時，正是因爲西鄉隆盛的幫助，他才得以順利推行軍事改革。而山城屋和助的醜聞爆發後，同在陸軍省任職的桐野利秋(原名中村半次郎)激於義憤拍案而起，想要將罪魁禍首山縣有朋一刀兩斷。桐野利秋曾是“幕末人斬”之一，出刀之快人盡皆知。西鄉隆盛聞訊趕來，厲聲喝止了已然持刀在手的桐野利秋，這才救了山縣有朋的性命。但是，西南戰爭爆發後，山縣有朋並未有分毫手軟。在接到大久保利通“嚴厲鎮壓”的命令後，他立刻率領鎮臺軍奔赴戰場。
從幕末時分起，薩摩士族便有“最強武士”的美譽，西鄉隆盛更是全國士族崇拜的偶像，聽說要與薩摩人交戰，士兵們都惴惴不安。山縣有朋爲他們打氣，讓他們不要多想，只管迅速開槍，再強的武士也抵擋不住槍彈。山縣有朋集結了大量軍力，動用了巨量洋式槍炮，最終取得了西南戰爭的勝利。他也因此被授予勳一等旭日大綬章，成爲名副其實的陸軍一號人物。
