安史之亂使得唐朝的國力一落千丈，即使是平定後，它遺留下的病根也在一點一點地侵蝕着唐朝。戰亂雖然被平息了，但留下了藩鎮割據這一後遺症。整個國家的政令不通，朝廷成了擺設，各地藩王都成了土皇帝。雖然還遠遠沒有達到令唐朝四分五裂的地步，但是也使得朝代的風氣稍顯頹廢。武元衡就是在這樣的背景下出生的。
武元衡，字伯蒼，河南緱氏人。他的曾祖父武載德是武則天的族侄，官至湖州刺史;他的祖父武平一是唐高宗與武周時期的詩人，擅長寫文章，官至考功員外郎;他的父親武就曾擔任殿中御史，也擅長吟詩作賦。受到家庭環境的薰陶，武元衡在詩歌方面的造詣很高，但與唐朝許多才華橫溢的著名詩人不一樣，武元衡的詩歌並沒有他們出衆，但他的仕途之路十分順利。
建中四年，26歲的武元衡金榜題名，位列進士榜首。武元衡似乎是天生的政治家，金榜題名後擔任華原縣令，後來得到唐德宗李適的賞識，提拔他擔任比部員外郎，這是中央官吏中的要職，又因爲工作十分出色，一年內連升三級，官至左司郎中。唐德宗十分了解武元衡的才華，武元衡46歲時升遷爲御史中丞，經常與唐德宗討論國事，德宗稱讚武元衡有宰相的才能。
永貞元年，唐德宗去世，唐順宗繼位。唐順宗繼位後，急於改變藩鎮割據與宦官專權的局面，啓用了主張改革的“二王劉柳”。他們打着改革派的名義，邀請武元衡加入朋黨，卻遭到了拒絕。正因爲如此，武元衡被誹謗陷害，他被罷職後改任太子右庶子。
武元衡是十分幸運的，唐順宗只做了一年的皇帝便逝世。唐憲宗李純繼位後，他對於武元衡也十分欣賞，再次讓他擔任中丞相、戶部侍郎。
元和二年，高崇文平定了蜀地的叛亂，充當劍南西川節度使。但是他打仗可以，在管理方面卻有些力不從心，唐憲宗只好派武元衡前往西川管理地方政務。高崇文離開前將當地的金銀財寶、歌姬舞女、軍用物資、能工巧匠等全部蒐羅一空，武元衡到任時，面對的幾乎是一座空城，當地百姓怨聲載道，一切都百廢待興。
武元衡在當地百姓面前立下了軍令狀，要在三年內充實府庫，讓百姓富起來。武元衡選用賢才、安撫黎民、制定新規，在他兢兢業業的治理下，蜀地又恢復以往的繁榮，當地少數民族紛紛歸服。
元和八年，武元衡返回京城，依舊擔任宰相，當時同爲宰相的李吉甫與李絳經常吵得面紅耳赤，而武元衡對此不偏不倚，深得唐憲宗的信任。也許正是這份信任，武元衡一直堅定地支持着唐憲宗，致力於削藩。武元衡一直是堅定的主戰派，他輔佐唐憲宗對藩鎮以武力討伐。這樣強硬的態度對於藩鎮而言，是威脅存亡的弊端，他們對於武元衡十分痛恨。
元和十年，淮西節度使謀反，唐憲宗派武元衡統領軍隊對淮西蔡州進行清剿。這一行爲引起了一些割據勢力的恐懼，於是他們決定刺殺以武元衡爲代表的主戰派大臣。元和十年六月三日，大唐宰相武元衡在上朝途中遇刺身亡，時年五十七歲，追贈司徒，諡號忠愍。同時上朝的副手裴度逃過一劫但也身受重傷，後來他繼任宰相之職，並統兵平定淮西叛亂，算是爲武元衡報了一仇。
