段文振是北海期原人，段文振的祖父是段壽，父親是是北周時期和隋朝的將領。段文正這個人膽識過人，有膽量，有智慧，爲人比較正直，是宇文護的親信。宇文護髮現段文振非常有才幹和膽量，就提拔成爲了兵曹，段文振一直屢立奇功。
在建德五年的時候，北周武帝時期，進攻北海的海昌王，段文振率人登上了晉州城，讓海昌王投降。通過這次戰爭，段文振的表現讓北周武帝非常高興，北周武帝還賜給了上千段的布帛，再後來攻打文侯以及華谷，高壁，在北周武帝手下立了不少的功勞，還讓北齊的安德王投降。段文振原本是要被朝廷授予高官，但是因爲有奸人所陷害，最後只被授予了儀同，成爲襄國縣公的位置。
段文振在北周立下戰功，後來在580年又歸附隋文帝楊堅，當時在歸順隋文帝的時候，尉遲迥還派人拿他的妻兒和母親作爲要挾。但是最後段文振還是堅持歸順隋文帝，跟隨隋文帝安撫淮南，隨後成爲衛尉少卿，並且還任命爲內史侍郎。不過過了一段時間，因爲段文振在位期間沒有什麼功勞，被罷免了官職，之後被任命成爲石州和河州的刺史，在這兩個地方非常有威名。等到突厥人進犯的時候，他被朝廷任命成爲行軍的總管，把突厥人一直趕到。
段文振在隋朝時期也一直立下戰功。在589年，成爲幷州總管司馬時期，自己的母親去世，段文振和朝廷申請回家，沒多久又被朝廷召回，讓他官復原職，段文振一直不肯，直到祭奠之後，他纔回歸朝廷。
到了599年，突厥猖狂，段振文又開始抵禦突厥部隊，又因爲段文振和王世積有交情，王世積在段文振抗擊突厥時期提供不少的駱駝和馬匹。等到段文振抗擊突厥成功之後回京，王世積獲罪被殺了，朝廷對段文振的功勳不予理睬，就因爲段文振和王世積交好。後來段文振又平定了蠻，這時候朝廷纔有點反應，賜予了200個奴婢。
段文振直到603年，隋文帝去世之後，隋煬帝楊廣登上皇位，段文振才被得到重用，成爲兵部尚書。隋煬帝對待段文振的待遇非常好，非常重視段文振。隋煬帝非常信任段文振，在巡視江都期間，還讓段文振掌管江都的事務。
在612年跟隨隋煬帝一起征討高句麗，成爲左候衛大將軍。在前往的路上，段振文就病重了，最後病死在軍中，隋煬帝追封隋煬帝成爲光祿大夫，北平候等，還賜給了他家綿薄千段，糧食二千石。也不枉段文振征戰一生，馳騁疆場。
