宋度宗鹹淳十年(公元1274年)六月，忽必烈下詔平宋，丞相伯顏擔任最高統帥，南宋政權危在旦夕。七月，宋度宗病死，宋恭帝即位，謝太后臨朝稱制，下詔勤王。德祐元年(公元1275年)，文天祥變賣家產，招募義士，趕赴都城臨安，應詔勤王。但是，朝中大臣對文天祥並不信任，命其前往平江府(今江蘇蘇州)守衛。後因朝廷部署失策，平江府失守，文天祥纔不得不回到臨安。
德祐二年(公元1276年)正月，元軍圍困臨安。正月十八日，謝太后眼看大勢已去，急忙遣使攜帶傳國玉璽和皇帝降表，向伯顏請降。當晚，右丞相陳宜中逃跑，其他主要官員也率兵撤離。第二天早晨，文天祥臨危受命，出任右丞相，與左丞相吳堅等赴伯顏大營議和。
文天祥在伯顏面前慷慨陳詞，據理力爭。面對伯顏的恐嚇，他面無懼色地回答：“吾乃南朝狀元宰相，但欠一死報國，刀鋸鼎鑊，非所懼也!”文天祥還曾在元營賦詩：“三宮九廟事方危，狼子心腸未可知。若使無人折狂虜，東南那個是男兒。”
降元的南宋守將呂文煥爲討好伯顏，前來勸說文天祥。文天祥怒不可遏，痛斥其爲亂賊。呂文煥以自己苦守襄陽6年而朝廷不予施救爲自己辯解，文天祥厲聲喝道：“力窮援絕，死以報國，可也。”
文天祥表現出的無畏氣概，使得伯顏對他不得不另眼相待。如果文天祥能夠投降，元軍可以利用他的聲望去進一步收拾南方的殘局。於是，伯顏派人勸降文天祥：“大元將興學校、立科舉，丞相在大宋爲狀元宰相，今爲大元宰相無疑。”文天祥聽後，卻當場痛哭。
事後，文天祥還賦詩一首以明志：“虎牌氈笠號公卿，不直人間一唾輕。但願扶桑紅日上，江南匹士死猶榮。”虎頭金牌和氈帽是元朝公卿的服飾，“扶桑紅日上”象徵南宋政權重新崛起。
伯顏見文天祥不肯屈服，便將他扣留在軍營中，其他大臣簽訂降書後於次日返回臨安。之後，文天祥被押往大都，所幸於途中趁機逃脫。歷盡艱險之後，文天祥泛海南下溫州，輾轉來到宋端宗趙昰的行朝駐地福州。
不料，文天祥依然受到掌政者的排擠，只以同都督軍馬的身份先後在南劍州(今福建南平)和汀州(今福建長汀)開府，重新組織軍民抗元。文天祥到汀州後不久，福州失陷，小朝廷逃往廣東。他隨之轉戰漳州、梅州一帶。景炎二年(公元1277年)五月，文天祥率兵進入江西，在雩都縣(今江西於都)大敗元軍，收復興國、吉州等地，一時聲威頗盛。但元軍旋即大舉反攻，文天祥的妻兒和幕僚被俘，他因有義士替身受捕才倖免於難。
祥興元年(公元1278年)，文天祥帶領殘部，轉戰廣東南嶺一帶。六月，爲擺脫元兵的圍追，他要求赴援崖山行朝，遭到當政者拒絕。十二月，文天祥在廣東海豐五坡嶺不幸被俘。他吞藥自盡未成，被押往崖山戰場。
祥興二年(公元1279年)正月，屯駐在崖山的南宋流亡政權準備與元軍決一死戰。元軍統帥張弘範命文天祥寫信勸降。文天祥卻賦詩道：“辛苦遭逢起一經，干戈寥落四周星。山河破碎風飄絮，身世浮沉雨打萍。惶恐灘頭說惶恐，零丁洋裏嘆零丁。人生自古誰無死，留取丹心照汗青。”這就是千古流傳的《過零丁洋》。
崖山海戰是南宋亡國的最後一戰，宰相陸秀夫揹負皇帝蹈海自盡，後宮諸臣隨之紛紛投海，“死溺者數萬人”。文天祥在元軍海船上親眼目睹南宋政權的徹底覆滅，寫詩慟哭“正氣掃地山河羞”“惟有孤臣雨淚垂”。
崖山海戰後，文天祥被押回廣州。之後，元世祖忽必烈下詔以“誰家無忠臣”的理由，命張弘範善待文天祥，並將其押解大都(今北京)。不過，文天祥卻開始了絕食。他計劃七八天後將行至家鄉吉州時，自己就可以餓死盡節、歸葬故里了。但絕食八天後，文天祥依然未死，而故鄉已過。此時，他纔打消了絕食的念頭。
從至元十六年(公元1279年)十月初一至至元十九年(公元1282年)十二月初九，文天祥在大都度過了3年2個月的囚禁生涯。起初，元朝以上賓之禮接待文天祥，勸降者絡繹不絕。
第一個來勸降的是留夢炎。他也是個狀元宰相，德祐元年十一月聽到元軍破獨鬆關，就私自逃跑，不久投降元軍。文天祥對此人無比鄙夷，提筆賦詩“龍首黃扉真一夢，夢迴何面見江東”。龍首指的是狀元，黃扉是宰相的辦公場所。
第二個出馬的是已被降封爲瀛國公的宋恭帝。此時，他也僅是一個9歲的孩童。元朝統治者只是想利用舊日的君臣關係，逼迫文天祥就範。文天祥讓瀛國公坐下，自己北面跪拜不起，連聲說“聖駕請回”。瀛國公無話可說，怏怏而返。
第三個出馬的是元朝重臣平章政事阿合馬。他命文天祥下跪，文天祥卻不示弱，並回答道：“南朝宰相見北朝宰相，豈能下跪?”阿合馬故意問：“你何以至此?”文天祥回答：“南朝早用我爲宰相，北人到不了南方，南人也到不了北方。”面對阿合馬的生死威脅，文天祥則直言：“亡國之人，要殺便殺!”阿合馬見奈何不得，只好起身而退。
勸降不成，文天祥被帶上木枷，關入土牢。至元十七年(公元1280年)春，他突然接到女兒的來信，才知道3年多杳無音訊的妻子、女兒都在大都。文天祥知道這是元朝打出的感情牌，只要自己投降便可與家人團聚。他強忍着悲痛，拒絕給女兒回信。在給自己妹妹的信中，文天祥談及此事：“人誰無妻兒骨肉之情，但今日事到這裏，於義當死，乃是命也。”
至元十九年(公元1282年)，有元朝大臣提出以儒學治國的主張。一時間，朝野上下出現了讓文天祥出仕的呼聲。忽必烈對此也非常重視，曾問羣臣：“南、北宰相誰賢?”羣臣都說：“北人無如耶律楚材，南人無如文天祥。”於是，忽必烈考慮對文天祥付以大任，並派人再去勸降。文天祥堅決表示，自己絕不會盡棄平生，“遺臭於萬年”。
忽必烈不殺文天祥，一是佩服其氣節，二是愛慕其才能。不過，隨着發生不少叛亂和反抗，忽必烈需要在文天祥的生死問題上有個了斷。這一天，忽必烈在大殿召見文天祥，親自出面勸降。文天祥面對忽必烈長揖不拜，忽必烈也不強行要求，面對忽必烈的“元朝宰相”許諾，文天祥回答：“我受宋朝三帝厚恩，號稱狀元宰相。今事二姓，非我所願。”忽必烈追問：“所願爲何?”文天祥的回答簡短而堅定：“願與一死足矣。”
至元十九年十二月初九(公元1283年1月9日)，文天祥慨然就義，時年47歲。
