宋恭帝德佑元年（1275）正月，因元军大举进攻，宋军的长江防线全线崩溃，朝廷下诏让各地组织兵马勤王。文天祥立即捐献家资充当军费，招募当地豪杰，组建了一支万余人的义军，开赴临安。宋朝廷委任文天祥知平江府，命令他发兵援救常州，旋即又命令他驰援独松关。由于元军攻势猛烈，江西义军虽英勇作战，但最终也未能挡住元军兵锋。

次年正月，元军兵临临安，文武官员都纷纷出逃。谢太后任命文天祥为右丞相兼枢密使，派他出城与伯颜谈判，企图与元军讲和。文天祥到了元军大营，却被伯颜扣留。谢太后见大势已去，只好献城纳土，向元军投降。

元军占领了临安，但两淮、江南、闽广等地还未被元军完全控制和占领。于是，伯颜企图诱降文天祥，利用他的声望来尽快收拾残局。文天祥宁死不屈，伯颜只好将他押解北方。行至镇江，文天祥冒险出逃，经过许多艰难险阻，于景炎元年（1276）五月二十六日辗转到达福州，被宋端宗赵??任命为右丞相。

文天祥对张世杰专制朝政极为不满，又与陈宜中意见不合，于是离开南宋行朝，以同都督的身分在南剑州（治今福建南平）开府，指挥抗元。不久，文天祥又先后转移到汀州（治今福建长汀）、漳州龙岩、梅州等地，联络各地的抗元义军，坚持斗争。景炎二年（1277）夏，文天祥率军由梅州出兵，进攻江西，在雩都（今江西于都）获得大捷后，又以重兵进攻赣州，以偏师进攻吉州（治今江西吉安），陆续收复了许多州县。元江西宣慰使李恒在兴国县发动反攻，文天祥兵败，收容残部，退往循州（旧治在今广东龙川西）。祥兴元年（1278）夏，文天祥得知南宋行朝移驻??山，为摆脱艰难处境，便要求率军前往，与南宋行朝会合。由于张世杰坚决反对，文天祥只好作罢，率军退往潮阳县。同年冬，元军大举来攻，文天祥在率部向海丰撤退的途中遭到元将张弘范的攻击，兵败被俘。

文天祥服毒自杀未遂，被张弘范押往??山，让他写信招降张世杰。文天祥说：「我不能保护父母，难道还能教别人背叛父母吗？」张弘范不听，一再强迫文天祥写信。文天祥于是将自己前些日子所写的《过零丁洋》一诗抄录给张弘范。张弘范读到「人生自古谁无死，留取丹心照汗青」两句时，不禁也受到感动，不再强逼文天祥了。

南宋在??山灭亡后，张弘范向元世祖请示如何处理文天祥，元世祖说：「谁家无忠臣？」命令张弘范对文天祥以礼相待，将文天祥送到大都（今北京），软禁在会同馆，决心劝降文天祥。

元世祖首先派降元的原南宋左丞相留梦炎对文天祥现身说法，进行劝降。文天祥一见留梦炎便怒不可遏，留梦炎只好悻悻而去。元世祖又让降元的宋恭帝赵??来劝降。文天祥北跪于地，痛哭流涕，对赵??说：「圣驾请回！」赵??无话可说，怏怏而去。元世祖大怒，于是下令将文天祥的双手捆绑，戴上木枷。关进兵马司的牢房。文天祥入狱十几天，狱卒才给他松了手缚：又过了半月，才给他褪下木枷。

元朝丞相孛罗亲自开堂审问文天祥。文天祥被押到枢密院大堂，昂然而立，只是对孛罗行了一个拱手礼。孛罗喝令左右强制文天祥下跪。文天祥竭力挣扎，坐在地上，始终不肯屈服。孛罗问文天祥：「你现在还有甚么话可说？」文天祥回答：「天下事有兴有衰。国亡受戮，历代皆有。我为宋尽忠，只愿早死！」孛罗大发雷霆，说：「你要死？我偏不让你死。我要关押你！」文天祥毫不畏惧，说：「我愿为正义而死，关押我也不怕！」

从此，文天祥在监狱中度过了三年。在狱中，他曾收到女儿柳娘的来信，得知妻子和两个女儿都在宫中为奴，过着囚徒般的生活。文天祥深知女儿的来信是元廷的暗示：只要投降，家人即可团聚。然而，文天祥尽管心如刀割，却不愿因妻子和女儿而丧失气节。他在写给自己妹妹的信中说：「收柳女信，痛割肠胃。人谁无妻儿骨肉之情？但今日事到这里，于义当死，乃是命也。奈何？奈何！……可令柳女、环女做好人，爹爹管不得。泪下哽咽哽咽。」

狱中的生活很苦，可是文天祥强忍痛苦，写出了不少诗篇。《指南后录》第三卷、《正气歌》等气壮山河的不朽名作都是在狱中写出的。

元世祖至元十九年（1282）三月，权臣阿合马被刺，元世祖下令籍没阿合马的家财、追查阿合马的罪恶，并任命和礼霍孙为右丞相。和礼霍孙提出以儒家思想治国，颇得元世祖赞同。八月，元世祖问议事大臣：「南方、北方宰相，谁是贤能？」群臣回答：「北人无如耶律楚材，南人无如文天祥。」于是，元世祖下了一道命令，打算授予文天祥高官显位。文天祥的一些降元旧友立即向文天祥通报了此事，并劝说文天祥投降，但遭到文天祥的拒绝。十二月八日，元世祖召见文天祥，亲自劝降。文天祥对元世祖仍然是长揖不跪。元世祖也没有强迫他下跪，只是说：「你在这里的日子久了，如能改心易虑，用效忠宋朝的忠心对朕，那朕可以在中书省给你一个位置。」文天祥回答：「我是大宋的宰相。国家灭亡了，我只求速死。不当久生。」元世祖又问：「那你愿意怎么样？」文天祥回答：「但愿一死足矣！」元世祖十分气恼，于是下令立即处死文天祥。

次日，文天祥被押解到柴市口刑场。监斩官问：「丞相还有甚么话要说？回奏还能免死。」文天祥喝道：「死就死，还有甚么可说的？」他问监斩官：「哪边是南方？」有人给他指了方向，文天祥向南方跪拜，说：「我的事情完结了，心中无愧了！」于是引颈就刑，从容就义。死后在他的带中发现一首诗：「孔曰成仁，孟曰取义，唯其义尽，所以仁至。读圣贤书，所学何事？而今而后，庶几无愧。」文天祥死时年仅四十七岁。