李纲正在赴开封途中，接到任命，便赶到南京，竭尽思虑，为高宗筹划重整朝纲，组织抗金，并同高宗周围的汪伯彦、黄潜善等投降派展开尖锐斗争。他反对投降，主张“一切罢和议”，严惩张邦昌及其他为金兵效劳的宋朝官员，以励上节。为加强抗金斗争的力量，他推荐坚决抗战的老臣宗泽出任东京留守，去开封整修防御设施；又力主设置河北招抚司和河东经制司，支持两河军民的抗金斗争，并推荐张所和傅亮分别任河北招抚使、河东经制副使。他还针对北宋以来军政腐败，赏罚不明等情况，颁布了新军制二十一条，着手整顿军政，并建议在沿江、沿淮、沿河建置帅府，实行纵深防御。
　　李纲整顿军政的设施，有助于宋朝廷支撑局面，尚能为宋高宗所接受。然而，他主张坚决抗金及反对投降活动，却为宋高宗及汪伯彦、黄潜善所不容。因此，他们又设法驱逐李纲。首先，调李纲任尚书左仆射兼门下侍郎（左相），另委黄潜善接任右仆射兼中书侍郎，以牵制李纲。接着，又罢免张所、傅亮，撤销河北招抚司及河东经制司，蓄意破坏李纲的抗金部署，迫使李纲辞职。李纲主政仅七十五天，建炎元年（1127年）八月十八日便遭罢相，为观文殿大学士，提举杭州洞霄宫。

抑郁而终
　　建炎元年（1127年）十月八日，受殿中侍御史张浚弹劾，罢观文殿大学士，仍留提举洞霄宫之职。居住鄂州，建炎二年（1128年）十月间朝廷命其移往澧州（治今湖南常德市澧县）。御史中丞王绹弹劾李纲“经年不赴贬所”。建炎二年（1128年）十一月四日，又被贬谪万安军（海南岛）。建炎二年（1128年）十一月下旬，与子李宗之南渡琼州。建炎四年（1130年），遭贬流放遇赦后，隐居泰宁丹霞岩。绍兴九年（1139年）正月，宋金议和，宋向金称臣纳贡，李纲忧愤成疾。绍兴十年（1140年）正月十五病逝于仓前山椤严精舍寓所，赠少师。淳熙十六年（1189年），特赠陇西郡开国公，谥忠定。
　　李纲一生著述甚多，其遗文由其诸子编成《梁溪全集》一百八十卷，刊行于世。

成就

　　李纲为社稷生民安危，有效地组织了东京保卫战的城防，屡次击退了金兵。虽然朝廷不用他的建议，或者用了他的建议不久又废除，可是他的忠诚义气在士民中赢得了很高的威望。　　李纲有著《易传》内篇十卷、外篇十二卷，《论语详说》十卷，文章、歌诗、奏议百余卷，又有《靖康传信录》、《奉迎录》、《建炎时政记》、《建炎进退志》、《建炎制诏表札集》、《宣抚荆广记》、《制置江右录》。其中《靖康传信录》、《建炎进退志》、《建炎时政记》等，系李纲在北宋末、南宋初置身朝廷时的亲身经历和亲见亲闻的记录，是研究这段历史的宝贵资料。