治平元年（1064年），司马光上奏《乞罢陕西义勇札子》，他认为当时在边防组织“义勇”使百姓“骨肉流离，田园荡尽”，给百姓带来无穷苦难，希望朝廷审察利害。特罢此事。当朝廷不予采纳时，他又写第二封札子，并亲自上殿面见英宗，他说：要防边必须从将帅军政着手，一味拉夫凑数，只能是“徒有惊扰，而实无所用”。英宗这次略有所动，并把上殿札子送中书省和枢密院商量，但一经商量，方知此事拟议已久，难以更改。他又连上六疏，并和宰相韩琦进行辩论，韩琦虽然无言以对，但手中有权，司马光也拿他没办法。这次谏言失败后，司马光连上五状，要求降黜。

　　治平二年（1065年），朝廷任司马光龙图阁直学士，仍留任谏职。司马光因对谏官彻底失望了，借机连上三状，要求不当谏官，他在奏章上说：“臣从事谏职，首尾五年，自本朝以来，居此官者，未有如臣之久。臣资质愚戆，惟知报国，竭尽朴忠，与人立敌，前后甚众，四海之内，触处相逢，常恐异日身及子孙无立足之地，以此朝夕冀望解去。”英宗批准他免去谏职，仍进龙图阁直学士。

　　治平三年（1066年），司马光将《通志》（以《史记》为主，编成《周纪》5卷，《秦纪》3卷，共8卷）进呈英宗。这部书的时间是从烈王二十三年，韩、赵、魏三家分封起，到秦二世三年，秦朝灭亡为止。英宗看后大为赞赏，并给司马光二条明确指示，一是接续《通志》往下编修，二是决定设立书局，并由司马光自择官属，作为自己的助手。

　　治平四年（1067年），英宗病死，神宗赵顼即位。参知政事欧阳修极力向神宗推荐，说司马光“德性淳正，学术通明”，神宗任司马光为翰林学士，不久，又任司马光为御史中丞。

新旧党政
　　神宗赵顼即位以后，年轻年盛，朝气蓬勃，决心振兴祖业。他在虚心下问、多方征求治国方略以后，感到王安石提出的一整套激进、大胆的变革方案很符合自己的思想，于是在熙宁二年（1069年），起用王安石为参知政事，主持变法。在思想上王安石主张开源，司马光主张节流。司马光和王安石因政见不同，在一些问题上进行激烈的争辩，有时在皇帝主持的议政会议上也毫不相让，但司马光对王安石的变法也并不一概反对，尤其当变法还未显露明显弊病时，他也并未公开持反对意见。甚至有人要弹劾王安石时，他还进行劝解和说服。直到王安石颁发“青苗法”，司马光才表示不同意见，他认为县官靠权柄放钱收息，要比平民放贷收息危害更大，因此表现了强烈不满。