隆庆皇帝去世后万历皇帝登基，张居正联合太监冯保斗倒了高拱，大权独揽，成为帝国首辅，打着的是恢复祖宗法度的旗号，开始实施他的治国理念。

此时，海瑞已59岁，闲赋在家，他在家反思自己被高拱利用了，成为高拱打击徐阶的工具，自己没有利用价值了，被高拱扫地出门，心中对高拱充满了怨恨，他将目光投向了张居正。

海瑞认为张居正出身寒门，有远大的抱负，心胸宽阔，一心为民，主张抑制豪强土地兼并，开源节流，兴修水利等，与自己的执政理念相近，志同道合。想到这些，他拿起笔来给张居正写信，表示自己身体尚好，愿意继续为朝廷效力。

张居正收到海瑞的来信后，掂量再三，认为利用海瑞攻击对手是合适的，海瑞是倔强的老头，勇往直前，为了自己的信念能不顾一切。如果纳入自己的阵营，难保有一天他突然发作反对自己，这样的人还是不要的好。想到这些，他写信安慰海瑞，说自己近段时间很忙，以稳定为主，不宜大动人事。如果有需要，定会请他出山。实际上，张居正婉言拒绝了他。

此后张居正当权的十年，海瑞未得到启用，赋闲在家，满怀报国情怀，得不到施展,也是郁闷得很。

万历十三年，张居正去世三年后，万历皇帝任命海瑞为南京都察院佥都御史，此时他已七十二岁。

海青天久负盛名，他上任的那天，南京万人空巷，争先恐后挤到海瑞跟前，想目睹海青天的真容，看他与传说中的是否一样。每天人们潮水般地涌到海瑞府邸门口，他不是来申冤，而只是想来看一看心目中的青天大老爷是什么模样。

海瑞上任后向万历皇帝提了很多过激的建议，万历皇帝没有采纳，将他继续升官，任命他为南京都察院右都御史，官至正二品，这个职位没有实权。

万历十五年(1587年)冬，海瑞去世，全部家产还不够办丧事用。南京老百姓自发地为海青天戴孝，满城衰号，送葬的人延绵百里，无人离去，场面十分震撼。

张居正不重用海瑞是明智的，他需要的是能干和听话的官员，保证他的理念得到落实。万历皇帝需要的是稳定江山，只他需要将海瑞好好供养起来，赢得老百姓的认可，海瑞做不做事并不重要。

海瑞充满正义，是老百姓心中的神，但他不具备解决高难度问题的能力，他痛骂心目中的昏君和贪官。骂人和发牢骚解决不了任何问题，只会增加工作难度。对海瑞，张居正只能弃而不用。