1953年，已完成朝鲜战场三年战斗任务的吴瑞林接到指令，返回国内，负责守卫国家南部的边界。

1954年10月，我被选调至速成中学的高级干部培训班参与学习。较为特别的是，我那14岁的儿子当时已步入中学阶段，而我却需从头开始，从小学的基础知识学起。

吴瑞林出身贫寒，未接受过正规教育，他的知识大多来源于军旅生涯中的点滴积累，缺乏系统性。在那个时代，他的主要任务是行军作战，因此在军事领域展现出较为突出的能力。或许许多人对他的战功并不了解，这或许与他在国内所担任的岗位有关。

在解放战争时期，吴瑞林领导的地方部队参与了多场激战，但其参与大规模野战的机会相对较少。他真正崭露头角，是在担任第五纵队副司令期间。特别是在平津战役的丰台一役中，他的表现尤为出色。尽管该纵队的司令员是万毅，但实际作战指挥多由吴瑞林负责。

前往中南地区时，他被任命为重新整编后的42军军长。

中南地区解放后，42军这支新成立的部队被派遣至黑龙江进行军垦任务。然而，朝鲜战争的爆发为42军提供了宝贵的锻炼机会。与38军、40军和39军一同入朝作战，尽管42军在资历和战斗力上稍逊一筹，但在吴瑞林的率领下，它出色地完成了上级赋予的每一场战斗任务。就作战经验的积累和成长而言，42军的表现并不逊色于其他几支经验丰富的部队。

1953年初，在停战协议签署前夕，他带领部队返回国内，负责守卫国家南部的边界。

1954年，他被选拔去参加一项学习计划，旨在全面学习文化知识，为后续的专业课程打下坚实基础。尽管这是针对较高水平学员的班次，但所学内容涵盖了小学及中学的基础知识。当时，他的儿子年仅14岁，已经成功考入武汉第四中学，而他本人却还在学习小学阶段的课程。对此，他的老战友感慨万千，戏称这是“儿子步入中学，老子重回小学”的奇妙现象。

吴瑞林对文化知识有着强烈的追求，在短短不到一年的学习时间里，他便成功获取了中学毕业证书。

随后，他在海南军区司令员一职上服务超过两年时间，至1957年，他主动请缨前往高级军事学院深造，即便这意味着暂时放弃大军区副司令及参谋长的职务。这所学院的教育内容不仅涵盖基础文化知识，更侧重于军事学科，整个学习周期为三年。他意识到自己已经年过四十，若再不抓紧学习，恐将错失良机。

1959年末，即将完成学业的他，在同年12月接到了海军的任职通知。尽管心中诸多考量，且有多人前来劝说，但他最终还是做出了决定。自1960年1月起，他开始履职，直至1971年卸任，总计服务了11年之久。在这期间，他的职务从南海舰队的正兵团级司令晋升为海军的常务副司令员。