1944年，“陆军第十八集团军山东胶东军区海军支队”成立，这是人民军队历史上第一支海军部队。1949年1月，毛泽东在中央政治局会议上提出要组建海军。3月，中央军委决定由第三野战军筹建人民海军。4月23日，张爱萍在江苏省泰县白马庙乡宣告成立人民海军，这一天后来被确立为中国人民解放军海军诞辰日。

新中国成立后，人民海军奉行“近岸防御”战略，重点保卫新生政权和海防安全。1949年11月，组建第一支护卫舰部队。1950年至1951年，13个海岸炮兵团陆续组建。1952年9月，海军航空兵宣布组建。1953年，海军陆战队组建陆战第1团。1954年6月10日，第一支潜艇部队成立。1955年，中南军区海军更名为南海舰队，华东海军改称东海舰队。1960年，北海舰队成立。海军战略调整为“近海防御”，主要作战舰艇实现以自力更生为主、技术引进为辅的布局。20世纪80年代中期，开始研发国产第二代052型驱逐舰。1983年，第一代弹道导弹核潜艇092型核潜艇进入海军服役。1985年，“合肥”号导弹驱逐舰和“丰仓”号综合补给舰组成的特混编队首次对南亚3国进行正式访问。1988年，巨浪-1型潜射弹道导弹首次在092型核潜艇上试射成功。

21世纪初期人民海军开始走向“深蓝”。2002年，“青岛”号导弹驱逐舰和“太仓”号综合补给舰组成编队完成首次环球航行。2005年，参加“和平使命-2005”军演。2008年，首批护航编队赴亚丁湾、索马里海域执行护航任务。2012年，第一艘航空母舰“辽宁”号列编服役。此后，山东舰、福建舰等航母陆续入列，055型导弹驱逐舰、075型两栖攻击舰等先进装备也不断服役，人民海军的实力和影响力不断提升。